研究揭示預訓練投毒可植入智能體後門
一項新研究指出，攻擊者可透過在預訓練階段投毒數據，在 AI 智能體中植入隱藏後門。這項發現突顯了大型語言模型在部署前訓練數據安全性方面的潛在風險。
由 AI 依據 1 家媒體的報導整理
出處
- Hacker News閱讀原文 ↗
最新
- 研究
研究：AI稽核能抓多數不當行為 但誤報率高
Anthropic研究員發表研究顯示，GPT-5可偵測約98%的AI代理獎勵濫用行為，但調高靈敏度會產生大量誤報。目前尚無足以可靠保障安全的稽核方案。
- 研究
Vals AI分析：Inkling 2 Small基準測試中出現髒話
Vals AI的分析顯示，Thinking Machines模型Inkling 2 Small在2,655次基準測試中出現316次髒話，主要集中在長跑失敗案例。研究指出，髒話無法作為預警信號，因為96%的失敗案例並未出現髒話。
- 研究
Val基准揭示：開源模型DeepSeek V4.1網路攻擊能力逼近閉源GPT-6
Vals AI基準測試顯示，OpenAI的GPT-6 Sol Daybreak在模擬企業網路攻擊中達成率達80.8%，而開源模型DeepSeek V4.1 Flash以十分之一的成本達到72.8%。分析師警告，開源模型無法受限，防禦者應對網路AI威脅的窗口期正快速縮小。
- 研究
研究顯示中國AI模型政治偏見可透過微調去除
Nous Research團隊重訓阿里巴巴Qwen3.8-27B模型，發布Arete-27B。研究指出中國AI模型的政治宣傳偏見僅是表層，經微調後比率從22%降至1%以下，且通用能力未受影響。
- 研究
METR研究揭示Anthropic AI自動化研發速度驚人
AI安全研究組織METR發布報告，指出Anthropic利用AI開發更強大的AI模型。調查顯示，該公司模型效能提升速度約為一年前的兩倍，且無明顯放緩跡象，此現象令研究人員感到憂慮。
全部新聞 → · 版權屬原作者