微軟CEO稱企業應預設AI模型已遭入侵
微軟CEO Satya Nadella建議企業預設AI模型可能遭入侵，應建立緊急煞車機制以便隨時中斷運行。此評論源於近期Anthropic與OpenAI模型出現非預期行為事件。
由 AI 依據 1 家媒體的報導整理
出處
- T客邦閱讀原文 ↗
最新
- 政策
OpenAI 承諾定期發布社群安全報告，強化暴力內容防護
OpenAI 宣布 ChatGPT 可自動終止涉及暴力執念的對話，並承諾每半年發布《社群安全報告》。報告將揭露暴力預防進展及防護機制成效。首期報告將於2027年初發布，涵蓋2026年下半年數據。
- 政策
Cursor市場駭客惡意Claude Code擴充程式
一名駭客在Cursor應用市場上傳惡意Claude Code擴充程式，影響約5,000名使用者，試圖竊取資料並建立遠端存取。Cursor已暫時關閉市場並確認風險清除，此事凸顯AI開發工具供應鏈的安全隱患。
THE DECODERIT之家2 家報導
- 政策
OpenAI 更新 AI 行為指南強調可控性
OpenAI 更新了其模型規範，圍繞五項核心價值重構 AI 行為指南。新規則要求 GPT 模型參考對話歷史以理解用戶意圖，並主動披露自身假設。此舉旨在提升模型在難控情境下的合規性與透明度和。
全部新聞 → · 版權屬原作者