Microsoft CEO「AIモデルは侵入を前提に制御せよ」
Microsoft CEOのSatya Nadella氏は、AIモデルが侵入された可能性があることを前提にし、緊急停止メカニズムを設けて即時に稼働を中断できるようにすべきだと提言した。この発言はAnthropicやOpenAIのモデルで想定外振る舞いが報告されたことに伴うものだ。
1 社の報道をもとに AI が要約
出典
- T客邦元記事を読む ↗
最新
- 政策
OpenAIがコミュニティ安全レポートの定期公開を約束、暴力防止を強化
OpenAIは、暴力的執着を示す対話をChatGPTが自動終了できることを発表し、半年ごとに「コミュニティ安全レポート」を発表することを約束した。レポートは暴力予防の進捗と保護メカニズムの効果を示す。第1回は2027年初頭に公開され、2026年下半期を対象とする。
- 政策
Cursorマーケットで悪意あるClaude Code拡張がハッキング
ハッカーがCursorマーケットプレイスに悪意あるClaude Code拡張機能をアップロードし、最大5,000人のユーザーに影響を与えた。データ窃盗とリモートアクセスの試みがあった。Cursorはマーケットを一時オフラインにし、リスク除去を確認した。AI開発ツールにおけるサプライチェーンセキュリティのリスクを浮き彫りにした。
THE DECODERIT之家2 社が報道
- 政策
OpenAI、AI行動ガイドラインを更新し制御可能性を強調
OpenAIはモデル仕様を更新し、5つのコアバリューに基づいてAI行動ガイドラインを再構成した。新ルールでは、GPTモデルが会話履歴からユーザーの意図を推論し、自身の仮定を公開することを義務付ける。制御困難な場面でのコンプライアンスと透明性を向上させる狙い。
すべてのニュース → · 著作権は各作者に帰属します