Anthropic建议加州赋予法院阻止高危AI模型权力
Anthropic致信加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。该公司主张针对性措施比全局紧急开关更有效，此建议与其此前的监管立场一致。
由 AI 根据 2 家媒体的报道整理
出处
最新
- 政策
OpenAI 承诺定期发布社区安全报告，强化暴力内容防护
OpenAI 宣布 ChatGPT 可自动终止涉及暴力执念的对话，并承诺每半年发布《社区安全报告》。报告将揭露暴力预防进展及防护机制成效。首期报告将于2027年初发布，涵盖2026年下半年数据。
- 政策
Cursor市场黑客恶意Claude Code扩展
一名黑客在Cursor应用市场上传恶意Claude Code扩展，影响约5,000名用户，试图窃取资料并建立远程存取。Cursor已暂时关闭市场并确认风险清除，此事凸显AI开发工具供应链的安全隐患。
THE DECODERIT之家2 家报道
- 政策
OpenAI 更新 AI 行为指南强调可控性
OpenAI 更新了其模型规范，围绕五项核心价值重构 AI 行为指南。新规则要求 GPT 模型参考对话历史以理解用户意图，并主动披露自身假设。此举旨在提升模型在难控情境下的合规性与透明度。
- 政策
OpenAI支持robots.txt设置AI训练偏好
OpenAI宣布将遵循通用的robots.txt信号，让网站运营者可借此向参与服务商表达其AI训练偏好。此举旨在让网站拥有者能更标准化地管理其内容被用于模型训练的方式，有助于明确数字版权与训练数据的界限。
全部新闻 → · 版权属原作者