研究

OpenAI说明前沿模型失准检测方法

OpenAI描述其如何使用分层监控系统来检测前沿模型失准及未授权的代理行为。这种机制允许响应者在事件恶化前进行介入，强化了对大型AI模型安全性的监控能力。

由 AI 根据 1 家媒体的报道整理

出处

最新

  1. 研究

    專家警告：AI 心理諮詢「分身」恐延誤治療

    越来越多民众在心理治疗期间使用生成式 AI 扮演咨询师角色。专家指出，此举可能混淆疗程，并导致患者延误接受专业治疗，对心理健康产生负面影响。

    科技新報

  2. 研究

    研究：AI性格诊断结果随语言变化

    中国科学技术大学研究团队进行实验，发现AI模型的性能与性格特征差异显著。结果显示，AI的回答内容会因所使用的语言不同而产生变化。

    GIGAZINE

  3. 研究

    研究人员将NES模拟器嵌入Qwen模型

    Drew Breunig受Divyansh Agrawal的Qwenputer启发，成功将Game Boy 6502 CPU的NES模拟器烘进Qwen3.5-4B模型权重。用户现可让Qwen直接执行超级玛丽号等NES ROM，尽管速度较慢，此实验展示了LLM模拟硬件架构的新可能性。

    Simon Willison

  4. 研究

    Claude AI 自主为小鼠大脑进行基因治疗手术

    研究人员展示 Claude AI 模型自主选择药物并对癫痫小鼠大脑进行基因治疗手术。这是首次 AI 代理在活体哺乳动物身上自主完成诊疗流程，展现了其在生物医学实验中的高度自主性与安全边界测试。

    THE DECODER

  5. 研究

    四大AI安全代理对比：Claude、Codex、Mantis、Cloudflare

    Anthropic、OpenAI、Cloudflare和Google各自发布了用于在源代码中查找安全漏洞的AI代理。MarkTechPost发布了这四款代理的详细对比，它们均采用「查找、反证、修补」的相同循环逻辑，旨在帮助开发者提高代码安全性。

    MarkTechPost

全部新闻 → · 版权属原作者