开源

OpenShell 代理执行环境发布

社群分享 OpenShell,一款安全私密的自主AI代理运行环境。该工具允许用户在可控环境中部署多个AI代理,强化数据隐私。

由 AI 根据 1 家媒体的报道整理

出处

最新

  1. 开源

    清华大学开源LLM代理缓存引擎AKV

    清华大学研究团队发布开源项目AKV,这是一个基于SGLang的缓存工程服务系统。该系统通过丢弃并重新定位KV缓存而非摘要历史记录,将4项代理基准测试的平均成本降低27.7%。此举有助于优化大型语言模型在代理应用中的执行效率与成本。

    MarkTechPost

  2. 开源

    腾讯发布开源世界模型Hy-Nomas

    腾讯发布开源世界模型Hy-Nomas,可生成类似游戏的可交互虚拟世界,并支持RTX 4090本地运行。

    GIGAZINE

  3. 开源

    港科大与岩山科技开源KV缓存优化模型

    港科大与岩山科技合作开源一款AI模型,将KV Cache压缩99%。该技术使单卡吞吐量提升6倍,支持512路并行长推理。

    量子位

  4. 开源

    LiteLLM 揭露供应链攻击细节:未撤销密钥导致发布被入侵

    开源 AI 工具 LiteLLM 公布调查结果,指出攻击者利用五月遗留且未撤销的密钥,取得 GitHub 管理权并窃取维护者凭证。黑客随后操控官方发布流程,将含有恶意程序的版本推送到 PyPI 及容器库,波及相关开发者。

    iThome

全部新闻 → · 版权属原作者