開源

騰訊開源混元同傳大模型Hy-SimulMT

騰訊發布並開源混元同傳大模型Hy-SimulMT。該模型實現中英語音實時互譯，響應時間約3秒，翻譯效果超越多數主流開源及商用API。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 開源

    清華大學開源LLM代理快取引擎AKV

    清華大學研究團隊發布開源項目AKV，這是一個基於SGLang的快取工程服務系統。該系統透過丟棄並重新定位KV快取而非摘要歷史記錄，將4項代理基準測試的平均成本降低27.7%。此舉有助於優化大型語言模型在代理應用中的執行效率與成本。

    MarkTechPost

  2. 開源

    騰訊發布開源世界模型Hy-Nomas

    騰訊發布開源世界模型Hy-Nomas，可生成類似遊戲的可互動虛擬世界，並支援RTX 4090本地運行。

    GIGAZINE

  3. 開源

    港科大與岩山科技開源KV快取優化模型

    港科大與岩山科技合作開源一款AI模型，將KV Cache壓縮99%。該技術使單卡吞吐量提升6倍，支援512路並行長推理。

    量子位

  4. 開源

    LiteLLM 揭露供應鏈攻擊細節：未撤銷金鑰導致發布被入侵

    開源 AI 工具 LiteLLM 公布調查結果，指出攻擊者利用五月遺漏且未撤銷的金鑰，取得 GitHub 管理權並竊取維護者憑證。駭客隨後操控官方發布流程，將含有惡意程式的版本推送到 PyPI 及容器庫，波及相關開發者。

    iThome

全部新聞 → · 版權屬原作者