開源

DeepSeek開源DeepInfer推理引擎項目

DeepSeek在GitHub開源了DeepInfer項目，這是DeepSeek-V4.1-Flash模型背後的推理引擎。該系統包含MoE專家並行及自定義Kernel等技術，據稱單集群日處理量可達約155萬億Token，旨在優化大規模推理中的計算與調度效率。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 開源

    微軟發布TokenEconomizer插件降低成本

    微軟研究與UC Berkeley推出開源插件TokenEconomizer，透過學習過去會話記錄來降低編碼代理成本。測試顯示在SWE-Bench上可降低18.4%至30.9%的代幣成本，且無需修改代理架構。

    MarkTechPost

  2. 開源

    小米開源 0.8B 參數 OCR 模型

    小米官方開源了輕量級文檔理解模型 Xiaomi-OCR-0，參數規模為 0.8B。該模型基於 Qwen3.5 基座，能同時覆蓋文檔解析、關鍵信息抽取與 OCR 視覺問答，權重與代碼已上線 Hugging Face。

    IT之家

全部新聞 → · 版權屬原作者