摩爾線程開源萬卡級MoE訓練基礎設施
摩爾線程開源Megatron-MUSA-Titan項目，支援萬卡級集群訓練兆參數MoE模型。該項目涵蓋預訓練與強化學習，透過低精度計算與專家並行優化大規模訓練效率。
由 AI 依據 1 家媒體的報導整理
出處
- IT之家閱讀原文 ↗
最新
- 開源
微軟發布TokenEconomizer插件降低成本
微軟研究與UC Berkeley推出開源插件TokenEconomizer，透過學習過去會話記錄來降低編碼代理成本。測試顯示在SWE-Bench上可降低18.4%至30.9%的代幣成本，且無需修改代理架構。
- 開源
小米開源 0.8B 參數 OCR 模型
小米官方開源了輕量級文檔理解模型 Xiaomi-OCR-0，參數規模為 0.8B。該模型基於 Qwen3.5 基座，能同時覆蓋文檔解析、關鍵信息抽取與 OCR 視覺問答，權重與代碼已上線 Hugging Face。
全部新聞 → · 版權屬原作者