开源

摩尔线程开源万卡级MoE训练基础设施

摩尔线程开源Megatron-MUSA-Titan项目,支持万卡级集群训练万亿参数MoE模型。该项目涵盖预训练与强化学习,通过低精度计算与专家并行优化大规模训练效率。

由 AI 根据 1 家媒体的报道整理

出处

最新

  1. 开源

    微软发布TokenEconomizer插件降低成本

    微软研究与UC Berkeley推出开源插件TokenEconomizer,通过学习过去会话记录来降低编码代理成本。测试显示在SWE-Bench上可降低18.4%至30.9%的代币成本,且无需修改代理架构。

    MarkTechPost

  2. 开源

    小米开源 0.8B 参数 OCR 模型

    小米官方开源了轻量级文档理解模型 Xiaomi-OCR-0,参数规模为 0.8B。该模型基于 Qwen3.5 基座,能同时覆盖文档解析、关键信息抽取与 OCR 视觉问答,权重与代码已上线 Hugging Face。

    IT之家

全部新闻 → · 版权属原作者