DeepSeek开源DeepInfer推理引擎项目
DeepSeek在GitHub开源了DeepInfer项目，这是DeepSeek-V4.1-Flash模型背后的推理引擎。该系统包含MoE专家并行及自定义Kernel等技术，据称单集群日处理量可达约155万亿Token，旨在优化大规模推理中的计算与调度效率。
由 AI 根据 1 家媒体的报道整理
出处
- 雷峰网阅读原文 ↗
最新
- 开源
微软发布TokenEconomizer插件降低成本
微软研究与UC Berkeley推出开源插件TokenEconomizer，通过学习过去会话记录来降低编码代理成本。测试显示在SWE-Bench上可降低18.4%至30.9%的代币成本，且无需修改代理架构。
- 开源
小米开源 0.8B 参数 OCR 模型
小米官方开源了轻量级文档理解模型 Xiaomi-OCR-0，参数规模为 0.8B。该模型基于 Qwen3.5 基座，能同时覆盖文档解析、关键信息抽取与 OCR 视觉问答，权重与代码已上线 Hugging Face。
全部新闻 → · 版权属原作者