港科大與岩山科技開源KV快取優化模型
港科大與岩山科技合作開源一款AI模型,將KV Cache壓縮99%。該技術使單卡吞吐量提升6倍,支援512路並行長推理。
由 AI 依據 1 家媒體的報導整理
出處
- 量子位閱讀原文 ↗
最新
- 開源
Nanbeige 發布開源 Agentic 程式模型 4.3-33B
Nanbeige LLM Lab 發布 Nanbeige4.3-33B,這是一個採用 Apache 2.0 授權的 33B 參數模型,支援 512K 上下文。該模型在 Terminal-Bench 2.1 中獲得 80.9 分,後續將用於訓練更小的 3B 模型。
- 開源
Hugging Face發布DNA語言模型Carbon-X
Hugging Face基於Qwen3-14B發布開源DNA語言模型Carbon-X,支援直接閱讀原始DNA序列並以英文回應。該模型採用Apache 2.0授權,在五項DNA基準測試中平均準確率達66.7%,旨在結合生物資訊與自然語言處理。
- 開源
Nvidia 開源 Flora 機器人數據引擎
Nvidia 推出開源數據引擎 Flora,使用三個微調版 Qwen3.5 模型標註機器人影片,成本較 GPT-6 Astra 降低 125 倍。該系統在捕捉動作錯誤方面表現優異,是 Nvidia 掌控機器人價值鏈策略的關鍵一環。
全部新聞 → · 版權屬原作者