開源

開源工具 GPU Unlock 解鎖 RTX 30 系列 AI 算力

開源專案 GPU Unlock 可解除安培架構显卡的人為限制,無需修改驅動或 VBIOS。解除限制後,特定負載下張量核心吞吐量幾乎翻倍,有助於提升 AI 運算效能。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 開源

    清華大學開源LLM代理快取引擎AKV

    清華大學研究團隊發布開源項目AKV,這是一個基於SGLang的快取工程服務系統。該系統透過丟棄並重新定位KV快取而非摘要歷史記錄,將4項代理基準測試的平均成本降低27.7%。此舉有助於優化大型語言模型在代理應用中的執行效率與成本。

    MarkTechPost

  2. 開源

    騰訊發布開源世界模型Hy-Nomas

    騰訊發布開源世界模型Hy-Nomas,可生成類似遊戲的可互動虛擬世界,並支援RTX 4090本地運行。

    GIGAZINE

  3. 開源

    港科大與岩山科技開源KV快取優化模型

    港科大與岩山科技合作開源一款AI模型,將KV Cache壓縮99%。該技術使單卡吞吐量提升6倍,支援512路並行長推理。

    量子位

  4. 開源

    LiteLLM 揭露供應鏈攻擊細節:未撤銷金鑰導致發布被入侵

    開源 AI 工具 LiteLLM 公布調查結果,指出攻擊者利用五月遺漏且未撤銷的金鑰,取得 GitHub 管理權並竊取維護者憑證。駭客隨後操控官方發布流程,將含有惡意程式的版本推送到 PyPI 及容器庫,波及相關開發者。

    iThome

  5. 開源

    Nanbeige 發布開源 Agentic 程式模型 4.3-33B

    Nanbeige LLM Lab 發布 Nanbeige4.3-33B,這是一個採用 Apache 2.0 授權的 33B 參數模型,支援 512K 上下文。該模型在 Terminal-Bench 2.1 中獲得 80.9 分,後續將用於訓練更小的 3B 模型。

    MarkTechPost

全部新聞 → · 版權屬原作者