晶片

Google 開放 TPU Sync 快取傳輸庫

Google 發布開源 C++ 庫 TPU Sync，用於在 TPU 記憶體與主機間轉移 KV 快取及權重。官方稱在大規模 MoE 模型上可降低超過 90% 的轉移延遲。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 晶片

    韓國企業規劃吉瓦級數據中心落後於計劃

    韓國KT、SK Telecom等企業雖提出建造吉瓦級數據中心的計劃，但現行設施容量僅數十至數百兆瓦。專家擔心規模差距將導致客戶爭奪不利及擴建計劃延誤，影響AI算力擴張進度。

    IT之家

  2. 晶片

    中國AI企業疑用NVIDIA Blackwell晶片開發模型

    AI研究組織Unemployment Labs分析多款中國AI模型，發現其訓練過程中有使用受限制NVIDIA Blackwell GPU的痕跡。該結果顯示中國AI企業可能在出口管制下仍持續使用高階晶片開發模型，凸顯晶片管制落實的挑戰。

    GIGAZINETHE DECODERTechCrunch3 家報導

  3. 晶片

    玩家用傲騰內存運行 2.8 兆參數 Kimi 模型

    網民展示使用已停產的 Intel 傲騰持久內存與 Xeon 處理器，成功運行 2.8 萬億參數的 Kimi K3 模型。此方法無需顯卡，但推理速度約每秒 1.5 詞元，僅屬測試性質。

    IT之家

  4. 晶片

    優必達捐贈GPU伺服器，緩解中央大學AI算力荒

    優必達（Ubitus）向中央大學捐贈AI GPU伺服器設備，由資訊工程學系蔡宗翰教授主持使用。此舉旨在縮小台灣學術界與產業界的AI算力落差，協助研究發展。

    科技新報

全部新聞 → · 版權屬原作者