發生了什麼
- DeepGEMM-Ascend README 記錄 9 月 30 日首次發布,支援昇騰 950。它提供 BF16/FP8/FP4 矩陣乘法、MQA logits 與 MegaMoE,並稱與 DeepGEMM 的 API 相容;儲存庫採 MIT 授權。[1]
- 在昇騰 950DT、CANN 9.20、冷 L2 的廠商測試中,BF16×BF16 的 M=4096、N=7168、K=16384 案例達 431 TFLOPS,對照硬體上限 432,利用率 99.8%。這不是整個模型的訓練/推理速度比較,也沒有 NVIDIA 對照機。[1]
- DeepEP-Ascend 提供 MoE 專家分派/合併等通訊。測量使用昇騰 950DT、CANN 9.2.0 與手動設定的 PoC HDK;README 明示該配置不是公開分發版本,建議商用 HDK 目前規劃約 10 月 15 日提供,實際日期由華為決定。[2]
- TileLang 的昇騰 950 後端已合併進主線,PR 標示 Public Release 9/30。它涵蓋算子編譯與執行流程;其他昇騰世代不在這次整合範圍,不能把 950 的結果套到所有昇騰晶片。[3]
- DeepJIT 同時提供 CUDA 與昇騰的執行期編譯、載入及快取介面;底層算子原始碼、編譯器與啟動選項仍須依平台處理。這項共用介面有助減少工具層重複工作,不代表 CUDA 程式可直接搬過來。[4]
讀這些證據能知道什麼 · 編輯觀察值得關注的是開發者能檢查的算子與通訊程式碼,讓昇騰的工程生態多了實際參考。接近某個矩陣乘法的硬體極限,是一塊拼圖;完整訓練成本、端到端吞吐與公開環境重現,仍需另外證明。
社群回聲
下列引言是作者原話的忠實中文翻譯,可展開對照原文。背景另列;個人測試與費用未由本站重現,也不代表全體使用者。
觀點
把 DeepGEMM 移植過去,比再摳那 0.2% 有意義得多。原話中文翻譯 · 短節錄
對照原文
把 DeepGEMM 移植过去比再抠那 0.2% 有意义得多。
測試/貼文背景 回覆 DeepGEMM 發布者的數字,原文認為算子庫生態與 MoE 分派比規則 GEMM 的最後一點利用率更重要。這是工程觀點,沒有附獨立重現;MegaMoE 的 98% 也不在本文另行當成實測結論。
接下來看什麼
約 10 月 15 日的商用 HDK 是否如期公開,第三方能否在該版本重現通訊帶寬,值得回訪。
若後續有人公布完整模型、硬體數量、精度、吞吐與成本,再討論與 NVIDIA 堆疊的差距。單一算子利用率回答不了整體性價比。
來源與查核
- DeepSeek — DeepGEMM-Ascend README 與測量表 ↗官方開源程式碼/廠商測量 · 原文日期 2026.09.30 · 查核 10/01 07:03(台北)
- DeepSeek — DeepEP-Ascend 與 HDK 限制 ↗官方開源程式碼/部署限制 · 查核 10/01 07:03(台北)
- TileLang PR #3308 — Ascend 950 後端 ↗主線整合與範圍說明 · 查核 10/01 07:03(台北)
- DeepSeek — DeepJIT ↗官方開源程式碼 · 查核 10/01 07:03(台北)
本文以 AI 輔助編輯,公告以原創整理呈現;社群引言採短節錄與忠實翻譯。功能、方案與價格可能後續調整;本文記錄的是上述查核時間的資訊。