發生了什麼

  • Ai2 在 10 月 1 日發布 Olmo-core 3 的系統文章，公開 MoE 訓練框架與技術報告。原始庫為 Apache-2.0；這次不是推出可直接聊天的 Olmo 3 新權重。[1]
  • 官方初步測試：47B MoE、八張 NVIDIA B300，新系統每 GPU 每秒 52,000 Token，舊 FSDP 系統為 19,400，約 2.7 倍。這是訓練吞吐，不能當成生成文字速度、模型智力提升或所有硬體的通用加速。[1]
  • 另一組四張 B300、專家負載均勻的受控測試，MXFP8 相較 BF16 的端到端吞吐約提高 21%，峰值 active memory 從 103 GiB 降到 95 GiB。不是單張消費 GPU 能訓練 47B 的證明。[1]
  • 1.2 兆總參數測試使用 512 張 B300、每 Token 啟用 58.36B，測得最高 858 TFLOP/s/GPU；使用隨機路由測系統。2.38 兆參數則是 DeepEP v2 短時間容量測試，非完整訓練或持續吞吐成績。[1]

同一組 47B MoE 的新舊訓練系統

每 GPU 訓練吞吐：19400 對 52000 Token/s
Ai2 — Introducing Olmo-core 3 ↗ · 2026-10-01 官方文章 · 查閱 10/02 07:16
比較條件：47B MoE，8 × NVIDIA B300；每 GPU 訓練 Token 吞吐；非推論速度
指標舊 FSDP 系統新 Olmo-core 系統
每 GPU 訓練吞吐（Token/s）1940052000

約 2.7 倍僅指這組初步測試。本站未重跑，不能推出等比例成本下降、模型品質提升或其他 GPU 相同加速；MXFP8 的四張 B300 測試是另一組條件。

讀這些證據能知道什麼 · 編輯觀察對訓練研究者，價值在系統設計、程式與實驗失敗記錄也公開，能查明吞吐從哪裡來。對一般模型使用者，暫時沒有新服務可換；較值得記住的是「總參數更大」不等於每次推論用上全部參數，系統容量也不等於模型答得更好。

社群回聲

下列引言是作者原話的忠實中文翻譯，可展開對照原文。背景另列；個人測試與費用未由本站重現，也不代表全體使用者。

本次尚未取得足夠可查證的社群反饋，保留待補。

接下來看什麼

目前尚未取得足夠可核對的獨立重現或第一手使用回報；本文數字均是 Ai2 官方測量，社群欄留空。

新一代 Olmo 的權重、訓練資料及能力評測尚需另查；此篇不把未發布模型當成已可用。

來源與查核

  1. Ai2 — Introducing Olmo-core 3 ↗官方系統文章 · 原文日期 2026.10.01 · 查核 10/02 07:16（台北）
  2. Ai2 — Olmo-core 原始程式庫 ↗官方開源程式庫 · 查核 10/02 07:16（台北）

本文以 AI 輔助編輯，公告以原創整理呈現；社群引言採短節錄與忠實翻譯。功能、方案與價格可能後續調整；本文記錄的是上述查核時間的資訊。