Large 4 的資安宣稱,是否足以讓我改用它審查 PR?

這一批 PR 中,它比 GLM-5.3 多找到三題且費用較低;但 MiMo 與 DeepSeek 對照找到更多、費用更低。還沒有誤報統計與重複測量,因此不能只靠資安總榜決定替換。

整理範圍 單一商業資安團隊公布的 VulnPR-100 測試;不是多位使用者共識。100 個已知漏洞 PR、各一小時、各模型最高支援推理。本站讀取原文、結果圖與回覆,沒有執行模型。

依使用情境決定

已有 PR 審查流程的開發者

先用自己的漏洞與正常 PR 混合樣本比較,再決定是否替換。

公開表能看找到數、費用與逾時,但不能估計日常誤報負擔;Large 4 在這批題目也沒有贏過所有對照。

案例:100 個已知漏洞 PR:Large 4 預覽的找到數與費用 · 來源:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆

想自行部署或預算有限的人

把預覽 API 與月底權重分開評估;先按完整任務計算費用。

權重尚待發布。US$53.91 是優惠下的整批模型審查費用,不含裁判與人工驗收;便宜的 token 牌價並不保證便宜的成功任務。

案例:100 個已知漏洞 PR:Large 4 預覽的找到數與費用 · 來源:Mistral — Large 4 公開預覽與權重時程 · 來源:Mistral — Large 4 模型文件與單價 · 來源:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆

從案例看出什麼

同樣查 PR,找到數與總費用要一起看

Large 4 的 35/100、US$53.91,高於 GLM-5.3 的找到數且低於其費用。但這張表也列出 MiMo 46/100、US$8.27 與 DeepSeek 44/100、US$12.79。結論限於這套題目與測試者的流程,不代表其他資安工作有相同排序。

案例:100 個已知漏洞 PR:Large 4 預覽的找到數與費用 · 來源:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆

五次逾時與未找到的題目,是工作流程的一部分

原帖指出五次審查到一小時上限,圖表把逾時與拒絕計零分。剩餘未找到的題目沒有逐題原因;不能全解釋成推理不夠,也不能用官方其他資安分數替它補答案。

案例:100 個已知漏洞 PR:Large 4 預覽的找到數與費用 · 來源:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆 · 來源:Mistral — Large 4 公開預覽與權重時程

找到漏洞,不等於警報值得讀

這份表以已知漏洞為目標,沒有提供正常 PR 誤報統計。日常審查還需知道每個真實問題伴隨多少錯誤警報、人工驗證多久。原帖有讀者提出誤報疑問,但其未具名模型經驗不是 Large 4 的結果,因此不列為第二個模型測試。

案例:100 個已知漏洞 PR:Large 4 預覽的找到數與費用 · 來源:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆

個案紀錄:任務、結果與限制

X

100 個已知漏洞 PR:Large 4 預覽的找到數與費用

Z A D D Y/BugBunny · 發布 · 查閱 10/07 16:34(台北)

任務
辨識 100 個 PR 引入的已知漏洞。
設定
VulnPR-100;每個 PR 最多一小時,各模型最高支援推理。Large 4 公開預覽 API,費用使用五折推出優惠;完整提示、代理工具與逐題日誌未公開核對。
結果
作者報告找到 35/100,五次達到一小時上限;100 次模型審查共 US$53.91,不含裁判費用,約 US$1.54/找到的漏洞。
限制
單一團隊測試,沒有重複結果分布、正常 PR 誤報率或完整人工成本;不能推論生產環境可靠性或整體資安排名。
與產品的關係
作者簡介列在 BugBunny 工作,使用公司評測並銷售資安產品;非無商業關係測試。
證據類型
原始完整貼文、原作者結果與費用圖、可見回覆;本站未重跑。
五次審查達到一小時的時限。
Z A D D Y/BugBunny 的原話忠實翻譯 · 短節錄
對照原文
Five reviews hit the one-hour limit.

原始個案:開啟原始貼文/頁面 ↗ · 來源清單:Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆

相關圖片:原作者的 10/7 測試表:左側是找到數,右側是 100 個 PR 的模型審查費用;底註排除裁判費用,Large 4 使用暫時優惠。這張圖沒有顯示誤報數或逐題日誌。

官方與評測背景

  • BugBunny 測試者給 100 個有已知漏洞的 PR 各一小時,圖表標示使用各模型支援的最高推理程度。Large 4 找到 35 題、五次達到時限;逾時和政策拒絕計零分。這是測試者發布的結果,本站未重跑。[1]
  • 100 個 PR 的模型審查費用為 US$53.91,已用 Mistral 五折推出優惠;圖表註明不含裁判費用。除以 35 個找到的漏洞約為 US$1.54,這不是每個 PR 的費用,也不是完整上線成本。[1]
  • 同一張結果表列 GLM-5.3 為 32/100、US$81.96;mimo-v2.6-pro 為 46/100、US$8.27;DeepSeek V4.1 Flash 為 44/100、US$12.79。這些是該測試中的模型與費用,不能延伸成所有資安任務的總排名。[1]
  • Mistral 10/6 開放的是 Large 4 預覽 API,權重承諾月底發布,強化學習仍在進行。公告的資安基準與這裡的 PR 審查不是同一個任務;預覽可呼叫也不代表權重已可下載。[2]
  • 官方模型文件目前並列標準/優惠單價:每百萬輸入 token US$1.36/0.68、輸出 US$4.18/2.09、快取輸入 US$0.14/0.07。單價不能取代含長推理與工具流程的整批審查費用。優惠期限與實際帳單仍需在使用前核對。[3]

尚未解決的限制與後續觀察

  • VulnPR-100 與 Mistral 公告中的 Cyber Index/Cybench 不同;這不是重現官方評測。
  • 原圖提供對照,但缺完整執行版本、日期、代理工具與重試紀錄;不能宣稱已控制所有變因。
  • 本篇沒有把觀眾評論當作另一位 Large 4 使用者,也沒有把預覽權重承諾當成可下載成果。
  • 完整 PR 清單、提示、代理工具、API 精確版本、重試、各模型執行日期和逐題判分仍待公開核對。最高推理程度不等於所有模型使用同一個設定。
  • 這是已知漏洞樣本的找到數;沒有正常 PR 的對照與誤報數,無法判斷工程師會收到多少無用警報。沒有把留言中未具名模型的誤報經驗套到 Large 4。
  • 標準價格下不能把 US$53.91 直接當已實付結果;預覽模型仍可能變動,月底權重與重測需另查。

來源與查核

  1. Z A D D Y/BugBunny — VulnPR-100 原始測試、費用圖與回覆 ↗商業資安團隊自報測試/非本站重現 · 原文日期 2026.10.07 · 查核 10/07 16:34(台北)
  2. Mistral — Large 4 公開預覽與權重時程 ↗官方公告 · 原文日期 2026.10.06 · 查核 10/07 16:34(台北)
  3. Mistral — Large 4 模型文件與單價 ↗官方模型文件 · 查核 10/07 16:34(台北)

本文整理已公開的個案,不代表普遍使用情況。引言保留作者歸屬與原文連結,數據與限制以各自來源為準。