研究

Anthropic 開源 FlashProve:讓推論結果可以被證明

Anthropic 開源了一套證明工具,能向付費的人證明「這段回覆真的出自這個模型」。代價是同樣的請求要多花七十幾倍時間,而且只認得一千多個詞元的上下文。

陳柏宇陳柏宇
熱度:1,050
深靛藍色的盾牌與勾選記號,連著一串六邊形

Anthropic 開源了一套證明工具,能向付費的人證明「這段回覆真的出自這個模型」。代價是同樣的請求要多花七十幾倍時間,而且只認得一千多個詞元的上下文。

FlashProve 要回答的問題:回你的到底是不是那個模型

你付錢買的是某個模型的推論服務,中間卻隔著一層既看不見、也沒辦法查證的路由。服務商可以把請求悄悄轉給便宜一階的模型。帳單照收,輸出照給。Anthropic 在 2026 年 11 月 3 日發表的研究貼文,處理的就是這道信任缺口。貼文標題是「Progress on provable inference for large language models」,同時釋出技術報告、協定規格、可執行的證明程式與 Lean 證明。

Anthropic provable inference 的兩段式作法

第一段在離線完成,把模型權重壓成一份指紋。大小約 6.5 MB,跑一次大概 39 分鐘,之後可以重複用在約 1,600 萬次請求上。第二段才輪到線上,每一筆請求產生一份證明,證明這組權重對這個提示,確實輸出這串詞元。

zkSNARK 在這裡的角色是不透露權重的密碼學證明。驗證者拿得到結論,看不到模型本身,這是它跟「把權重直接公開」最大的差別。

zkSNARK inference 在 Llama 4 Maverick 上的實測

Anthropic 拿 Llama 4 Maverick 當測試對象。這是一個 400B 參數的混合專家模型,每個詞元大約只啟動其中 17B 參數。權重用的是公開的 4 位元版本。硬體是一張 H100 配 24 個 CPU 核心,證明速度約每秒 110 個詞元,每筆 1,024 詞元的請求會產生大約 19 MB 的證明。

驗證端輕鬆得多,一般 CPU 就行,不需要 GPU。24 個執行緒只要 17 秒。全部擠在單一執行緒上,21 秒。慢的是產生證明的這一邊,同樣一批請求比 vLLM 直接服務多花約 72 倍時間,測試中最高的負載下到 94 倍。這種成本誰付得起?貼文沒有談價格,也沒談商用時程。

zero-knowledge AI 對路由服務與監管的用處

Anthropic 舉了三種情境:路由服務偷換模型、有人在中途竄改詞元串、監管機構要求只能跑核可清單上的模型。有了一份有效的證明,這三件事都會留下痕跡,而且不需要交出權重。貼文還提到「proof of failure」的用法,證明某個模型至少花了多少詞元去找漏洞,最後一個都沒找到。

FlashProve 跟前人研究的距離

先前的做法各有瓶頸。

系統

測試對象

證明速度

其他

FlashProve

Llama 4 Maverick

約每秒 110 詞元

每 1,024 詞元約 19 MB

VerInf

未列

1,000 詞元需 14.3 小時

證明 93.6 GB,DGX Spark

zkLLM

13B 模型

約每秒 2.5 詞元

A100

Attestable

稠密 31B 模型

每秒 53 到 77 詞元

商用,未開源

這幾組數字來自不同模型與不同硬體,不能直接換算成誰快誰慢。它們能說明的是,把證明塞進推論流程之後,速度通常會掉一到兩個數量級。

FlashProve 團隊自己列的限制

限制寫得很直白。這是研究原型,不是能上線的服務。證明只覆蓋整數版權重搭配貪婪解碼,取樣或浮點回覆會漂移,對不上原本的證明。方法假設混合專家架構,也不會隱藏架構本身。側通道攻擊不在範圍內,上下文上限卡在 1,024 詞元。驗證器這邊也還有一條:快的 C++ 版本沒有形式化驗證,有 Lean 證明的那個版本很慢。

形式驗證補上了 FlashProve 的哪一塊

完整性、可靠性、零知識這三項安全性質,在 Lean 裡由機器檢查過。團隊自己說明,形式化的敘述還需要人工審閱。證明程式碼符合規格,是另一段信任缺口。數學沒錯,實作仍可能出錯,這句話對任何密碼學系統都成立。

Anthropic provable inference 的下一步

Anthropic 的 Frontier Safety Roadmap 原本把可驗證推論的原型訂在 2026 年 9 月 30 日。公司說那個目標是靠另一個專案達成的:簽署推論流量,再在受信任的伺服器上重算一次。FlashProve 是第二條路,純軟體,不靠重算。

要判斷它會不會變成產品,看三件事:上下文能不能從 1,024 詞元往上拉、證明速度的落差能不能縮小、以及有沒有人獨立複現這些數字。目前所有數據都只有 Anthropic 自己測過。如果你在挑推論供應商,這套東西現階段最實際的用途,是讓你問對問題:對方能不能證明跑的是哪個模型。

分享這則新聞

來源

相關 AI 新聞

同心螺旋曲線被一條垂直線穿過,線上釘著幾顆亮點
研究

Claude 被宣稱證出黎曼猜想,幾小時後 Stanford 拿出人類版本

一位受雇於 Anthropic 的數學家在個人網站貼出宣告,公司沒有背書。幾小時後,Stanford 丟出人類版本,兩份稿子都還沒被學界接受。

熱度:1,860
一疊以路徑相連的代理節點通往伺服器機櫃,機櫃上有鑰匙孔與破口標記
研究

AI agent 花 11 分鐘打穿大學伺服器,Cairn 找到 MONAI Label 的零日漏洞

操作者只交代了一句「想辦法拿到 shell」,方法留給代理自己決定。真正值得讀的,是成功之前那 148 次失敗。

熱度:1,520
漏斗把小型詞元方塊從一個模型盒送到另一個,中間有一塊盾牌擋住部分流量
研究

OpenAI 把推理被竊的成功率從 54% 壓到 0.2%,但這是自家黑箱測試

一組內部紅隊數字,說明保護思維鏈有多難,也說明為什麼 OpenAI 要把這件事拉到國家安全層級來談。

熱度:1,420
綠色晶片格狀圖,其中一格被標亮,旁邊是一條鋸齒訊號線,寫著 Blackwell fingerprints
研究

Blackwell 指紋鑑識:六個中國模型的權重洩漏了它們用哪張卡

訓練開始前,GPU 把數十億個空位填成隨機數字,填的方式會留下核心數的痕跡。有人把這道痕跡從六個中國模型的權重裡挖出來,24 個對照模型全部命中。

熱度:1,250