Anthropic 開源了一套證明工具,能向付費的人證明「這段回覆真的出自這個模型」。代價是同樣的請求要多花七十幾倍時間,而且只認得一千多個詞元的上下文。
FlashProve 要回答的問題:回你的到底是不是那個模型
你付錢買的是某個模型的推論服務,中間卻隔著一層既看不見、也沒辦法查證的路由。服務商可以把請求悄悄轉給便宜一階的模型。帳單照收,輸出照給。Anthropic 在 2026 年 11 月 3 日發表的研究貼文,處理的就是這道信任缺口。貼文標題是「Progress on provable inference for large language models」,同時釋出技術報告、協定規格、可執行的證明程式與 Lean 證明。
Anthropic provable inference 的兩段式作法
第一段在離線完成,把模型權重壓成一份指紋。大小約 6.5 MB,跑一次大概 39 分鐘,之後可以重複用在約 1,600 萬次請求上。第二段才輪到線上,每一筆請求產生一份證明,證明這組權重對這個提示,確實輸出這串詞元。
zkSNARK 在這裡的角色是不透露權重的密碼學證明。驗證者拿得到結論,看不到模型本身,這是它跟「把權重直接公開」最大的差別。
zkSNARK inference 在 Llama 4 Maverick 上的實測
Anthropic 拿 Llama 4 Maverick 當測試對象。這是一個 400B 參數的混合專家模型,每個詞元大約只啟動其中 17B 參數。權重用的是公開的 4 位元版本。硬體是一張 H100 配 24 個 CPU 核心,證明速度約每秒 110 個詞元,每筆 1,024 詞元的請求會產生大約 19 MB 的證明。
驗證端輕鬆得多,一般 CPU 就行,不需要 GPU。24 個執行緒只要 17 秒。全部擠在單一執行緒上,21 秒。慢的是產生證明的這一邊,同樣一批請求比 vLLM 直接服務多花約 72 倍時間,測試中最高的負載下到 94 倍。這種成本誰付得起?貼文沒有談價格,也沒談商用時程。
zero-knowledge AI 對路由服務與監管的用處
Anthropic 舉了三種情境:路由服務偷換模型、有人在中途竄改詞元串、監管機構要求只能跑核可清單上的模型。有了一份有效的證明,這三件事都會留下痕跡,而且不需要交出權重。貼文還提到「proof of failure」的用法,證明某個模型至少花了多少詞元去找漏洞,最後一個都沒找到。
FlashProve 跟前人研究的距離
先前的做法各有瓶頸。
系統 | 測試對象 | 證明速度 | 其他 |
|---|---|---|---|
FlashProve | Llama 4 Maverick | 約每秒 110 詞元 | 每 1,024 詞元約 19 MB |
VerInf | 未列 | 1,000 詞元需 14.3 小時 | 證明 93.6 GB,DGX Spark |
zkLLM | 13B 模型 | 約每秒 2.5 詞元 | A100 |
Attestable | 稠密 31B 模型 | 每秒 53 到 77 詞元 | 商用,未開源 |
這幾組數字來自不同模型與不同硬體,不能直接換算成誰快誰慢。它們能說明的是,把證明塞進推論流程之後,速度通常會掉一到兩個數量級。
FlashProve 團隊自己列的限制
限制寫得很直白。這是研究原型,不是能上線的服務。證明只覆蓋整數版權重搭配貪婪解碼,取樣或浮點回覆會漂移,對不上原本的證明。方法假設混合專家架構,也不會隱藏架構本身。側通道攻擊不在範圍內,上下文上限卡在 1,024 詞元。驗證器這邊也還有一條:快的 C++ 版本沒有形式化驗證,有 Lean 證明的那個版本很慢。
形式驗證補上了 FlashProve 的哪一塊
完整性、可靠性、零知識這三項安全性質,在 Lean 裡由機器檢查過。團隊自己說明,形式化的敘述還需要人工審閱。證明程式碼符合規格,是另一段信任缺口。數學沒錯,實作仍可能出錯,這句話對任何密碼學系統都成立。
Anthropic provable inference 的下一步
Anthropic 的 Frontier Safety Roadmap 原本把可驗證推論的原型訂在 2026 年 9 月 30 日。公司說那個目標是靠另一個專案達成的:簽署推論流量,再在受信任的伺服器上重算一次。FlashProve 是第二條路,純軟體,不靠重算。
要判斷它會不會變成產品,看三件事:上下文能不能從 1,024 詞元往上拉、證明速度的落差能不能縮小、以及有沒有人獨立複現這些數字。目前所有數據都只有 Anthropic 自己測過。如果你在挑推論供應商,這套東西現階段最實際的用途,是讓你問對問題:對方能不能證明跑的是哪個模型。






