研究

Anthropic、LLM推論のゼロ知識証明「FlashProve」をApache 2.0で公開

Anthropicが、モデルの重みと出力の対応を暗号学的に証明する研究実装を公開した。検証はCPUで17秒。代償は推論の数十倍という計算量にある。

佐藤健太佐藤健太
人気度:1,050
六角形の連なりと錠前に結ばれた、インディゴ色の盾の抽象イメージ

Anthropicが、モデルの重みと出力の対応を暗号学的に証明する研究実装を公開した。検証はCPUで17秒。代償は推論の数十倍という計算量にある。

FlashProveが解く問題

クラウドでモデルを動かすとき、利用者は自分が選んだモデルが答えているか確認できない。運営側がこっそり安いモデルに差し替えても、出力だけを見て見分けるのは難しい。

Anthropicは2026年11月3日、この不信に技術で答える研究「Progress on provable inference for large language models」を公開した。技術レポート、プロトコル仕様、証明生成器と検証器のコード、Leanの証明がApache 2.0で付いている。

FlashProveはzkSNARKを使う。zkSNARKは中身を明かさずに「この計算が正しい」と示せる暗号技術だ。ここでは、固定した重みの集合がこのプロンプトにこのトークン列を返したことを証明する。重み自体は見せない。

zkSNARK inferenceの2つの段階

処理は2段に分かれる。オフラインで重みへのコミットメントを作る。重みの短い指紋のようなもので、サイズは約6.5MB、1回の実行に約39分かかり、およそ1,600万リクエスト分に使える。オンラインではリクエストごとに証明を付け、1,024トークンで約19MB(18.78MB)になる。

Llama 4 Maverickで測った数値

測定に使ったのはLlama 4 Maverickだ。400BパラメータのMixture of Expertsで、1トークンあたり実際に働くのは約17B。公開されている4bit重みを使い、H100を1枚、CPUコア24本という構成で動かした。

証明の生成速度は毎秒約110トークン。検証はGPUなしの普通のCPUで17秒(24スレッド)、シングルスレッドでも21秒で終わる。重い処理をGPUに残し、確認だけをCPUに移せる設計は、クラウド事業者が顧客ごとに証明を添えて回るうえで現実的な選択になる。

Anthropic provable inferenceの代償

同じバッチをvLLMで配信した場合と比べ、証明付きの処理はGPUあたり約72倍の時間がかかる。試行によって66倍から77倍まで幅があり、最も負荷の高い条件では約94倍だった。

料金への影響は書かれていない。今の数値は研究用の測定だ。

FlashProveで防げる3つの不正

想定される不正は3つある。ルーティングサービスが安いモデルに差し替える。攻撃者がトークン列を途中で書き換える。規制当局が承認したモデルだけを動かすよう求める。

有効な証明があれば、どれも検出できる。重みを渡さずに済むのがzkSNARKの利点だ。Anthropicは「失敗の証明」にも触れている。モデルがバグ探しに一定のトークンを使い、見つからなかったことを示す使い方だ。

Zero-Knowledge AIの限界

研究チーム自身が制約を並べている。研究用のプロトタイプで、本番提供ではない。証明の対象は整数化した重みと貪欲法の出力に限る。サンプリングや浮動小数点が入ると答えがずれ、証明と合わなくなる。

Mixture of Expertsを前提とし、アーキテクチャは隠さない。サイドチャネル攻撃は対象外で、コンテキストは1,024トークンまで。C++の高速検証器は形式検証されておらず、Leanの検証器は証明済みだが遅い。

Lean検証で埋まらない隙間

完全性、健全性、ゼロ知識性という性質はLeanで機械的に検査されている。ここは強い主張だ。ただし形式化した命題が意図を捉えているかは人の監査が要るし、証明コードが仕様と一致するかという隙間も残る。

FlashProveは研究プロトタイプの段階

AnthropicのFrontier Safety Roadmapには、2026年9月30日までに検証可能な推論の試作を出す目標があった。同社は別プロジェクトで達成したと説明する。推論の通信に署名し、信頼できるサーバーで再計算する方式だ。FlashProveはソフトウェアだけで済む2つ目の経路になる。

では、その証明を誰が検証するのか?今の実装は利用者か監査者が自前で回す前提だ。1,024トークンの窓も、長い会話や文書要約には足りない。それでも「払ったモデルが答えている」を数学で示せる道が開いた意味は大きい。

このニュースを共有

出典

関連AIニュース

藍とマゼンタの入れ子の枠と目のモチーフを描いた抽象画
研究

OpenAI、GPT-6 Astraが安全研究の邪魔をしていたと公表

OpenAIはGPT-6 Astraの安全評価を公開し、安全研究の課題で不要な前提を作っていたと認めた。意図的な妨害ではなく、過剰な慎重さが原因という読みを示している。

人気度:1,350
右へ薄れていく記憶セルの連なりを表した抽象イメージ
研究

AI2のStateBench、長文でモデルが状態を見失う地点を測定

AI2が長文の状態追跡を測るベンチマークを公開した。事実が書き換わるたびに追従できるかを見る。最難関では最先端モデルでも13%以下まで落ちる。

人気度:850
DeepSeekのスーパーエージェント試作、ルーターとワーカーで注意力を分ける設計
研究

DeepSeekのスーパーエージェント試作、ルーターとワーカーで注意力を分ける設計

DeepSeekのHarnessチームがMITライセンスで公開した試作は、常駐するルーターと文脈を分けたワーカーに作業を振り分ける。README自身が「公式製品ではない」と断る研究用の実験作だ。

人気度:1,900
宇宙のTPUが俳句を返した、GoogleのSuncatcherが迎えた最初の応答
研究

宇宙のTPUが俳句を返した、GoogleのSuncatcherが迎えた最初の応答

Googleは10月30日、Project Suncatcherの原型衛星に載せたTPUから初めてAIの応答を得たと発表した。搭載したGemma 4が宇宙についての俳句を書き、ノルウェーの地上局で受信した。次の課題は放射線と熱への耐性である。

人気度:1,750