ZeroGPU

ZeroGPUはhttps://api.zerogpu.ai/v1でOpenAI互換のエンドポイントを公開する。すでにOpenAI SDKを使っているなら、それをZeroGPUに向けるだけでコードの大半をそのまま使える。認証は標準のベアラトークンではなく、x-api-keyとx-project-idヘッダーで行う。これは小さな設定変更であり、書き直しではない。既存のパイプラインにとって導入を安くする機能はこれだ。摩擦が減り、切り替えが速い。

このプラットフォームは各ワークロードを、そのタスク向けに選ばれた小型またはnanoモデルに割り当てる。分類や抽出の専用モデルは、その絞り込まれた作業では大きな汎用モデルを上回り、しかも安く速く動く。モデルカタログから適切なものを選べ、ルーティングはシステムが裏で処理する。適材適所である。

ZeroGPUは単一の集中GPUクラスタではなく、エッジデバイスのネットワーク上でワークロードを動かす。同社は10万台以上のエッジデバイスを挙げ、本番規模でもレイテンシが低く保たれる理由としてこのネットワークを示す。なぜ重要か。反復作業では、計算をリクエストに物理的に近づけると往復時間が縮む。

目玉は、従来のGPUクラウドと比べて推論コストが50〜70%低く、特化したワークロードでは最大10倍速いという点だ。要するに安くて速い。同社は結果がワークロード、モデル、構成によって変わると明言しており、この数字は出発点の目安であって保証ではない。サイト上の削減計算ツールを使えば、契約前に効果を見積もれる。AIコンテンツモデレーションや大量分類では、ここでこのプラットフォームの価値が効いてくる。

活用例のカタログは、広告意図の分類、メールの仕分け、コンテンツモデレーション、サポート自動化、データ充実、100以上の言語の翻訳、パーソナライズ、文書OCR、不正検出、PIIのマスキング、ジェイルブレイク検出、マルチモーダル推論に及ぶ。この広さは重要だ。多くの異なるプロダクトの実行レイヤーを狙っており、単一のニッチではないことを示す。

ZeroGPUはAIエージェントへ直接販売する。エージェント向けストアフロントが価格と支払い手順を公開し、エージェントは登録フローや人手を介さずに認証情報を登録してプランを購入できる。支払いはx402かMPPでウォレット決済、または人の助けを借りてカードで行う。自律型パイプラインを狙った珍しい仕組みだ。