Inferable

ワークフローは自社のマシン上で動く。ファイアウォールの内側でも、プライベートVPCの中でも、管理すべきデプロイ手順はない。ワーカーはロングポーリングでコントロールプレーンへ到達するため、受信ポートを開けたりロードバランサを設定したりする必要がない。処理を自社ネットワークから出せないチームにとって、この設計がホスト型の代替との分かれ目になる。

入力スキーマやロジックが変わったら、古いものを書き換えるのではなく新しいバージョンとして定義する。Inferableは実行中のジョブのバージョンを紐づけたまま保つので、変更を段階的に出せて、進行中の仕事は当初のコードのまま終わる。小さな修正が顧客の待つものを壊さないかという、いつもの不安がなくなる。

ワークフローは自ら止まり、Slackかメールで次のステップの承認か却下を人に求める。脈絡はそのまま持ち運ばれる。実行は返答が来るまで、1分でも1週間でも待ち、止まった所から再開する。データ削除や支払いのような危険を伴うステップを、待機のロジックを自作せずに人の手で押さえられる。

実行基盤は構造化されたモデル応答を毎回スキーマに照らして解析し、合わなければその実行を再試行する。自由なテキストを解析して、まとまっていることを祈る代わりに、次のステップへそのまま渡せる型付きの項目が手に入る。チケットの仕分け、メニューの取得、フォームの抽出は、これが確実に動くことに支えられている。

重いステップや副作用のあるステップはメモ化し、分散ストアにキャッシュできるので、再起動や再試行で二度走らない。9番目で失敗した多段のジョブは9番目から再開し、1から8は無傷のままだ。長時間動くAI処理が、本番で費用をかけられるものになる。

単体のワークフローにとどまらず、Inferableはツールを使って目標に達するAIエージェントも扱える。実行はすべてタイムライン表示に出て、各ステップを追跡する。同じイベントを自社の可観測性ツールへ流すこともできる。エージェントが道を外したとき、どの呼び出しが原因かはタイムラインで分かる。

コントロールプレーン、プレイグラウンド、CLI、SDKはすべてMITライセンスで公開されている。スタック全体を自社インフラに置けば、データとモデルを完全に掌握でき、ベンダーに縛られない。セキュリティ審査でマネージドサービスが外れるチームにとって、セルフホストがその道になる。