Hipocap

Hipocapは関数の実行前に呼び出しを検査するため、脅威は記録されるのではなく止められる。シールドは3段階で動く。明白なパターンを素早く見るプロンプトガード、構造化された脅威をモデルで見る分析、そして不審な文書をエージェントが処理したら何が起きるかを模す隔離の段階だ。3段目はメールやWebページに隠れた間接インジェクションを狙う。これが最も捕まえにくい。

ここでのアクセス制御はアプリ全体ではなく個々の関数の単位で効く。ロールを許可する呼び出しに対応づけ、管理者はメールを送って消せても、ゲストは読むだけになる。確認はシールドのRBACエンジンで関数本体の前に走るため、権限のない呼び出しはコードに届かない。記録されるだけの権限と、実際に強制される権限の違いがここにある。

Shieldは直接インジェクションを止めるための文面ベースのルールだ。このshieldが何を見張り、何を止め、何を通すかを言葉で書き、コードが参照するキーを付ける。これで脱獄の試みやシステムプロンプトの漏えいといった個別の状況を狙え、検出ロジックを自分で書かずに済む。各shieldはダッシュボードで作り、アプリから呼ぶ。

危険は一つひとつの呼び出しではなく、呼ぶ順番から生まれることもある。Hipocapはどの関数を続けて動かしてよいかを制限し、メールを読んでから送るような、静かにデータを外へ出す連なりを止める。チェーンのルールはロールの確認と並び、エージェントが先へ進む前に鎖全体が評価される。Hipocapによれば、個々の権限は通るのに本来許されない流れをこれで捕まえる。

可観測性の層はエージェントの実行を追い、一般的な構成に対応する。OpenAI、Anthropic、LangChainなどを自動で計装し、SQLで引けるトレースを保存し、セキュリティ判断を呼び出しと同じトレースに結びつける。絞り込み、検索、独自ダッシュボードの作成ができる。追跡の核はLaminarから来ており、同基盤を使ったことのあるチームには仕組みの多くが見慣れたものになる。

ログ内の機微な値を隠せるため、エンジニアは顧客の秘密を読まずにデバッグできる。セキュリティ層と可観測性層が同じ経路を共有するので、マスキングは表示される内容だけでなく記録される内容に効く。個人データをトレース保管から遠ざけられ、プライバシー規制下のチームには重要な点だ。プロジェクトごとに書くコードではなく、オンにするモードとして動く。