CtrlAI

CtrlAI s'insère entre le SDK de votre agent et le fournisseur de LLM sans toucher à votre agent. Vous changez une URL de base, et le proxy transmet les requêtes en amont, inspecte la réponse et la renvoie comme si rien ne s'était passé. Le SDK ne s'en aperçoit jamais. Pas de réécriture, pas de wrapper, pas de nouvelle API à apprendre.

Les règles vivent dans un fichier YAML et correspondent au nom de l'outil, à l'ID de l'agent, à des globs de chemins de fichiers, à une regex de commande, à une regex d'URL ou à n'importe quelle sous-chaîne dans les arguments. Vous pouvez bloquer entièrement un outil précis, le bloquer pour un seul agent, ou bloquer des motifs shell dangereux comme un rm -rf sur la racine. Plusieurs conditions dans une règle sont combinées en AND. Les listes dans un champ sont combinées en OR. La première correspondance l'emporte.

D'usine, CtrlAI livre des règles intégrées qui couvrent les clés privées SSH, les fichiers env, les fichiers d'identifiants, les écritures dans la configuration du shell, les commandes destructrices, l'exfiltration de données, l'accès à la caméra, l'enregistrement d'écran, la localisation et l'exécution de code à distance. Elles sont activées par défaut. Elles sont désactivables. Vous avez une protection de base avant même d'écrire une seule règle personnalisée.

Vous pouvez arrêter n'importe quel agent instantanément avec ctrlai kill main --reason "suspicious activity", ou tout arrêter avec ctrlai kill --all. Le proxy renvoie une fausse réponse de fin de tour pour que la boucle de l'agent s'arrête proprement. L'état de kill est écrit dans un fichier et surveillé pour un rechargement à chaud. Il prend effet en quelques secondes, même pendant que le proxy tourne.

Chaque appel d'outil est enregistré avec un numéro de séquence, un horodatage, l'ID de l'agent, le nom de l'outil, les arguments, la décision et la règle qui a correspondu. Chaque entrée porte un hachage SHA-256 lié à la précédente. Modifiez une entrée et la chaîne se casse à partir de ce point. Vous pouvez le suivre en direct, interroger par agent ou par décision, vérifier l'intégrité et exporter en CSV ou JSON.

Un tableau de bord web sur le même port montre les agents, les compteurs de requêtes et de blocages, la liste complète des règles et un flux en temps réel des décisions d'appels d'outils via WebSocket. Tout ce que montre le tableau de bord est aussi accessible via une API REST, donc vous pouvez scripter les changements de règles, les kills et les extractions d'audit depuis vos propres outils.

Quand une réponse contient plusieurs appels d'outils, CtrlAI évalue chacun d'eux mais supprime la réponse entière si un seul appel est bloqué. Le raisonnement est que les modèles planifient les appels en groupe, donc laisser tourner la moitié « sûre » pourrait provoquer un comportement imprévisible. C'est le choix par défaut prudent, avec un mode de blocage partiel noté comme option future.

L'identité de l'agent vient du chemin de l'URL, donc /provider/anthropic/agent/work/... et /provider/anthropic/agent/main/... sont traités comme des agents distincts avec leurs propres règles, historique d'audit et état de kill. Vous pouvez verrouiller les permissions d'un agent sans changer ce que les autres ont le droit de faire.