CtrlAI

O CtrlAI se encaixa entre o SDK do seu agente e o provedor de LLM sem tocar no seu agente. Você muda uma URL base, e o proxy encaminha as requisições para cima, inspeciona a resposta e a devolve como se nada tivesse acontecido. O SDK nunca fica sabendo. Sem reescrever, sem wrapper, sem uma nova API para aprender.

As regras ficam num arquivo YAML e combinam com o nome da ferramenta, o ID do agente, globs de caminhos de arquivos, regex de comandos, regex de URL ou qualquer substring nos argumentos. Você pode bloquear uma ferramenta específica por completo, bloqueá-la só para um agente, ou bloquear padrões de shell perigosos como um rm -rf na raiz. Várias condições numa regra são combinadas com AND. Listas dentro de um campo são combinadas com OR. A primeira correspondência vence.

De fábrica, o CtrlAI traz regras integradas que cobrem chaves privadas SSH, arquivos env, arquivos de credenciais, escritas na configuração do shell, comandos destrutivos, exfiltração de dados, acesso à câmera, gravação de tela, localização e execução remota de código. Elas vêm ativadas por padrão. Podem ser desativadas. Você tem proteção básica antes de escrever uma única regra personalizada.

Você pode encerrar qualquer agente na hora com ctrlai kill main --reason "suspicious activity", ou parar tudo com ctrlai kill --all. O proxy devolve uma resposta falsa de fim de turno para que o loop do agente pare de forma limpa. O estado de kill é gravado num arquivo e monitorado para recarga a quente. Surte efeito em segundos mesmo enquanto o proxy roda.

Cada chamada de ferramenta é registrada com um número de sequência, timestamp, ID do agente, nome da ferramenta, argumentos, decisão e a regra que combinou. Cada entrada carrega um hash SHA-256 ligado à anterior. Altere qualquer entrada e a cadeia se rompe a partir daquele ponto. Você pode acompanhá-lo ao vivo, consultar por agente ou decisão, verificar a integridade e exportar para CSV ou JSON.

Um painel web na mesma porta mostra agentes, contagens de requisições e bloqueios, a lista completa de regras e um feed em tempo real das decisões sobre chamadas de ferramentas via WebSocket. Tudo o que o painel mostra também é acessível por uma API REST, então você pode programar mudanças de regras, kills e extrações de auditoria a partir das suas próprias ferramentas.

Quando uma resposta contém várias chamadas de ferramentas, o CtrlAI avalia cada uma mas remove a resposta inteira se qualquer chamada isolada for bloqueada. O raciocínio é que os modelos planejam as chamadas como um grupo, então deixar a metade "segura" rodar poderia causar um comportamento imprevisível. É o padrão cauteloso, com um modo de bloqueio parcial anotado como opção futura.

A identidade do agente vem do caminho da URL, então /provider/anthropic/agent/work/... e /provider/anthropic/agent/main/... são tratados como agentes separados com suas próprias regras, histórico de auditoria e estado de kill. Você pode restringir as permissões de um agente sem mudar o que os outros podem fazer.