CtrlAI

CtrlAI se coloca entre el SDK de tu agente y el proveedor de LLM sin tocar tu agente. Cambias una URL base, y el proxy reenvía las peticiones hacia arriba, inspecciona la respuesta y la devuelve como si nada hubiera pasado. El SDK nunca se entera. Sin reescribir, sin wrapper, sin una nueva API que aprender.

Las reglas viven en un archivo YAML y coinciden con el nombre de la herramienta, el ID del agente, globs de rutas de archivos, regex de comandos, regex de URL o cualquier subcadena en los argumentos. Puedes bloquear una herramienta concreta por completo, bloquearla solo para un agente o bloquear patrones de shell peligrosos como un rm -rf en la raíz. Varias condiciones en una regla se combinan con AND. Las listas dentro de un campo se combinan con OR. Gana la primera coincidencia.

De fábrica, CtrlAI trae reglas integradas que cubren claves privadas SSH, archivos env, archivos de credenciales, escrituras en la configuración del shell, comandos destructivos, exfiltración de datos, acceso a la cámara, grabación de pantalla, ubicación y ejecución remota de código. Vienen activadas por defecto. Se pueden desactivar. Tienes una protección base antes de escribir una sola regla personalizada.

Puedes terminar cualquier agente al instante con ctrlai kill main --reason "suspicious activity", o detener todo con ctrlai kill --all. El proxy devuelve una respuesta falsa de fin de turno para que el bucle del agente se detenga limpiamente. El estado de kill se escribe en un archivo y se vigila para recarga en caliente. Surte efecto en segundos incluso mientras el proxy sigue corriendo.

Cada llamada a herramienta se registra con un número de secuencia, marca de tiempo, ID del agente, nombre de la herramienta, argumentos, decisión y la regla que coincidió. Cada entrada lleva un hash SHA-256 enlazado con la anterior. Altera cualquier entrada y la cadena se rompe desde ese punto. Puedes seguirlo en vivo, consultar por agente o decisión, verificar la integridad y exportar a CSV o JSON.

Un panel web en el mismo puerto muestra agentes, recuentos de peticiones y bloqueos, la lista completa de reglas y un flujo en tiempo real de las decisiones sobre llamadas a herramientas por WebSocket. Todo lo que muestra el panel también es accesible mediante una API REST, así que puedes programar cambios de reglas, kills y extracciones de auditoría desde tus propias herramientas.

Cuando una respuesta contiene varias llamadas a herramientas, CtrlAI evalúa cada una pero elimina la respuesta entera si se bloquea una sola llamada. El razonamiento es que los modelos planifican las llamadas como un grupo, así que dejar correr la mitad "segura" podría causar un comportamiento impredecible. Es el valor por defecto cauteloso, con un modo de bloqueo parcial anotado como opción futura.

La identidad del agente viene de la ruta de la URL, así que /provider/anthropic/agent/work/... y /provider/anthropic/agent/main/... se tratan como agentes separados con sus propias reglas, historial de auditoría y estado de kill. Puedes restringir los permisos de un agente sin cambiar lo que pueden hacer los demás.