CtrlAI
Cirtus · Sonstiges
CtrlAI ist ein Guardrail-Proxy für KI-Agenten: eine Open-Source-HTTP-Schicht, die zwischen dem SDK Ihres Agenten und dem LLM-Anbieter sitzt und dann jeden Tool-Aufruf prüft, den das Modell ausführen will. Die gefährlichen blockiert sie. Die übrigen protokolliert sie. Ein manipulationssicheres Audit-Log und ein Not-Aus-Schalter runden das Paket ab. Sie setzen ihn vor Ihre bestehende Konfiguration, indem Sie eine URL ändern, sodass Ihr Agenten-Code diese Sicherheitsschicht nie berührt. Kein Neubau. Kein Wrapper.
Über CtrlAI
Was ist CtrlAI
CtrlAI ist ein selbst gehosteter Proxy für Teams, die KI-Agenten betreiben, die tatsächlich Dinge tun können: Dateien lesen, Shell-Befehle ausführen, Browser steuern, Nachrichten senden. Genau diese Fähigkeiten machen Agenten nützlich und genau diese machen sie riskant. CtrlAI setzt einen Kontrollpunkt mitten in den Anfragepfad, damit Sie und nicht das Modell entscheiden, was ein Agent tun darf, bevor er es tut.
Das Hauptproblem, das er löst, ist Kontrolle ohne Operation. Fast alle Guardrail-Tools verlangen, dass Sie Ihr SDK einwickeln, Ihren Agenten ändern oder Ihren Arbeitsablauf um ihre API herum neu bauen. Wer will das? CtrlAI versteckt sich stattdessen hinter der Basis-URL des Anbieters. Ihr Agent denkt weiterhin, er spreche direkt mit Anthropic oder OpenAI. Dazwischen liest CtrlAI die Tool-Aufrufe, prüft sie gegen Regeln und lässt sie entweder durch oder tauscht die Antwort gegen einen Blockschein aus.
Die größte Einschränkung ist die Umgebung. CtrlAI ist eine Go-Binary, die Sie selbst bauen und ausführen, also passt sie zu Leuten, die sich mit Terminal und Konfigurationsdatei auskennen. Das Dashboard hat keine Anmeldung. Wer Port 3100 erreichen kann, sieht die Aktivität und kann Agenten auf Ihrer Maschine abschalten. Ist dieser Port über localhost hinaus offen, vertrauen Sie dem Netzwerk. Für lokale Entwicklung ist das in Ordnung. Für alles Geteilte stellen Sie ihn hinter eine eigene Zugangskontrolle.
Erste Schritte
- Klonen Sie das Repository von GitHub und bauen Sie die Binary mit Go 1.24 oder neuer, dann verschieben Sie sie in Ihren PATH.
- Führen Sie
ctrlaiohne Argumente aus, um die Ersteinrichtung zu starten, die eine Standardkonfiguration, eine Regeldatei und ein Audit-Verzeichnis schreibt. - Starten Sie den Proxy mit
ctrlai start(mit-dläuft er im Hintergrund). - Richten Sie Ihren Agenten auf den Proxy, indem Sie die Anbieter-
baseUrlin Ihrer Agentenkonfiguration aufhttp://127.0.0.1:3100/provider/anthropicsetzen. - Öffnen Sie das Dashboard unter
http://127.0.0.1:3100/dashboard, um Tool-Aufrufe zu beobachten und Ihre Regeln anzupassen.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von CtrlAI.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Entwickler, die KI-Agenten bauen
- Kleine Teams, die Agentenprodukte ausliefern
- Betreiber mit Fokus auf Sicherheit und Compliance
Aufgaben
- Riskante Tool-Aufrufe blockieren
- Eine Audit-Spur führen
- Not-Abschaltung
Szenarien
- Lokale Agentenentwicklung
- Multi-Agenten-Setups
- Compliance-Prüfung
Wichtigste Funktionen
Transparenter Proxy ohne Codeänderungen
CtrlAI sitzt zwischen dem SDK Ihres Agenten und dem LLM-Anbieter, ohne Ihren Agenten anzufassen. Sie ändern eine Basis-URL, und der Proxy leitet Anfragen nach oben weiter, prüft die Antwort und gibt sie zurück, als wäre nichts geschehen. Das SDK merkt nie etwas. Kein Neuschreiben, kein Wrapper, keine neue API zum Lernen.
Konfigurierbare Guardrail-Regeln
Regeln liegen in einer YAML-Datei und treffen auf Tool-Name, Agenten-ID, Globs von Dateipfaden, Befehls-Regex, URL-Regex oder jede Teilzeichenkette in den Argumenten zu. Sie können ein bestimmtes Tool komplett blockieren, es nur für einen Agenten blockieren oder gefährliche Shell-Muster wie ein rm -rf auf der Wurzel blockieren. Mehrere Bedingungen in einer Regel werden mit AND verknüpft. Listen innerhalb eines Felds werden mit OR verknüpft. Der erste Treffer gewinnt.
19 integrierte Sicherheitsregeln
Ab Werk liefert CtrlAI integrierte Regeln für SSH-Privatschlüssel, Env-Dateien, Anmeldedateien, Schreibzugriffe auf die Shell-Konfiguration, destruktive Befehle, Datenexfiltration, Kamerazugriff, Bildschirmaufnahme, Standort und Remote-Codeausführung. Sie sind standardmäßig aktiv. Sie sind abschaltbar. Sie bekommen Basisschutz, bevor Sie eine einzige eigene Regel schreiben.
Not-Aus-Schalter
Sie können jeden Agenten sofort mit ctrlai kill main --reason "suspicious activity" beenden oder alles mit ctrlai kill --all stoppen. Der Proxy gibt eine gefälschte Antwort zum Rundenende zurück, damit die Schleife des Agenten sauber stoppt. Der Kill-Zustand wird in eine Datei geschrieben und für Hot-Reload beobachtet. Er greift innerhalb von Sekunden, auch während der Proxy läuft.
Manipulationssicheres Audit-Log
Jeder Tool-Aufruf wird mit Sequenznummer, Zeitstempel, Agenten-ID, Tool-Name, Argumenten, Entscheidung und der passenden Regel aufgezeichnet. Jeder Eintrag trägt einen SHA-256-Hash, der mit dem vorherigen verknüpft ist. Ändern Sie einen Eintrag, und die Kette bricht ab diesem Punkt. Sie können live mitlesen, nach Agent oder Entscheidung abfragen, die Integrität prüfen und nach CSV oder JSON exportieren.
Live-Dashboard und REST-API
Ein Web-Dashboard auf demselben Port zeigt Agenten, Anfrage- und Blockierzahlen, die vollständige Regelliste und einen Echtzeit-Feed der Tool-Aufruf-Entscheidungen über WebSocket. Alles, was das Dashboard zeigt, ist auch über eine REST-API erreichbar, sodass Sie Regeländerungen, Kills und Audit-Abzüge aus Ihren eigenen Tools heraus skripten können.
Alles-oder-nichts-Antwortblockierung
Enthält eine Antwort mehrere Tool-Aufrufe, bewertet CtrlAI jeden einzelnen, entfernt aber die gesamte Antwort, wenn ein einziger Aufruf blockiert wird. Die Begründung: Modelle planen Aufrufe als Gruppe, also könnte die „sichere" Hälfte laufen zu lassen unvorhersehbares Verhalten auslösen. Das ist die vorsichtige Voreinstellung, ein Teilblockierungsmodus ist als künftige Option vermerkt.
Isolierung mehrerer Agenten
Die Agentenidentität kommt aus dem URL-Pfad, also werden /provider/anthropic/agent/work/... und /provider/anthropic/agent/main/... als getrennte Agenten mit eigenen Regeln, Audit-Verlauf und Kill-Zustand behandelt. Sie können die Rechte eines Agenten sperren, ohne zu ändern, was die anderen dürfen.
Vor- und Nachteile
Vorteile
- Funktioniert mit jedem SDK, das eine eigene Basis-URL zulässt, sodass die Integration eine einzeilige Konfigurationsänderung statt eines Neuaufbaus ist.
- Liefert 19 standardmäßig aktivierte Sicherheitsregeln, was nützlichen Schutz vor jeder Einrichtungsarbeit gibt.
- Das Audit-Log nutzt eine SHA-256-Hash-Kette, sodass Manipulation erkennbar ist und nicht nur abgeraten wird.
- Deckt Anthropic Messages und OpenAI Chat Completions mit vollständiger Prüfung ab, plus Pass-through für andere Pfade.
- MIT-lizenziert und selbst gehostet, also kein Abo und keine Daten verlassen Ihre Maschine.
Nachteile
- Erfordert Go 1.24+ zum Bauen und Vertrautheit mit Konfigurationsdateien und einer CLI, was nicht-technische Nutzer ausschließt.
- Das Dashboard hat keine Authentifizierung, also lässt ein über localhost hinaus offener Port 3100 jeden im Netzwerk Agenten abschalten und Aktivität lesen.
- Alles-oder-nichts-Blockierung bedeutet, dass ein schlechter Aufruf in einem Stapel den ganzen Stapel blockiert, sodass Sie manchmal eine harmlose Anfrage getrennt neu senden.
Häufige Fragen
Es ist ein Proxy, der zwischen Ihrem KI-Agenten und dem LLM-Anbieter sitzt. Er liest die Tool-Aufrufe, die das Modell zurückgibt, prüft sie gegen Ihre Regeln, blockiert die gefährlichen und protokolliert alles. Ihr Agent läuft weiter, als spreche er direkt mit Anthropic oder OpenAI.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu CtrlAI.
Alternativen zu CtrlAI
BinkBink
BinkBink · SonstigesBinkBink ist eine kostenlose Online-Spielplattform und ein KI-Spielmacher, mit dem jeder eine kurze Textbeschreibung in ein spielbares Browser-Spiel verwandeln kann. Sie springen in Hunderte von der Community erstellte Spiele. Oder Sie beschreiben Ihre eigene Idee, spielen sie in Sekunden und teilen sie dann mit Freunden. Sie wollen Ihr eigenes Spiel erstellen? Sie müssen nicht programmieren. Kein Einrichten einer Engine, kein Download, kein Aufwand.
Audiogen
Audiogen Inc. · SonstigesAudiogen ist ein KI-Musikgenerator des Unternehmens Audiogen Inc., eines kleinen Forschungsteams, das rund 2,5 Jahre damit verbrachte, ein eigenes generatives Musikmodell zu trainieren und eine Web-Oberfläche darum herum zu entwerfen. Statt eines einfachen Textfelds verwandelt dieses KI-Musik-Tool die Zeitleiste in eine anfängerfreundliche Generative Audio Workstation, kurz GAW, in der Inpainting, Verlängern, Remixen und Stem-Bearbeitung eher wie Malen auf einer Leinwand funktionieren. Das Produkt ist noch in der Beta, der Zugang läuft also über eine Warteliste oder eine Einladung. Bezahlpläne sind noch nicht veröffentlicht.
Aiml API
AIMLAPI OÜ · SonstigesAiml API ist eine einheitliche KI-Modell-API, die über 1000 Modelle von OpenAI, Google, Anthropic und anderen hinter einem einzigen Endpunkt und einer einzigen Rechnung bündelt. Sie schreiben Code gegen ein einziges OpenAI-kompatibles Schema und wechseln dann zwischen Chat-, Bild-, Video- und Audiomodellen, indem Sie eine Modellzeichenfolge ändern. Sie passt zu Entwicklern und kleinen Teams, die multimodalen Zugriff wollen, ohne ein Dutzend getrennte Anbieterkonten zu verwalten, und sie beseitigt den üblichen Rechnungsstress beim Testen mehrerer Anbieter. Ein Schlüssel deckt alles ab.