Prompt Inspector
Prompt Inspector · Coding · Prompts
Prompt Inspector ist eine Open-Source-Sicherheitsschicht, die jeden Prompt auf Injection-Angriffe, sensible Inhalte und feindselige Eingaben prüft, bevor er dein LLM erreicht.

Über Prompt Inspector
About
Was ist Prompt Inspector
Prompt Inspector ist eine Sicherheits-Firewall für LLM-Anwendungen und KI-Agenten. Sie sitzt zwischen nicht vertrauenswürdiger Nutzereingabe und deinem Sprachmodell und analysiert jeden Prompt in Echtzeit, bevor er dein KI-System erreicht. Das Projekt ist Open Source unter der AGPL-3.0-Lizenz, mit einer gehosteten Cloud-Option und einer Enterprise-Edition für private Bereitstellung.
Das Werkzeug entstand aus einem konkreten Problem. Wenn generative KI in die Produktion wandert, werden Prompt-Injection, Jailbreaks und feindselige Manipulation zu echten Angriffsvektoren. Ein Chatbot für Endkunden, ein autonomer Agent oder ein Coding-Assistent lesen Text, den sie nicht selbst geschrieben haben. Prompt Inspector fügt die Leitplanke hinzu, die die meisten dieser Stacks auslassen. Er erkennt Injection und schädliche Inhalte, filtert sensible Wörter je Mandant und gibt ein Sicherheitsurteil zurück, auf das deine eigenen Regeln reagieren.
Das Projekt stammt aus März 2026. Auf GitHub liegt es unter aunicall/prompt-inspector, und es wird mit einer klaren Aufteilung veröffentlicht: Das Repository ist für nicht kommerzielle Nutzung offen, während die Enterprise-Edition eine gepflegte Payload-Bibliothek, Anpassungen, private Bereitstellung und dedizierten Support ergänzt. Die Erkennungs-Engine nutzt einen fünfschichtigen Trichter statt eines einzelnen Modells, und diese Designentscheidung prägt sowohl seine Geschwindigkeit als auch seine Genauigkeit.
Erste Schritte
- Erstelle ein Konto auf promptinspector.io und melde dich mit Google oder GitHub an.
- Öffne das Dashboard, erstelle eine App und kopiere den erzeugten App-API-Schlüssel. Er wird nur einmal gezeigt, also speichere ihn sofort.
- Wähle eine Integration: Installiere das Python-SDK mit
pip install prompt-inspector, das Node.js-SDK mitnpm install prompt-inspectoroder rufe den REST-Endpunkt direkt auf. - Führe eine erste Prüfung mit wenigen Zeilen aus: Erstelle einen Client mit deinem Schlüssel, rufe
detectauf eine Testzeichenfolge auf und liesis_safe,scoreundcategoryzurück. - Für die REST-Nutzung sende ein POST an
https://promptinspector.io/api/v1/detect/sdkmit einemX-App-Key-Header und eineminput_text-Feld. - Verbinde es über den MCP-Server mit einem Editor oder Agenten, der mit Cursor, VS Code Copilot, Claude Desktop und Dify funktioniert.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Prompt Inspector.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Backend- und Plattform-Entwickler, die LLM-Funktionen bauen
- Anwendungssicherheitsteams, die KI-Kontrollen ergänzen
- Teams mit Regeln zur Datenhaltung
- Nutzer von KI-Coding-Werkzeugen
- Teams, die eine selbst gehostete KI-Firewall wollen
Aufgaben
- Prompt-Injection erkennen
- Sensible Inhalte filtern
- Ein Sicherheitsurteil an deine App zurückgeben
- Guardrails auf eigenen Servern betreiben
- KI-Sicherheitsprüfungen in einen Agenten-Ablauf einfügen
Szenarien
- Einen Filter vor einen öffentlichen Chatbot setzen
- Nutzertext prüfen, bevor ein Agent handelt
- Eine Anforderung zur Datenverarbeitung erfüllen
- Eine Inhaltsregel durchsetzen
Wichtigste Funktionen
Mehrschichtige Erkennungs-Engine
Die Erkennung läuft als fünfschichtiger Trichter, und jede Schicht filtert etwas feiner als die vorige. Ein globaler Hash-Cache gibt für eine wiederholte Eingabe das frühere Ergebnis mit nahezu null Latenz zurück. Eine Schicht für sensible Wörter gleicht Schlüsselwörter und Regex-Muster mit einem Aho-Corasick-Automaten ab und bricht beim ersten Treffer ab. Eine semantische Schicht nutzt Vektor-Embeddings, um umformulierte Angriffe und verschleierte Injection zu fangen, die Wortregeln übersehen. Eine optionale KI-Prüfung behandelt Grauzonen-Eingaben, und ein Arbitrierungsschritt bündelt die Schichten zu einem endgültigen Urteil mit einem Konfidenz-Score.
Echtzeiterkennung bei geringer Latenz
Die meisten Anfragen lösen sich in den ersten zwei Schichten in unter 3 ms, so das Projekt. Die vollständige semantische Analyse ist in rund 30 ms abgeschlossen. Das Trichterdesign hält diese Zahlen: Eine offensichtliche Bedrohung wird an der Wortschicht gestoppt, und nur mehrdeutige Eingaben wandern weiter durch die Pipeline. Diese Trennung hält die Engine im Normalfall schnell, ohne auf echte Rechenleistung für die schweren Fälle zu verzichten.
Filterung sensibler Wörter je Mandant
Jeder Mandant definiert eigene Wortlisten, und die Engine unterstützt zwei Abgleichstrategien. Der wörtliche Abgleich läuft auf einem Aho-Corasick-Automaten, der die gesamte Eingabe in einem Durchgang mit linearer Zeit durchläuft, egal wie viele Schlüsselwörter du konfigurierst. Regex-Muster decken strukturierte Daten wie Telefonnummern und Kartenformate ab. Wenn ein Wort passt, bricht die Pipeline ab, sodass die Schicht sowohl Sicherheitsnetz als auch Geschwindigkeitsabkürzung ist.
KI-gestützte Grauzonen-Prüfung
Eingaben, die in eine unklare Mitte fallen, werden an ein Sprachmodell für eine zweite Meinung eskaliert. Unterstützte Prüfer sind unter anderem DeepSeek, Qwen und Gemini. Diese Schicht existiert, um falsch positive Ergebnisse zu senken, und bleibt optional, damit eine Bereitstellung die Pipeline vollständig deterministisch halten kann, wenn nötig. Ein klarer Score der semantischen Schicht überspringt die Prüfung ganz.
Selbst iterierende Bedrohungsbibliothek
Wenn der KI-Prüfer einen neuen Angriff bestätigt, erzeugt die Engine Varianten-Payloads und fügt sie selbst der Vektordatenbank hinzu. Im Laufe der Zeit wächst die Payload-Bibliothek aus den Bedrohungen, die das System tatsächlich sieht, nicht aus einer festen Liste, die jemand von Hand pflegt. Die Enterprise-Edition ergänzt eine gepflegte Payload-Bibliothek im Millionenmaßstab mit Echtzeit-Aktualisierungen aus Produktionsbedrohungen.
MCP- und SDK-Integrationen
Prompt Inspector liefert eine REST-API, ein offizielles Python-SDK, ein offizielles Node.js-SDK und einen MCP-Server. Der MCP-Server funktioniert mit Cursor, VS Code Copilot, Claude Desktop und Dify, und eine Skill-Integration deckt OpenClaw und Claude Code ab. Alle Clients authentifizieren sich mit demselben App-API-Schlüssel, gesendet über einen X-App-Key-Header oder ein Bearer-Token, sodass ein Schlüssel den ganzen Stack abdeckt.
Open-Source-Kern mit Enterprise-Edition
Der Kern ist Open Source unter der AGPL-3.0-Lizenz und lässt sich klonen und auf deiner eigenen Infrastruktur betreiben. Die Enterprise-Edition legt Payload-Bibliothekspflege, Anpassungen, private Bereitstellung und dedizierten Support darüber. Diese Aufteilung gibt einem einzelnen Entwickler kostenlos eine funktionierende Leitplanke und einem Unternehmen einen begleiteten Weg, wenn es ihn braucht.
Vor- und Nachteile
Vorteile
- Das Trichterdesign fängt offensichtliche Bedrohungen in den ersten zwei Schichten und spart die schwere semantische Arbeit für mehrdeutige Eingaben auf.
- Selbsthosting unter AGPL-3.0 hält die Prompt-Daten innerhalb deiner eigenen Infrastruktur, was zu strengen Regeln zur Datenverarbeitung passt.
- Ein einzelner App-API-Schlüssel und ein einzelner MCP-Endpunkt erreichen die API, beide SDKs und die Editor-Integrationen.
- Wortlisten je Mandant mit Regex decken strukturierte Daten jenseits einer festen Schlüsselwortliste ab.
- Ein kostenloses Konto mit monatlichen Anfragelimits lässt ein kleines Projekt die Engine ohne Verpflichtung testen.
Nachteile
- Die öffentliche Startseite zeigte während der Prüfungen einen Serverfehler, also braucht der Cloud-Dienst eine eigene Verfügbarkeitsprüfung, bevor du dich auf ihn verlässt.
- Die vollständige semantische Erkennung, die Payload-Bibliothek im Millionenmaßstab und die private Bereitstellung liegen hinter der Enterprise-Edition, also zeigt der kostenlose Weg einen schmaleren Ausschnitt.
- Der Preis wird nicht veröffentlicht und läuft über einen Vertriebskontakt, also braucht ein Kostenvergleich zuerst ein Gespräch.
- Die AGPL-3.0-Lizenz prägt die kommerzielle Nutzung, was bedeutet, dass ein gehostetes Produkt die Enterprise-Edition statt des offenen Repos brauchen kann.
Häufige Fragen
Prompt Inspector ist eine Open-Source-Sicherheitsschicht, die LLM-Anwendungen und KI-Agenten vor Prompt-Injection, Lecks sensibler Inhalte und anderen feindseligen Eingaben schützt. Er analysiert jeden Prompt in Echtzeit, bevor er das Modell erreicht, und gibt ein Sicherheitsurteil zurück, auf das deine eigenen Regeln reagieren.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Prompt Inspector.
Alternativen zu Prompt Inspector
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Google EmbeddingGemma 2
Google DeepMind · Schreiben · Bilder · CodingGoogle EmbeddingGemma 2 ist ein offenes Modell mit 740 Millionen Parametern, das Text, Code, Bilder, Audio und Videobilder in Vektoren eines gemeinsamen 768-dimensionalen Raums umwandelt und auf Handys und Notebooks läuft.
GitGlow
GitGlow · Coding · ProduktivitätGitGlow ist ein Git-Client für den Desktop, der Ihren Code und die Änderungen Ihrer KI-Agenten in einer Review bündelt, damit Sie vor dem Ausliefern sehen, was die Maschine verlässt.
