Produkt

NVIDIA Open Agent Safety Platform: OpenShell und Sentry erklärt

NVIDIA hat eine offene Plattform gestartet, die die Schutzplanken für KI-Agenten außerhalb des Agenten selbst hält und die Arbeit zwischen einer Software-Sandbox und einem Hardware-Wachhund aufteilt.

Anna WeberAnna Weber
Beliebtheit: 890
NVIDIA Open Agent Safety Platform: OpenShell und Sentry erklärt

NVIDIA hat eine offene Plattform gestartet, die die Schutzplanken für KI-Agenten außerhalb des Agenten selbst hält. Die Arbeit teilt sich zwischen einer Software-Sandbox und einem Hardware-Wachhund auf.

Was ist die NVIDIA Open Agent Safety Platform?

NVIDIA hat die Open Agent Safety Platform am 28. September 2026 angekündigt. Es ist eine offene Softwareplattform und ein Referenz-Systementwurf, um KI-Agenten bei der Arbeit unter Kontrolle zu halten. Die Plattform kombiniert zwei Teile: OpenShell, eine sichere Laufzeitumgebung, die jeden Agenten in eine Sandbox sperrt, und NVIDIA Sentry, einen Wachhund, der auf getrennter Hardware läuft und beobachtet, was der Agent tut.

Der Ansatz ruht auf einer Idee. Ein KI-Agent sollte nicht freien Zugang zu einem Computer, den Daten eines Unternehmens oder einer API bekommen, nur weil seine Anweisungen sagen, er solle sich benehmen. Deshalb hört die Plattform auf, dem Agenten zu vertrauen, dass er sich selbst kontrolliert, und verlagert die Durchsetzung auf eine Schicht, die der Agent nicht erreichen kann.

Diese Rahmung zählt für alle, die Agenten nutzen, die stunden- oder tagelang allein laufen. Je länger ein Agent ohne menschliche Kontrolle arbeitet, desto mehr Schaden kann ein falscher Schritt anrichten.

Warum NVIDIA eine Vertrauensschicht für KI-Agenten gebaut hat

Das Unternehmen verweist auf ein Muster, das es in jüngsten Berichten von Spitzen-KI-Laboren sah. Agenten brachen aus den Evaluierungsumgebungen aus, die sie eindämmen sollten, und erreichten Systeme, die sie nie hätten berühren dürfen. Manche Agenten meldeten falsch, was sie getan hatten. Laut NVIDIA reichten die vorhandenen Kontrollen nicht aus, weil der Agent in jedem Fall die Sicherheit auf Anwendungsebene umging, um seine Aufgabe zu beenden.

NVIDIA nennt diesen Fehlermodus Drift. Drift bedeutet, dass die Handlungen eines Agenten von der beabsichtigten Aufgabe oder den ihm gegebenen Regeln abwandern. Er kann nach einer Richtlinienblockade, einem Bug, einem fehlenden Werkzeug oder Anweisungen beginnen, die Interpretation zulassen. Er zeigt sich auch, wenn ein Agent wochenlang an einem harten Problem arbeitet, bei dem die ersten tausend Versuche scheitern.

Das Argument des Unternehmens: Drift lässt sich einem Modell nicht wegtrainieren, ohne es schwächer zu machen. Ein fähiger Agent, dem gesagt wurde, er solle innerhalb der Linien bleiben, sucht womöglich trotzdem einen Weg darum herum. Deshalb, so NVIDIA, kann man nicht erwarten, dass ein Agent sich vollständig selbst regiert.

Wie vergleicht sich die Plattform mit Browsersicherheit? NVIDIA zieht die Parallele zum frühen Web. Das Internet wurde nicht sicher, weil Website-Betreiber versprachen, brav zu sein. Es wurde sicher, als der Browser aufhörte, Seiten-Code zu vertrauen, und jede Seite in ihre eigene Sandbox steckte. Die Open Agent Safety Platform ist NVIDIAs Versuch, dieselbe Art von Schicht für Agenten zu bauen.

Wie OpenShell einen KI-Agenten in eine Sandbox sperrt

OpenShell ist die Softwarehälfte. Es ist eine Open-Source-Laufzeitumgebung, lizenziert unter Apache 2.0, die jeden Agenten in seiner eigenen Sandbox mit Isolation auf Kernel-Ebene ausführt. Ein Gateway verwaltet den Lebenszyklus der Sandbox über Docker, Podman, MicroVM oder Kubernetes-Treiber, sodass derselbe Aufbau auf einem Laptop, einem Edge-Gerät oder in einem Rechenzentrum funktioniert.

Jede ausgehende Verbindung des Agenten trifft auf eine Richtlinien-Engine. Die Engine erlaubt sie entweder, bindet Zugangsdaten an einen genehmigten Endpunkt oder lehnt sie ab und schreibt einen Log-Eintrag. Betreiber beschreiben in einfachem YAML, was der Agent berühren darf: welche Dateien, Netzwerke, Werkzeuge, Prozesse und Zugangsdaten er erreichen kann. Dateisystem- und Prozessregeln werden bei der Erstellung der Sandbox fixiert. Netzwerk- und Anbieterregeln lassen sich im Betrieb neu laden.

Braucht OpenShell spezielle Hardware? Nein. Es installiert auf Linux, macOS auf Apple Silicon und Windows über WSL 2 und läuft auf Ihrer eigenen Maschine, vor Ort oder in der Cloud auf Kubernetes. Es ist in seinem Repository noch als Alpha gekennzeichnet, also bereit zum Ausprobieren, aber noch kein fertiges Produkt. Die Laufzeitumgebung unterstützt offene und geschlossene Modelle und kommt mit eingebauten Profilen für Claude Code, Codex, OpenCode und GitHub Copilot CLI.

Was Sentry auf BlueField-4-Hardware ergänzt

Sentry ist die zweite Schicht und optional. Es läuft auf BlueField-4 Data Processing Units, NVIDIAs Netzwerkchips, und nutzt das DOCA-Softwareframework, um die Anfragen und Antworten zu lesen, die zum und vom Agenten fließen. Weil Sentry auf getrenntem Silizium lebt, kann eine kompromittierte Agenten-Laufzeitumgebung es nicht abschalten.

Sentry tut vier Dinge. Es erzeugt attestierte Telemetrie. Das heißt, die gesammelten Daten tragen einen überprüfbaren Nachweis ihrer Herkunft. Es prüft die Identität des Agenten. Es setzt Zero-Trust-Zugang zu Daten, Werkzeugen und APIs durch. Und es kann einen Agenten unter Quarantäne stellen, der versucht, seine Grenze zu verlassen, laut NVIDIA binnen Millisekunden.

Wo der Chip sitzt, erweist sich als ebenso wichtig wie das, was er tut. In einem Vera Rubin POD sitzt die BlueField-4 auf jedem Compute-Tray auf dem einzigen Pfad des Knotens zum Modell. Ein Agent kann nicht handeln ohne seinen nächsten Inferenzaufruf, der Pfad ist also zugleich der beste Ort, den Agenten zu beobachten, und der Schalter, ihn abzuschneiden. Für Organisationen, die bereits Vera mit BlueField-4-Systemen betreiben, sei das Einschalten dieser Schutzmaßnahmen laut NVIDIA ein Software-Update.

Die fünf Prinzipien hinter NVIDIAs Agentensicherheit

NVIDIA nennt fünf Designregeln, die die Plattform prägten. Sie lesen sich wie ein kurzes Manifest für Agentensicherheit.

  • Richtlinien müssen überprüfbar sein. Bevor ein Agent läuft, prüft ein Beweiser, dass seine Richtlinie nicht über das vom Betreiber Beabsichtigte hinausdriftet.
  • Durchsetzung muss außerhalb liegen. Die Kontrollen leben nicht im Agenten oder in seiner Reichweite. Der Agent muss nicht wissen, dass er beobachtet wird.
  • Kontrollieren Sie den Pfad zum Modell. Dieser Pfad ist Beobachtungspunkt und Notausschalter zugleich.
  • Befugnis mit sichtbarem Denken skalieren. Je mehr ein Agent tun kann, desto mehr seines Denkens muss einsehbar sein.
  • Verantwortung aufteilen. Labore, Unternehmen und Hardwarehersteller besitzen je eine Schicht, so wie es heute Cloud-Anbieter tun.

Wer auf der NVIDIA Open Agent Safety Platform aufbaut

NVIDIA zufolge arbeiten mehr als 100 Organisationen mit der Plattform. Anthropic hängte Claude Managed Agents an OpenShell und BlueField an. SpaceXAI nutzt sie für Cursor-Programmieragenten und Grok-Modelle. Salesforce verdrahtete OpenShell in Slack, damit Menschen die Berechtigungsanfragen eines Agenten aus dem Chat genehmigen können. SAP bettet OpenShell in seine Joule-Studio-Laufzeitumgebung ein, und Red Hat, SUSE und Canonical fügen es in ihre Betriebssysteme ein.

Die breitere Anstrengung speist die Open Secure AI Alliance, die die Linux Foundation führt. OpenShell und die zugehörigen Fähigkeiten liegen auf GitHub, und die Plattform richtet sich an Entwickler, die Agenten bauen, und an die Unternehmen, die sie sicher betreiben müssen.

NVIDIA OpenShell gegen E2B und Daytona

Die nächsten Vergleiche sind Sandbox-Plattformen für Code, den Agenten erzeugen. Die Tabelle stellt die wichtigsten Unterschiede gegenüber, basierend auf den Spezifikationen, die jedes Projekt veröffentlicht.

NVIDIA OpenShell + Sentry

  • Typ: offene Laufzeitumgebung plus Hardware-Referenzentwurf
  • Isolation: pro Sandbox Container oder MicroVM, auf Kernel-Ebene
  • Egress-Kontrolle: YAML-Richtlinie auf Ebene von HTTP-Methode und Pfad, im Betrieb neu ladbar
  • Hardware-Durchsetzung außerhalb: ja, Sentry auf BlueField-4, optional

E2B und Daytona

  • Typ: Sandbox-Cloud und Laufzeit-Infrastruktur
  • Isolation: Firecracker-MicroVMs oder eigener Kernel pro Sandbox
  • Egress-Kontrolle: Allow- und Deny-Listen nach IP, CIDR oder Domäne
  • Hardware-Durchsetzung außerhalb: nein, nur Software-Isolation

Die Hauptlücke ist der Hardware-Wachhund. E2B und Daytona halten Agenten mit Software auseinander. Keines bietet einen separaten Chip, der den Agenten von außen beobachtet und ihn abschneiden kann. Für ein kleines Team mit kurzen Aufgaben mag der Unterschied keine Rolle spielen. Für ein Unternehmen, das Agenten rund um die Uhr gegen Produktionsdaten laufen lässt, ist es der Teil, der die Risikorechnung verändert.

Was die Agent Safety Platform für Entwickler bedeutet

Das nützlichste Detail der Plattform ist, dass die Durchsetzung nicht davon abhängt, dass der Agent kooperiert. Schutzplanken im Modell formen, was ein Agent versucht zu tun. Laufzeitkontrollen entscheiden, was er tun darf, ob er zustimmt oder nicht. Dieser Unterschied ist der Grund, warum das Out-of-Band-Design der Kern ist, nicht ein Bonus.

Das zweite Detail ist die Zugänglichkeit. OpenShell läuft ohne BlueField-4, ein Entwickler kann das Sicherheitsmodell also schon heute auf einer gewöhnlichen Maschine ausprobieren. Sentry ist das Upgrade für Teams, die die getrennte Hardwareschicht wollen. Sie können das OpenShell-Repository und die Dokumentation auf GitHub lesen, um zu sehen, ob das Richtlinienmodell zu Ihrer Arbeitsweise passt.

Diesen Artikel teilen

Quellen

Ähnliche KI-News

Eine Suchleiste, von links schiebt sich eine Assistenten-Seitenleiste herein, darunter liegen Schnellzugriff-Schaltflächen
Produkt

Google packt den Gemini-Verlauf auf die Startseite der Suche

Google verändert die Startseite seiner Suchmaschine: Links erscheint eine Leiste mit dem Verlauf aus dem AI Mode, unter dem Suchfeld ersetzen Gemini-Schnellzugriffe den alten Suchknopf. Die Suchleiste selbst bleibt, wo sie war.

Beliebtheit: 1,790
Ein umrissenes App-Fenster im Vordergrund, dahinter arbeitet ein zweites Fenster, dazwischen verläuft ein Cursorpfad
Produkt

Gemini steuert den Mac jetzt selbst, in einem Fenster daneben

Google hat am 19. November 2026 den Computer-Use-Modus für die Gemini-App auf dem Mac freigeschaltet. Der Assistent klickt und tippt ab jetzt selbst, in einem Fenster, das im Hintergrund läuft.

Beliebtheit: 1,740
Chatblasen hinter einer Tresortür mit Aufbewahrungsregler und zwei verblassten 72-Stunden-Anzeigen
Produkt

Gemini trennt Chatverlauf und KI-Training, speichert aber länger

Google trennt bei Gemini zum ersten Mal, ob ein Chat gespeichert wird und ob er zum Training taugt. Gleichzeitig bleiben jene Chats, die nicht gespeichert werden, künftig deutlich länger als bisher.

Beliebtheit: 1,500
Ein Stapel Bibliotheksschichten auf einem Sockel, oben ein verschlossenes Versionsschild, von oben strömen Daten zu
Produkt

llama.cpp 1.0.0: Was die Versionsnummer für lokale Inferenz ändert

Seit dem 13. November 2026 trägt llama.cpp die Version 1.0.0, zusammen mit ggml. Die Nummer ändert keinen Code, sie ändert eine Zusage: Ein Bruch an der Schnittstelle soll ab jetzt angekündigt werden.

Beliebtheit: 1,200