OpenAI lässt zum ersten Mal ein fremdes Sicherheitsunternehmen auf die eigenen Systeme. Der Auftrag gilt den Verbindungen zu fremden Diensten, nicht dem Modell, und dort sitzt das eigentliche Risiko.
OpenAI Hacktron: ein fremdes Red Team für die Nahtstellen
Die Ankündigung vom 6. November kommt ohne Zahlen aus. OpenAI schreibt nur, man wolle gemeinsam mit Hacktron nach Schwachstellen in den eigenen Systemen suchen. Entscheidend ist ein Halbsatz: Der Schwerpunkt liegt darauf, wie diese Systeme mit Diensten von Drittanbietern zusammenspielen. Der Auftrag klingt harmlos, weil er in einem Blogbeitrag von wenigen Absätzen steht, doch er betrifft genau die Stellen, an denen ein KI-Produkt von außen erreichbar wird.
In den letzten zwei Jahren ging es meist um das Modell selbst, um Jailbreaks und Trainingsdaten. Die Nahtstellen sind etwas anderes. Ein Assistent liest ein Repository, zieht Kalendereinträge, verschickt eine Mail über ein verbundenes Postfach. Jede dieser Verbindungen hat eigene Rechte, eigene Tokens und eigene Fehlerquellen. Wer einen Assistenten mit dem Firmen-Repository, dem Kalender und dem Postfach verbindet, schafft drei zusätzliche Wege in ein System, das vorher nur über die eigene Anmeldung erreichbar war, und jeder dieser Wege bekommt eine Rechtevergabe, die selten jemand nachprüft.
Ein Team hängt ChatGPT an GitHub, damit das Modell Pull Requests zusammenfasst. Dafür braucht es Leserechte. Wer Schreibrechte freigibt, weil es schneller geht, hat die Macht an die Verbindung verschoben. Genau dort setzt die externe Prüfung an.
Warum OpenAI ein externes Red Team braucht
Seit dem 5. November verkauft OpenAI mit GPT-6 Cyber ein Modell, das Schwachstellen findet und Reparaturen vorschlägt. Ein solches Modell prüft, was man ihm zeigt. Es sieht nicht, wer in welchem Team welche Freigabe erteilt hat, und es kennt die gewachsenen Ausnahmen nicht, die in jedem größeren Unternehmen existieren.
Ein externes OpenAI red team bringt diesen Blick mit. Die eigenen Leute kennen die vorgesehenen Wege zu gut und testen deshalb oft nur die Wege, die jemand bewusst gebaut hat. Ein Modell, das auf die Frage nach einer Schwachstelle mit einem Exploit antwortet, hilft bei der Prüfung eines Codestücks, aber es sagt nichts darüber, ob die Verbindung zwischen Assistent und Repository großzügigere Rechte vergibt, als der Anwendungsfall verlangt.
OpenAI fand Hacktron über das eigene Bug-Bounty-Programm. Ausschlaggebend sei die Wirkung der gemeldeten Lücken gewesen. Hacktron baut nach eigener Beschreibung KI-Agenten für Code-Review, Penetrationstests und Red-Team-Arbeit. Diese Werkzeuge automatisieren einen Teil der Angriffsarbeit und überlassen den Rest dem Menschen.
Der Hacktron-Bericht vom Juli: zwei Lücken bis ins Repository
Aussagekräftiger als die Ankündigung ist die Vorgeschichte, die Hacktron am 13. September veröffentlicht hat. Demnach verketteten die Forscher am 25. Juli zwei kritische Lücken und kamen damit an die ChatGPT-Konten mehrerer OpenAI-Mitarbeiter.
Die erste Lücke steckte im Bildpfad des Community-Forums, das OpenAI auf Discourse betreibt: eine Remotecodeausführung, also die Möglichkeit, über eine Bildverarbeitung eigenen Code auf dem Server auszuführen. Die zweite war ein Problem bei der zentralen Anmeldung von OpenAI. Zusammen trugen sie den Angriff vom Forum in ChatGPT und Codex und von dort in eine verbundene GitHub-Integration.
Hacktron öffnete zum Beweis einen harmlosen Pull Request im internen Monorepo von OpenAI und hörte danach auf. Dass ein öffentliches Forum, eine zentrale Anmeldung und eine GitHub-Anbindung zusammen ausreichen, um von einem Diskussionsbereich bis in den internen Code zu kommen, ist der eigentliche Befund des Berichts. Der Bericht lief über das Bugcrowd-Programm und parallel an Discourse. Nach der Zeitleiste von Hacktron bestätigte OpenAI rund 14 Stunden später einen Fix, Discourse hatte zwei Tage danach eine Korrektur bereit, und am 1. September zahlte OpenAI ein Kopfgeld von 6.500 Dollar.
Das ist die Darstellung von Hacktron. OpenAI hat keine eigene Version des Ablaufs veröffentlicht, und der neue Vertrag ändert daran nichts.
Daybreak Red: Zugang unter Auflagen, kein Abo
Der zweite Teil der Ankündigung betrifft den Zugang. OpenAI erweitert für Hacktron die Nutzung von Daybreak Red. Wer den Namen zum ersten Mal liest, könnte ein Produkt vermuten. Es ist eine Freigabe.
OpenAI hatte Daybreak am 10. August vorgestellt. Red steht für Modelle, die gezielt für Cybersicherheitsarbeit trainiert sind: Schwachstellen suchen, Exploits prüfen, Systeme im Auftrag testen. Blue ist der Einstiegspunkt, den OpenAI den meisten Verteidigern empfiehlt. Der Zugang gilt nur für geprüfte Personen und Organisationen, mit Identitätsprüfung, Absicherung des Kontos, Überwachung, einer Liste erlaubter Zwecke und einer rechtlichen Erklärung.
Hacktron bekommt damit keine Schlüssel zum Haus. Wer Daybreak Red mit einem Abonnement verwechselt, übersieht, dass jede Freigabe an eine Prüfung der Identität, an eine überwachte Nutzung und an eine Erklärung zum erlaubten Zweck gebunden ist, die im Streitfall auch rechtliche Folgen hat. Hacktron bekommt Zugang zu Modellen für autorisierte Tests, unter denselben Auflagen wie andere geprüfte Nutzer.
Wo die OpenAI security partnership endet
Über Ergebnisse ist nichts bekannt. OpenAI nennt keine Zahl gefundener Lücken, keinen Zeitplan und keine Frist. Beide Seiten wollen zunächst Schwerpunkte festlegen, und das ist ein Plan, kein Befund.
Auch die Arbeitsteilung bleibt offen. Unite.AI weist darauf hin, dass Hacktron seine früheren Arbeiten nicht vollständig autonom erledigt hat. Menschliche Führung blieb wichtig, und daran dürfte sich wenig ändern. Agenten finden Kandidaten, Menschen entscheiden, was davon zählt.
Die OpenAI security partnership ist außerdem kein Exklusivvertrag. In derselben Woche kündigte OpenAI an, Forscher von Cathedral im nächsten Sicherheits-Sprint mit den eigenen Teams arbeiten zu lassen, und erhöhte die Kopfgelder im Bug-Bounty-Programm. Hacktron bleibt ein eigenständiges Unternehmen mit eigenen Kunden, weder übernommen noch als Prüfer beauftragt.
Was Teams aus der OpenAI vulnerability research mitnehmen
Die Lehre steckt in der Verbindung.
Wer einen Assistenten an ein Repository, ein Postfach oder ein CRM hängt, sollte die Berechtigungen einzeln durchgehen und alles streichen, was nur für später gedacht war. Ein Token mit Schreibrechten, das niemand braucht, ist ein offenes Fenster. Dasselbe gilt für Schlüssel, die nach einem Test im Skript bleiben.
In deutschen Unternehmen läuft die Freigabe neuer Anbindungen oft über IT und Datenschutzbeauftragten. Genau dort gehört die Frage nach den Rechten hin. Was heißt das für ein Team, das gerade drei Integrationen freigeschaltet hat? Wenn bei Ihnen jede neue SaaS-Verbindung durch diese Schleife muss, ist das kein Hindernis, sondern die Gelegenheit, die Rechte einmal zu begrenzen. Der Punkt betrifft jede Form von OpenAI vulnerability research, nicht nur diesen einen Vertrag.
Für Agenten gilt eine zweite Regel: Aktionen vor der Ausführung prüfen. OpenAI empfiehlt das selbst, zusammen mit einer Trennung von Produktivsystemen und offenem Internet. Ein Agent, der im Zweifel einen Pull Request öffnet statt ihn zu mergen, richtet weniger Schaden an.
Der Angriff im Juli brauchte keine Lücke im Sprachmodell. Er brauchte ein Forum, eine Anmeldung und eine Verbindung dazwischen. Wer heute KI in bestehende Systeme einbaut, verteidigt die Übergänge. Das Modell ist der Teil, den der Hersteller absichert.






