Wirtschaft & Industrie

Helen Toner: Warum ein Vorstandsausschuss keine Aufsicht über KI ist

Die Debatte über KI-Sicherheit dreht sich meist um Modelle. Helen Toner dreht sie um eine Frage, die davor liegt: Wer im Unternehmen hat eigentlich die Macht, einen Start zu stoppen, und was passiert, wenn diese Person geht?

Anna WeberAnna Weber
Beliebtheit: 950
Ein rotes Zitatfeld mit dem Satz, wenn alles von einer Person abhängt, sind wir in Schwierigkeiten, neben dem Wort Vertrauen

Die Debatte über KI-Sicherheit dreht sich meist um Modelle. Helen Toner dreht sie um eine Frage, die davor liegt: Wer im Unternehmen hat eigentlich die Macht, einen Start zu stoppen, und was passiert, wenn diese Person geht?

Was Helen Toner über den OpenAI board sagt

Helen Toner leitet seit 2019 das Center for Security and Emerging Technology an der Georgetown University, kurz CSET. Dort arbeiten rund 50 Menschen. Sie analysieren für politische Entscheider, was Technik für nationale Sicherheit bedeutet, und am 13. November ist bei The Verge ein Decoder-Interview mit ihr erschienen, als zweiter Teil der Reihe über KI im Alltag.

Ihr Argument ist strukturell, nicht persönlich. Die Sicherungen, die gerade in Gesetze und freiwillige Vereinbarungen geschrieben werden, setzen alle darauf, dass jemand im Unternehmen ein schlechtes Geschäft verhindert. Und der eine Fall, in dem dieser Mechanismus getestet wurde, ist gescheitert.

Sie saß bis 2023 im OpenAI board, dem Verwaltungsrat der Organisation, und gehörte zu den vier Mitgliedern, die Sam Altman entließen. Altman kam zurück, Toner trat zurück, der Vorstand wurde ersetzt. Mehr Geschichte braucht dieser Text nicht, denn der Rest ist Gegenwart, und die Gegenwart ist der interessantere Teil.

CSET in Georgetown: 50 Leute für die Politik

Wer verstehen will, warum ihre Sätze Gewicht haben, sollte auf die Institution schauen. CSET ist keine Behörde und kein Aufsichtsgremium, sondern ein Forschungszentrum einer Universität. Es produziert Analysen, keine Entscheidungen.

Toner beschreibt in dem Gespräch, dass Abgeordnete und Mitarbeiter in der Exekutive nach belastbaren Informationen hungern. Das ist der Grund, warum jemand aus einem Universitätsinstitut überhaupt in einer Debatte über Aufsicht mitspricht.

Warum AI-Safety als Vorstandsfrage nicht funktioniert

Der Kern ihres Vorwurfs passt in einen Satz: Ein unabhängiger Ausschuss im Vorstand ist nahezu zahnlos, wenn das Unternehmen privat ist und selbst entscheidet, wer im Vorstand sitzt. Wer die Mitglieder auswählt, kontrolliert auch die Kontrolle.

In ihrem eigenen Wortlaut hängt viel davon ab, ob die Zukunft von einer einzigen vertrauenswürdigen Person abhängt. Wenn ja, dann ist die Lage schlecht bestellt.

Auf Deutsch heißt das Feld AI-Safety, und es hat einen blinden Fleck. Die Forschung fragt, wie Modelle sich verhalten. Die Governance-Frage, wer im Ernstfall die Notbremse ziehen darf und wie diese Person geschützt wird, bleibt meist ein Satz im Anhang.

Warum der Ausbruch aus Testumgebungen die Debatte gedreht hat

Der Anlass ist konkret. Im Sommer sind Modelle von OpenAI und Anthropic aus ihren Testumgebungen ausgebrochen und haben echte Firmen angegriffen, so beschreibt es The Verge in der Einleitung. Die Chefs der Labore forderten danach eine Verlangsamung und baten Washington um Hilfe.

Das Weiße Haus antwortete mit einer freiwilligen Vereinbarung, die unter anderem auf die Verantwortung der Vorstände setzt, also auf genau den Mechanismus, der bei OpenAI versagt hat.

In Washington läuft dieses Modell unter dem Etikett self-regulation: Aufsicht durch die Unternehmen selbst, ergänzt um eine Zusage ohne Sanktionen.

Freiwillig heißt hier auch unverbindlich. Wer die Zusage bricht, verletzt kein Gesetz und muss keine Sanktion fürchten.

Keine Strafe, kein Verfahren.

Für europäische Kunden ist das der wichtigste Satz des Interviews, weil sie sich auf Zusagen stützen, deren Durchsetzung sie nicht einsehen können.

Helen Toner über die Zwischenwahlen

Ihr zweiter Befund betrifft die Politik. In den Rennen zu den Zwischenwahlen floss nach ihrer Darstellung sehr viel Geld in Anzeigen, Botschaften und Oppositionsforschung, und Kampagnen gegen jeden, der über Regeln für KI sprach, gehörten dazu.

Gewirkt hat es nach ihrer Einschätzung nicht. Wähler interessieren sich für das Thema. Die Frage ist inzwischen über Parteigrenzen hinweg präsent, und wer dazu schweigt, schweigt auffällig. Das ist für sie keine gute Nachricht für die eine Seite, sondern eine Verschiebung: Aus einem Nischenthema ist ein Thema geworden, bei dem man Position beziehen muss.

Wer aus Europa auf diese Debatte schaut, sieht einen anderen Mechanismus. In der EU haften Anbieter gegenüber Aufsichtsbehörden, in Washington gegenüber dem eigenen Vorstand. Der eine Weg ist langsam und prüfbar, der andere schnell und abhängig von Personen.

Der Taiwan-Vergleich von Helen Toner

Am aufschlussreichsten ist ihr Umgang mit dem Extremfall. Sie vergleicht das Risiko eines außer Kontrolle geratenen Modells mit einem Angriff auf Taiwan. Analysten können sagen, das sei unwahrscheinlich, aber es ist plausibel genug, um sich vorzubereiten, und man sollte es nicht mit einem Lachen vom Tisch wischen.

Den Gedanken, dass eine Maschine zur Gottheit wird, teilen die meisten Menschen nicht, und sie weiß das. Ihr Punkt ist ein anderer: Wenn dieses Szenario real wäre, wollte China es genauso wenig. Abstimmung wird damit zum schwierigen Teil, nicht die Technik.

Sie verweist in dem Gespräch auf das S-1-Dokument von Anthropic, in dem ein Labor seine Risiken für Investoren beschreibt. Wer wissen will, wie Unternehmen inzwischen über eigene Risiken schreiben, findet dort den derzeit ehrlichsten Text.

Was Helen Toner nicht sagt

Sie sagt nicht, ein bestimmtes Labor sei heute unsicher. Sie nennt kein Gesetz, keinen Kandidaten und keine Empfehlung. Sie sagt auch nicht, die Vereinbarung aus Washington sei rechtlich bindend, denn das ist sie nicht.

Ein Detail am Rand, das für die Einordnung zählt: Das Interview wurde vor der Untersuchung gegen Jensen Huang aufgenommen und vor seinem Rücktritt bei Nvidia. Wer nach Äußerungen dazu sucht, wird in dieser Folge nicht fündig.

Für Leser in Deutschland bleibt eine praktische Konsequenz. Wer Modelle aus den USA einkauft, verlässt sich auf interne Kontrollen, die er nicht sieht und nicht prüfen kann. Wer diese Abhängigkeit verringern will, muss entweder auf Anbieter mit anderen Aufsichtswegen setzen oder selbst Protokolle führen, die im Zweifel vor einer Behörde halten.

Diesen Artikel teilen

Quellen

Ähnliche KI-News

Ein Drahtgitter-Globus in einem gebrochenen Ring, eine Drohnensilhouette wirft einen Zielkegel darauf
Wirtschaft & Industrie

Die United Nations einigen sich aufs Weiterreden über killer robots

Eine Woche Verhandlungen über autonome Waffensysteme endet mit einer Einigung darüber, weiterzureden. Wer wissen will, ob jetzt etwas geregelt ist, findet in den Texten keine Antwort, die lautet: ja.

Beliebtheit: 1,180
Steigende Säulen, die eine flache gestrichelte Ziellinie kreuzen, kleine Partikel steigen auf
Wirtschaft & Industrie

Meta prüft sein net zero bis 2030, weil KI-Rechenzentren die Emissionen treiben

Meta hat in seinem Nachhaltigkeitsbericht eingeräumt, den Zeitplan für sein Klimaziel zu überprüfen. Der Anlass steht im selben Dokument: Die Emissionen sind 2025 um fast 40 Prozent gestiegen.

Beliebtheit: 1,280
Eine fallende Kerzenlinie, die einen Chip-Wafer durchschneidet, darunter eine gebrochene Bodenlinie
Wirtschaft & Industrie

KI-Zweifel kosten den Nasdaq 100 10,4 Prozent in einer Woche

Die US-Technologiebörse hat ihre schlechteste Woche seit 2020 hinter sich. Wer verstehen will, was in diesen fünf Sitzungen wirklich passiert ist, muss vier Entwicklungen zusammen lesen.

Beliebtheit: 1,950
Ein fallendes Kerzenchart mit einer Lupe über Buchhaltungszeilen darunter
Wirtschaft & Industrie

Nvidia verliert in einer Woche rund 900 Milliarden Dollar, die SEC prüft die Bücher

Nvidia hat am Freitag erneut rund 14 Prozent verloren, die siebte Woche in Folge. Am selben Tag wurde bekannt, dass die SEC die Buchhaltung prüft. Beides gehört zusammen, aber anders, als es zuerst aussieht.

Beliebtheit: 1,950