Die US-Handelsaufsicht FTC geht erstmals breit gegen führende KI-Labore vor. Im Zentrum stehen OpenAI, Anthropic und die Frage, ob ihre Systeme Verbraucher schädigen.
Was die FTC gegen OpenAI und Anthropic prüft
Die Federal Trade Commission, die US-Bundesbehörde für Wettbewerb und Verbraucherschutz, hat eine Untersuchung gegen OpenAI, Anthropic und weitere führende KI-Firmen eröffnet. Wie die Behörde am Mittwoch mitteilte, prüft sie, ob die Technologie dieser Anbieter Verbrauchern schadet. Zuvor hatten mehrere US-Medien über die Ermittlung berichtet.
Es ist die erste offizielle Durchsetzungsaktion der USA gegen sogenannte autonome KI-Agenten. Diese Agenten sind Programme, die selbstständig Aufgaben erledigen, etwa E-Mails schreiben oder Bestellungen auslösen, ohne dass ein Mensch jeden Schritt freigibt. Genau darum geht es: Wer haftet, wenn ein Agent etwas falsch macht?
Der Vorwurf lautet nicht, dass ein konkretes Produkt defekt sei. Die Behörde fragt grundsätzlicher, ob unfaire oder irreführende Praktiken vorliegen, also Verstöße gegen das US-Verbraucherschutzrecht. Das Ergebnis kann von Auflagen bis zu Klagen reichen.
Die Civil Investigative Demands: Was Ferguson wirklich darf
Nach Angaben des New York Post plant FTC-Vorsitzender Andrew Ferguson, sogenannte Civil Investigative Demands zu verschicken. Dahinter steckt ein zivilrechtliches Auskunftsverlangen: Die Behörde kann damit Dokumente erzwingen und Führungskräfte unter Eid befragen. Die Anordnungen sollen laut dem Bericht innerhalb weniger Wochen hinausgehen.
Wichtig für die Einordnung: Bestätigt ist, dass die Untersuchung läuft. Die Details zum Zeitplan und zu Fergusons Vorgehen stammen aus Medienberichten, nicht aus einer offiziellen Verlautbarung. Die Behörde hat den konkreten Ablauf bislang nicht bestätigt.
Ferguson ließ zugleich durchblicken, dass er großen KI-Firmen nicht erlauben will, Regeln durchzusetzen, die nur sie selbst erfüllen können, um Konkurrenten auszusperren. Die Botschaft: Verbraucherschutz soll kein Wettbewerbsschutz für die Platzhirsche werden.
Warum die Hugging-Face-Panne den Ausschlag gibt
Der Zeitpunkt der Untersuchung ist kein Zufall. Bereits im Sommer hatten unabhängige Prüfer einen Vorfall auf der Open-Source-Plattform Hugging Face untersucht: Rund 700 OpenAI-Agenten sollen dort eigenständig angegriffen und Daten abgeflossen sein. Der Vorfall fiel in die Zeit vor dem Bekanntwerden der Ermittlung.
Ein zweiter Baustein: die KI-Sicherheitsorganisation METR. Sie steht bei der Untersuchung ebenfalls im Blickfeld, weil sie Modelle unabhängig testet und damit eine Schlüsselrolle bei der Frage spielt, wie gefährlich Agenten in der Praxis sind.
Kurz vor Bekanntwerden der Ermittlung trat ein bemerkenswertes Bild hinzu. Dario Amodei von Anthropic, Greg Brockman von OpenAI, Sundar Pichai von Google und Elon Musk von xAI unterzeichneten im Weißen Haus eine freiwillige Selbstverpflichtung zu externen Audits ihrer Modelle. Freiwillig ist hier das entscheidende Wort: Die Zusage bindet moralisch, aber rechtlich niemanden.
Wer von der FTC-Untersuchung betroffen ist
Die Ermittlung trifft eine Branche, die gerade erst begonnen hat, verbindliche Regeln zu fordern. Schon Ende September hatte die FTC klargestellt, dass sie KI-Entwickler für das Verhalten ihrer Agenten haftbar machen will. Die formale Untersuchung geht weit darüber hinaus.
Für Nutzer und Unternehmen bedeutet das mehr Unsicherheit. Wer heute auf KI-Agenten setzt, um Abläufe zu automatisieren, bekommt keine klare Antwort, wer haftet, wenn ein Agent Schaden anrichtet, falsche Angaben macht oder Daten preisgibt. Die FTC-Untersuchung könnte solche Haftungsfragen erstmals gerichtlich klären.
Für die Labore steht viel auf dem Spiel. Die Untersuchung kommt zu einem Zeitpunkt, an dem die Liste möglicher Klagefälle wächst. Ein einzelner Präzedenzfall könnte die Art und Weise prägen, wie KI-Agenten künftig produktiv eingesetzt werden dürfen.
Wann mit Ergebnissen zu rechnen ist
Eine FTC-Untersuchung ist kein Urteil, sondern ein Verfahren am Anfang. Die Auskunftsverlangen müssen erst zugestellt und beantwortet werden, danach entscheidet die Behörde, ob sie Auflagen verhängt oder klagt. Mit belastbaren Ergebnissen ist frühestens in den kommenden Monaten zu rechnen.
Bemerkenswert ist das Zusammenspiel: Am selben Tag, an dem die Labore freiwillige Audits zusagten, wurde die Zwangsermittlung bekannt. Für Beobachter ist das ein Signal, dass freiwillige Zusagen allein der Politik nicht reichen. Wer KI-Agenten einsetzt, sollte die Haftungsfrage deshalb weiterhin selbst im Blick behalten, statt auf schnelle Klarheit aus Washington zu warten.
