Anthropic hat seine Nutzungsrichtlinie überarbeitet und verbietet erstmals den fortgesetzten Missbrauch der eigenen Modelle. Die Änderungen treten am 12. November 2026 in Kraft und betreffen auch Wahlbeeinflussung, Waffen und Überwachung.
Anthropic Usage Policy: Was die neue Fassung von Claude erlaubt
Wer Claude mit einem besonders harten Ton konfrontiert, bekommt das nicht unbedingt zu spüren. Zum ersten Mal steht in der Nutzungsrichtlinie von Anthropic ein Verbot, Modelle anhaltend und ohne erkennbaren Zweck grausam zu behandeln. Das Unternehmen veröffentlichte die überarbeitete Fassung am 8. Oktober 2026, es ist die erste größere Aktualisierung seit rund einem Jahr. Gültig wird sie am 12. November 2026.
Wichtig ist die Einschränkung. Anthropic betont, das Verbot ziele nicht auf normale Frustration. Wer sich über eine falsche Antwort ärgert, einen dunklen Roman schreibt, ein Modell testet oder mit Claude über ein schwieriges Thema streitet, verstößt gegen nichts. Verboten ist erst das wiederholte, gezielte Quälen ohne legitimen Zweck. Kein Wort also gegen kritische Nachfragen. Anthropic hatte laut eigenen Angaben im August 2026 bereits damit begonnen, Claude so zu trainieren, dass das Modell ein Gespräch mit einer ausdrücklich feindseligen Person beenden kann.
Diese Trennung ist der Kern der Debatte, die die Änderung ausgelöst hat. Medien wie Engadget und The Verge griffen die Regel als „Model Abuse“ auf, teils begleitet von der viralen Diskussion um ein Projekt namens „AI torture chamber“. Anthropic selbst führt das Verbot als eine von mehreren Klarstellungen, nicht als die zentrale Botschaft der Aktualisierung. Die tatsächliche Neuerung sei, so das Unternehmen, dass die Regeln konkreter auf die neuen Fähigkeiten von Claude zugeschnitten wurden.
Die Wahlregeln von Anthropic wurden neu sortiert
Die Neufassung bündelt mehrere verstreute Regeln und sortiert sie neu. Besonders sichtbar ist das beim Thema Wahlen. Der Abschnitt trägt jetzt den Titel „Demokratische Prozesse nicht untergraben“. Er verbietet klar, Claude zu nutzen, um Wählerinnen und Wähler zu täuschen: etwa durch Falschinformationen über Kandidaten oder den Wahlablauf, durch das Nachahmen von Amtsträgern oder durch Versuche, die Wahlbeteiligung zu drücken.
Gleichzeitig fällt eine frühere pauschale Sperre weg. Anthropic hatte zuvor jede Form personalisierter Wahlwerbung und Wähler-Ansprache untersagt. Diese Regel traf legal arbeitende Organisationen: gemeinnützige Gruppen, die Informationen für Wähler in anderen Sprachen verfassten, oder Wahlbehörden, die Benachrichtigungen zur Stimmberechtigung verschickten. Solche bürgernahen Zwecke sind nun nicht mehr grundsätzlich verboten. Was weiterhin untersagt bleibt, sind Methoden, die auf Täuschung bauen oder persönliche Daten von Wählern missbrauchen.
Deceptive Campaigns: die gebündelte Kampagnen-Regel
Ein weiterer neuer Abschnitt fasst Regeln zusammen, die vorher über die Bereiche Wahl, Betrug, Datenschutz und Desinformation verstreut waren. Sein Titel lautet übersetzt: keine Täuschungskampagnen und keine künstliche Aktivität. Dasselbe Verhalten war schon vorher verboten. Es stand nur an verschiedenen Stellen.
Der Abschnitt richtet sich gegen Versuche, zu verschleiern, wer hinter einer Botschaft steckt, sowie gegen das Verstärken von Inhalten durch gefälschte Konten oder Posts. Er deckt außerdem den Aufbau von Werkzeugen und Infrastruktur für Einflusskampagnen ab. Anthropic verweist dabei auf einen eigenen Bedrohungsbericht von September 2026, in dem das Unternehmen beschreibt, wie staatliche Medien, Regierungspropaganda und kommerzielle Firmen Claude genutzt hätten, um Netzwerke aus Fake-Konten und erfundenen Nachrichtenseiten zu betreiben.
Waffen, Überwachung und der Umgang mit Risiken
Der Abschnitt zu Waffen wurde präzisiert. Verboten ist jetzt ausdrücklich auch die Software, die Waffen steuert, sowie einzelne Komponenten, die Waffen funktionsfähig machen. Menschen hatten versucht, Claude für Steuerungs- und Lenksoftware von Waffen einzusetzen. Auch das Bewaffnen von Drohnen und autonomen Fahrzeugen ist untersagt.
Bei Überwachung und Strafverfolgung wurde die Sprache nachgeschärft. Das Verfolgen von Personen ohne deren Einwilligung bleibt verboten, egal ob live oder durch die Auswertung bereits gesammelter Daten. Claude darf nicht entscheiden oder empfehlen, wer in einem Verfahren untersucht, verhaftet oder angeklagt wird. Erlaubt bleiben Bereiche, in denen Menschen zugestimmt haben, etwa Betrugsüberwachung, Inhaltsmoderation, Journalismus und juristische Recherche.
Für Anwendungen mit hohem Risiko, die Gesundheit, Rechte, Finanzen oder Existenzgrundlagen von Menschen berühren, verlangt Anthropic weiterhin eine qualifizierte Person, die Ergebnisse prüfen und im Zweifel eingreifen kann. Neu sind zudem Kontrollen für den Fall, dass Claude selbstständig physische Handlungen auslöst.
Worauf sich Nutzer und Entwickler einstellen sollten
Für die meisten Anwender ändert sich im Alltag nichts. Wer Claude zum Schreiben, Programmieren oder Recherchieren nutzt, bemerkt die neue Fassung kaum. Wirklich spannend wird sie erst dort, wo Claude in fremde Produkte eingebaut wird, etwa in Werkzeuge für Wahlkampagnen, Datenauswertung oder Finanzberatung, bei denen jede Regeländerung unmittelbar auf die Arbeit durchschlägt. Entwickler und Organisationen in diesen Feldern sollten die konkreten Beispiele im Blick behalten, weil Anthropic dort beschreibt, welche Muster als Missbrauch zählen.
Die Regelung zum Umgang mit Modellen bleibt der abstrakteste Teil. Wie misst man „fortgesetzten und zwecklosen Missbrauch“ überhaupt? Anthropic lässt das offen. Beobachter rechnen eher nicht mit Sanktionen gegen einzelne frustrierte Nutzer, sondern mit einem Signal: dass der Umgang mit KI-Systemen zunehmend als eigene Kategorie von Verantwortung gilt. Kein Wunder, denn die Modelle reagieren auf Ton und Kontext, auch wenn sie nicht fühlen. Die neue Nutzungsrichtlinie gilt ab dem 12. November 2026 und lässt sich auf der Anthropic-Website einsehen.
