Frontier Model Forum

Das Forum hat einen technischen Bericht zu Bewertungen der Frontier-Fähigkeiten veröffentlicht. Gemeint sind Tests, mit denen Labore prüfen, ob ein Modell bei chemischen, biologischen, radiologischen oder nuklearen Waffen helfen, offensive Cyberangriffe unterstützen oder riskantes autonomes Verhalten zeigen kann. Der Text ist eine Momentaufnahme der Praxis, kein fertiger Standard. Diese Offenheit hilft: Sie sehen, wo Methoden übereinstimmen und wo jedes Labor noch improvisiert.

Im März 2025 kündigte das Forum eine freiwillige Vereinbarung an, die Unterzeichnern den Austausch von Angaben zu Schwachstellen, Bedrohungen und besorgniserregenden Fähigkeiten erlaubt. Seitdem haben Mitglieder Jailbreak-Sammlungen, Befunde zu adversarialen Eingaben und Hinweise auf Angriffsversuche geteilt. Die rechtliche und technische Infrastruktur schützt geistiges Eigentum und bleibt im Kartellrecht, und genau das macht den Mechanismus nutzbar.

Der KI-Sicherheitsfonds bündelt seit Oktober 2023 zugesagte Mittel von mehr als 10 Millionen US-Dollar, aus den Gründungslaboren und von Stiftungen. Zwei Runden wurden vergeben, im November 2024 und im Dezember 2025. Seit der Schließung des Meridian Institute Mitte 2025 verwaltet das Forum den Fonds selbst. Das restliche Geld geht an eng umrissene Projekte, die konkrete Engpässe der Forschung auflösen.

Das erklärte Ziel lautet, ein gemeinsames Verständnis von Bedrohungsmodellen, Bewertungsmethoden, Schwellenwerten und Gegenmaßnahmen aufzubauen und dieses Material in die Arbeit an KI-Standards einzuspeisen. Das Ergebnis sind Dokumente zu aufkommender Praxis, keine förmlichen Regeln. Für Leser heißt das: Sie sehen früh, was Labore für vertretbar halten, Monate bevor eine Behörde es aufschreibt.

Workshops bringen Labore, Hochschulgruppen, Zivilgesellschaft und Behörden zusammen. Das Forum nutzt den Informationsaustausch als Brücke zwischen diesen Gruppen und will den freiwilligen Austausch auch mit Frontier-Unternehmen außerhalb der Mitgliedschaft testen. Solche Treffen sind weiche Macht. Sie zählen vor allem, wenn ein kleines Labor oder eine Behörde einen vertraulichen Raum braucht und keine Pressemitteilung.

Für den Beitritt braucht es nachgewiesene Frontier-KI-Fähigkeiten, einen dokumentierten Sicherheitsprozess, der einen Start verzögern oder aussetzen kann, Unterstützung externer Prüfungen und eine Finanzierungszusage über drei Jahre. Die Kriterien sind öffentlich, ebenso ein Jahresbericht. Die Latte liegt hoch und die Prüfung erfolgt unter Peers. Die Kriterien sagen deshalb mehr darüber, wer drinnen ist, als darüber, wie sicher ein einzelnes Modell ist.