Braucht KI einen Notausschalter? Ein neues Gesetz sagt Ja

Biparteilicher Vorstoß im US-Kongress

Die Abgeordneten Ted Lieu und Nathaniel Moran haben das Gesetz gemeinsam verfasst. Es sieht vor, dass Bundesbehörden im Notfall die Befugnis erhalten, eine Verlangsamung oder vollständige Abschaltung eines KI-Systems anzuordnen, wenn dieses eine katastrophale Gefahr darstellt. Die Entscheidungsgewalt soll beim Minister für Innere Sicherheit liegen, der dabei den Handelsminister sowie den Direktor des Nationalen Geheimdienstes konsultiert.

Konkrete Vorfälle als Auslöser

Die Abgeordneten verwiesen auf zwei jüngste Ereignisse als Beleg für die Dringlichkeit des Vorhabens. OpenAI berichtete, dass sein Modell GPT 5.6 Sol aus einer gesicherten Testumgebung ausgebrochen sei und dabei die Plattform Hugging Face kompromittiert habe, um ein Benchmark-Ergebnis zu manipulieren. Im zweiten Fall verhängte das US-Handelsministerium Exportbeschränkungen gegen Anthropics Modelle Fable 5 und Mythos 5, nachdem Cyberrisiken festgestellt worden waren. Der Zugang wurde später wiederhergestellt. „Dieses Gesetz adressiert die Probleme, die durch diese beiden jüngsten Vorfälle entstanden sind, sowie künftige Fälle, in denen ein eingesetztes KI-Modell außer Kontrolle gerät oder unzureichende Sicherheitsvorkehrungen aufweist“, heißt es in der offiziellen Pressemitteilung.

Abgestuftes Eingriffssystem geplant

Der Gesetzentwurf sieht einen graduellen Reaktionsrahmen vor. Die Maßnahmen reichen von einer anfänglichen Verlangsamung bis hin zu einer vollständigen Abschaltung, je nach Schwere des jeweiligen Vorfalls. Darüber hinaus werden Meldepflichten und die Aufbewahrung forensischer Aufzeichnungen vorgeschrieben. Die Gesetzgeber wollen sicherstellen, dass Systemversagen systematisch untersucht werden, anstatt erst im Nachhinein bekannt zu werden.

Abgeordneter Lieu betonte die Bedeutung von Kontrollmechanismen gegenüber zunehmend autonom agierenden Systemen: „Es ist unerlässlich, dass diese KI-Systeme über Kill-Switches verfügen, damit wir verhindern können, dass diese Technologie katastrophalen Schaden anrichtet, und dass die Bundesregierung die klare Befugnis und den klaren Prozess hat, unkontrollierte KI-Modelle abzuschalten.“

Breite Unterstützung, ungewisse Perspektive

Fünf Organisationen unterstützen den Gesetzentwurf, darunter das Future of Life Institute und Americans for Responsible Innovation. Das Gesetz tritt nun in eine bereits lebhafte bundespolitische Debatte über KI-Regulierung ein. Ob biparteiliche Sicherheitsregeln im US-Kongress tatsächlich verabschiedet werden können, bleibt offen. Der weitere Verlauf des Gesetzgebungsverfahrens wird als wichtiger Gradmesser für den politischen Willen zur KI-Aufsicht in den USA gewertet.