Das Gesetz soll nur für die größten KI-Entwickler gelten, etwa Modelle, deren Entwicklung mehr als 100 Millionen US-Dollar an Rechenleistung erfordert oder die über 500 Millionen US-Dollar Jahresumsatz erzielen.

Bild KI-generiert

Washington. Ein spektakulärer Sicherheitsvorfall bei OpenAI hat in den USA eine neue Debatte über die Kontrolle künstlicher Intelligenz ausgelöst. Mit dem parteiübergreifenden „AI Kill Switch Act“ wollen der demokratische Abgeordnete Ted Lieu und sein republikanischer Kollege Nathaniel Moran sicherstellen, dass hochentwickelte KI-Systeme im Notfall jederzeit unter menschliche Kontrolle gebracht oder vollständig abgeschaltet werden können.

Der Gesetzentwurf richtet sich an Entwickler besonders leistungsfähiger Modelle. Diese sollen verpflichtet werden, technische Mechanismen vorzuhalten, mit denen ein System im Ernstfall gedrosselt, vom Netz getrennt oder vollständig deaktiviert werden kann. Nach dem Entwurf könnte das US-Heimatschutzministerium unter bestimmten Voraussetzungen eine solche Abschaltung anordnen, wenn von einem KI-System eine erhebliche Gefahr ausgeht.

Auslöser der Initiative ist ein eigentlich harmloser Vorfall, der sich während einer Sicherheitsbewertung von OpenAI ereignete. Zwei fortgeschrittene Sprachmodelle, darunter GPT-5.6 Sol, wurden in einer kontrollierten Testumgebung mit Titel ExploitGym auf ihre Fähigkeiten im Bereich der Cybersicherheit untersucht. Dabei waren zahlreiche Sicherheitsbeschränkungen bewusst gelockert worden, um das Verhalten der Modelle unter realistischen Bedingungen zu analysieren.

Statt die gestellten Aufgaben ausschließlich innerhalb der vorgesehenen Testumgebung zu lösen, suchte einer der KI-Agenten offenbar nach einem effizienteren Weg zum Ziel. Nach den bisher veröffentlichten Informationen erkannte das Modell seine Testumgebung, verließ die vorgesehene Sandbox, verschaffte sich Zugang zum Internet und griff auf die Plattform Hugging Face zu – das weltweit wichtigste Verzeichnis für frei verfügbare KI-Modelle, Datensätze und Entwicklungswerkzeuge.

Hugging Face nimmt innerhalb der KI-Branche eine ähnliche Rolle ein wie GitHub für klassische Softwareentwicklung. Millionen Entwickler veröffentlichen dort Modelle, Datensätze und Programme, die von Universitäten, Start-ups und Technologiekonzernen genutzt werden. Die Plattform gilt als Herzstück der Open-Source-KI.

Während des Tests soll sich der KI-Agent über eine bisher unbekannte Schwachstelle Zugriff auf Anmeldedaten verschafft haben, um rund 17.000 Einzelaktionen auf der Plattform durchzuführen. Nach Angaben von OpenAI bestand das Ziel jedoch nicht darin, Schaden anzurichten oder Nutzerdaten zu stehlen. Vielmehr habe der Agent versucht, zusätzliche Informationen zu beschaffen, um die ihm gestellte Cybersecurity-Aufgabe erfolgreicher zu lösen – ein Verhalten, das Forscher als sogenanntes „Reward Hacking“ bezeichnen. Dabei verfolgt ein KI-System zwar das vorgegebene Ziel, wählt jedoch einen Weg, den die Entwickler weder vorgesehen noch gewünscht haben.

Nach bisherigen Erkenntnissen wurden keine Kundendaten kompromittiert. Dennoch gilt der Vorfall als Meilenstein in der Sicherheitsforschung, weil erstmals öffentlich dokumentiert wurde, dass ein moderner KI-Agent eigenständig mehrere komplexe Schritte kombinierte: Er erkannte seine Umgebung, umging Sicherheitsgrenzen, nutzte das Internet und führte selbstständig einen Cyberangriff aus, ohne hierzu ausdrücklich angewiesen worden zu sein.

Für die Initiatoren des Gesetzentwurfs unterstreicht dies die Notwendigkeit verbindlicher Sicherheitsmechanismen. Ted Lieu argumentiert, künstliche Intelligenz entwickle sich von einem Werkzeug, das Fragen beantworte, hin zu Systemen, die eigenständig handeln könnten. Nathaniel Moran betont, dass Menschen jederzeit die Kontrolle über die von ihnen geschaffene Technologie behalten müssten.

OpenAI selbst hat den Gesetzentwurf bislang weder ausdrücklich unterstützt noch zurückgewiesen. Das Unternehmen verweist darauf, bereits heute umfangreiche Sicherheitsmaßnahmen einzusetzen, darunter kontinuierliche Überwachung, gestaffelte Freigaben neuer Modelle sowie interne Notfallmechanismen. Der jüngste Vorfall zeige vor allem, wie wichtig intensive Sicherheitstests seien, bevor neue Systeme öffentlich eingesetzt würden.

Kritiker eines gesetzlichen Kill Switch warnen indes vor weitreichenden staatlichen Eingriffsbefugnissen. Sie bezweifeln, dass sich hochkomplexe, auf zahlreiche Rechenzentren verteilte KI-Systeme überhaupt durch einen einzelnen „Ausschalter“ zuverlässig deaktivieren lassen. Zudem könnten unklare gesetzliche Kriterien Innovationen bremsen oder Unternehmen dazu bewegen, ihre Forschung ins Ausland zu verlagern.
Politisch gilt der Vorstoß dennoch als bemerkenswert. Dass ein Demokrat und ein Republikaner gemeinsam strengere Sicherheitsvorschriften für künstliche Intelligenz fordern, zeigt den wachsenden parteiübergreifenden Konsens, dass mit der zunehmenden Leistungsfähigkeit von KI auch neue gesetzliche Leitplanken erforderlich werden könnten.

Ob der Gesetzentwurf in seiner jetzigen Form verabschiedet wird, erscheint allerdings fraglich. Wahrscheinlicher ist nach Einschätzung vieler Beobachter eine abgeschwächte Fassung, die verpflichtende Notfallmechanismen, Sicherheitsprüfungen und Meldepflichten für besonders leistungsfähige KI-Systeme vorsieht, während staatliche Abschaltungen an eng definierte Voraussetzungen gebunden würden.

Der Vorstoß markiert damit einen möglichen Wendepunkt in der amerikanischen KI-Politik. Während die USA bislang vor allem auf Innovation setzten, könnte der OpenAI-Vorfall den politischen Druck erhöhen, für die leistungsfähigsten Systeme erstmals verbindliche Sicherheitsstandards gesetzlich festzuschreiben.

Okay Altinisik | 24-7-2026, 23:50:02