„Die USA haben Europas KI-Regeln belächelt. Heute schlagen sie selbst Alarm, warnen vor der Auslöschung der Menschheit und rufen selbst nach Regeln für KI. Nun müssen sie nur noch Trump überzeugen. Viel Spaß dabei! Europa sollte unterdessen nicht auf andere warten, sondern handeln: wir müssen einen internationalen Prozess zu Entwicklungs- und Einsatzregeln von KI vorantreiben.

Kurzfristig brauchen wir ein Bekenntnis aller führenden KI-Unternehmen zu einer KI-Entwicklungspause. Das neue Regelwerk muss bestimmte KI-Praktiken verbieten, Verifizierungsmechanismen installieren und den Respekt aller führenden Nationen vor gemeinsamen Abmachungen fördern. KI kann zum Algorithmus der Massenvernichtung werden. Hier muss die Menschheit an einem Strang ziehen“

Hintergrund
Anthropic-Chef Dario Amodei warnt vor einem möglichen Kontrollverlust über besonders leistungsfähige KI-Systeme innerhalb der kommenden sechs bis zwölf Monate. Die Entwicklung müsse verlangsamt werden, damit die Sicherheitsforschung Schritt halten könne. Anthropic will seine Systeme künftig von unabhängigen Stellen prüfen lassen.

Medienberichten zufolge unterstützten OpenAI-Chef Sam Altman, Google und Elon Musk den Vorstoß. OpenAI kündigte ebenfalls unabhängige Prüfungen an. Im Mittelpunkt der Debatte stehen KI-Systeme, die zunehmend selbst an der Entwicklung und Optimierung neuer Modelle mitwirken können.

Die Warnungen aus der US-Techbranche markieren einen bemerkenswerten Wandel: Was in Europa lange als übermäßige Regulierung kritisiert wurde, wird angesichts der wachsenden Risiken nun selbst von führenden Akteuren der KI-Branche gefordert. In den USA fehlt bislang eine umfassende Regulierung besonders leistungsfähiger KI-Systeme. Die Europäische Union hat mit dem AI Act bereits verbindliche Vorgaben beschlossen.