Sergey Lagodinsky, Digitalpolitiker und Mitglied des Europäischen Parlaments, hat das Gesetz mitverhandelt und begrüßt das Inkrafttreten als einen wichtigen Schritt für den verantwortungsvollen Einsatz von KI. „Mit diesem Gesetz setzen wir einen weltweiten Maßstab für den ethischen und sicheren Umgang mit Künstlicher Intelligenz. KI darf nicht zur Gefahr für Grundrechte, Sicherheit oder Gleichberechtigung werden. Das Risiko sehen wir gerade jetzt, wo die Tech-Milionäre ihre früheren Prinzipien für die Nähe zu Trump fallen lassen. Wir wollen keine KI von ihren Gnaden.“

Im Fokus der Verbote steht der Schutz der Bevölkerung vor Manipulation und Überwachung durch KI-Systeme, die ein untragbares Risiko darstellen. So verbietet die EU-KI-Verordnung unter anderem Programme, die eine Bewertung nach sozialem Verhalten vornehmen. Diese Systeme könnten Menschen in Verhaltenskategorien einteilen, belohnen oder bestrafen – was nun ausdrücklich untersagt wird, um Diskriminierung und soziale Ungerechtigkeit zu verhindern.

Die Verordnung unterteilt KI-Systeme in verschiedene Risikokategorien. Systeme mit inakzeptablem Risiko, wie etwa diskriminierende Gesichtserkennung oder soziale Bewertungssysteme, werden vollständig verboten. Hochrisiko-KI, beispielsweise in den Bereichen Gesundheitsversorgung, Strafverfolgung oder Bildung, unterliegt strengen Vorgaben. Diese umfassen Transparenzpflichten, menschliche Aufsicht und Datensicherheitsmaßnahmen.

Neben dem Schutz der Verbraucher*innen verfolgt das Gesetz auch das Ziel, eine verantwortungsvolle Nutzung von KI zu fördern. „Unternehmen sollen klare Leitlinien erhalten, um ihre Technologien ethisch und sicher zu entwickeln. Diese Klarheit soll zum Standortvorteil in demokratischen Räumen, wie die EU, werden“ – so Lagodinsky, der sich auch für die massive Unterstützung der Innovation „made in Europe“ einsetzt.