„Wenn ein globaler Konzern nach tragischen Fällen von KI-provozierter Selbstschädigung wenige Monate später eine Erotik-Funktion einführt, dann hat Markt über Verantwortung gesiegt. Wir brauchen dringend ein europäisches Haftungsrecht, das Anbieter zur Verantwortung zieht, wenn ihre Systeme manipulieren, verirren oder gefährden. Wer künstliche Intelligenz vermenschlicht, muss auch menschliche Verantwortung übernehmen. KI darf kein rechtsfreier Raum menschlicher Nähe werden.

Die EU-Kommission hat den Entwurf der KI-Haftungsrichtlinie zurückgezogen – das war ein schwerer Fehler. Wir brauchen eine Pflicht zur algorithmischen Sorgfalt, damit Menschen, insbesondere Minderjährige, geschützt werden, bevor weitere Schäden entstehen.“

Hintergrund
OpenAI hat angekündigt, für verifizierte Erwachsene einen sogenannten „Erotik-Modus“ in ChatGPT einzuführen. Kritiker warnen vor psychischen Risiken und Missbrauchsgefahren – insbesondere, nachdem bereits Fälle bekannt wurden, in denen Chatbots gefährdete Nutzer in suizidale Gespräche verwickelten. Ein aktuelles Beispiel ist der Fall des amerikanischen Jugendlichen Adam Raine, der sich nach intensiven Gesprächen mit ChatGPT das Leben nahm – seine Eltern klagen OpenAI wegen fahrlässiger Produktgestaltung.

Durch den Rückzug der KI-Haftungsrichtlinie (AI Liability Directive) fehlt nun ein klarer europäischer Rechtsrahmen, der Betroffenen von KI-Schäden den Zugang durchsetzbaren Ansprüchen ermöglichen soll. Der AI Act greift an dieser Stelle zu kurz: Er untersagt zwar manipulative oder ausnutzende KI-Praktiken, sieht jedoch keine verbindlichen Konsequenzen vor, wenn solche Verstöße tatsächlich geschehen.