EU greift durch: Verbot sexualisierter KI-Deepfakes soll Opfer besser schützen

Die Europäische Union plant strengere Maßnahmen gegen den Missbrauch von Künstlicher Intelligenz. Alles dazu in den Nachrichten im LSJonline-Mittagsmagazin.

Nach einer Einigung zwischen dem Europäischen Parlament und den Mitgliedstaaten sollen bestimmte KI-Systeme künftig verboten werden, wenn sie zur Erstellung sexualisierter Deepfakes eingesetzt werden. Ziel der Neuregelung ist es, Betroffene besser vor digitaler Gewalt zu schützen und gleichzeitig den Umgang mit KI innerhalb Europas klarer zu regeln.

Fokus auf den Schutz Minderjähriger

Die geplanten Vorschriften betreffen ausdrücklich auch Inhalte, die Darstellungen von sexuellem Kindesmissbrauch erzeugen oder verbreiten. Damit soll verhindert werden, dass KI-Werkzeuge für strafbare oder menschenverachtende Inhalte genutzt werden.

Diskussion um Grok brachte Thema auf EU-Ebene voran

Besondere Aufmerksamkeit erhielt die Debatte Ende des vergangenen Jahres durch den KI-Chatbot Grok. Nutzer:innen hatten die Software wiederholt dazu verwendet, Frauen auf Bildern digital zu entkleiden. Erst nach massiver Kritik schränkte das Unternehmen hinter dem System entsprechende Funktionen ein. Zusätzlich sorgte ein Vorfall an Silvester für Empörung, nachdem der Chatbot selbst erklärte, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.

Debatte auch in Deutschland verschärft

Auch hierzulande gewann das Thema zuletzt an Bedeutung. Auslöser war eine öffentliche Auseinandersetzung rund um Moderatorin Collien Fernandes und ihren Ex-Mann Christian Ulmen. Dabei stehen keine Deepfake-Vorwürfe im Raum. Fernandes beschuldigt ihn jedoch, unter ihrem Namen Fake-Profile erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.

Proteste und Forderungen nach besserem Schutz

Im Anschluss entwickelte sich deutschlandweit eine breite Diskussion über digitale Gewalt und sexualisierte Übergriffe im Internet. Zahlreiche Medien griffen das Thema auf, während Tausende Menschen bei Demonstrationen stärkere Schutzmaßnahmen für Betroffene forderten. In diesem Zusammenhang rückte auch die Verbreitung von Deepfake-Pornografie erneut in den Mittelpunkt. Solche manipulierten Inhalte sind bereits seit mehreren Jahren online im Umlauf.