Deepfake-Apps und "Nudifier" im Visier: Neue EU-Vorschriften sollen Missbrauch eindämmen

Das Europäische Parlament hat den Weg für strengere Vorschriften im Umgang mit bestimmten KI-Systemen freigemacht. Im Fokus stehen Anwendungen, die zur Erstellung von sexualisierten Deepfakes genutzt werden können. Bevor die neuen Regelungen in Kraft treten, ist noch die formale Bestätigung durch die Mitgliedstaaten erforderlich. Da diese Zustimmung als wahrscheinlich gilt, soll die Verordnung bereits Anfang Dezember wirksam werden. Alles dazu in den Nachrichten im LSJonline-Mittagsmagazin.

Schutz vor KI-generierten Missbrauchsdarstellungen

Deepfakes entstehen durch den Einsatz künstlicher Intelligenz, die Bild-, Video- oder Audiomaterial so verändert oder neu erzeugt, dass die Ergebnisse authentisch wirken. Mit den neuen Vorgaben reagiert die EU auf die zunehmende Verbreitung solcher Technologien.

Künftig sollen nicht nur Personen belangt werden können, die entsprechende Inhalte verwenden, sondern auch Anbieter von Software und Plattformen stärker in die Verantwortung genommen werden. Betroffen sind insbesondere Systeme, die Darstellungen mit sexuellem Missbrauch von Kindern erzeugen können oder intime Aufnahmen identifizierbarer Personen ohne deren Zustimmung erstellen.

Verpflichtende Sicherheitsmechanismen

Anbieter entsprechender KI-Lösungen müssen ihre Produkte bis zum Ablauf der Übergangsfrist technisch absichern. Ziel ist es, die Erstellung rechtswidriger Inhalte durch geeignete Schutzmaßnahmen zu verhindern oder zumindest deutlich zu erschweren.

Anpassungen am bestehenden KI-Rechtsrahmen

Die nun beschlossenen Änderungen ergänzen das europäische KI-Gesetz, das bereits 2024 verabschiedet wurde. Neben den Verschärfungen enthält die Reform auch Entlastungen in anderen Bereichen.

So haben sich Parlament und Mitgliedstaaten darauf verständigt, bestimmte Vorschriften für den Einsatz von KI in sensiblen Anwendungsfeldern zunächst aufzuschieben. Dazu zählen unter anderem Sicherheitsbehörden sowie das Gesundheitswesen, die als sogenannte „Hochrisiko“-Bereiche eingestuft werden.

Mehr Zeit für Unternehmen und Behörden

Auch bei KI-Anwendungen zur Strafverfolgung und biometrischen Identifizierung werden die ursprünglich vorgesehenen Fristen verlängert. Die entsprechenden Anforderungen sollen erst Ende 2027 verbindlich werden, anstatt bereits in diesem oder im kommenden Jahr.

Mit der Verschiebung reagiert die EU auf Forderungen aus der Wirtschaft. Zahlreiche Unternehmen hatten darauf hingewiesen, dass eine zu schnelle Umsetzung der Regeln ihre Wettbewerbsfähigkeit gegenüber internationalen Konkurrenten beeinträchtigen könnte.