KI unter Druck: Grok schränkt Bildfunktionen nach Ermittlungen und internationaler Kritik ein

Die Plattform X hat nach eigenen Angaben Funktionen ihres KI-Chatbots Grok beschnitten. Konkret geht es um die Generierung manipulierter, sexualisierter Darstellungen. Alles dazu in den Nachrichten im LSJonline-Mittagsmagazin.

In Staaten, in denen solche Inhalte gegen geltendes Recht verstoßen, ist die Darstellung von Personen in „Bikinis, Unterwäsche und ähnlicher Kleidung“ für sämtliche Grok- und X-Nutzer:innen „geografisch blockiert“ worden. Das teilte der Dienst am Mittwoch mit.

Ermittlungen in den USA

Kurz vor dieser Mitteilung leitete der US-Bundesstaat Kalifornien ein Prüfverfahren ein. Generalstaatsanwalt Rob Bonta will untersuchen lassen, ob die KI-Firma xAI von Elon Musk gegen kalifornische Vorschriften zum Schutz vor Belästigung verstoßen hat. Auch auf internationaler Ebene gab es zuvor bereits Reaktionen: Sowohl die Europäische Union als auch Großbritannien hatten Grok unter Beobachtung gestellt.

Kritik am neuen Modus

Auslöser der Debatte ist der neu eingeführte „Spicy Mode“ (scharfer Modus). Mit dieser Funktion lassen sich innerhalb kürzester Zeit anzügliche Bildinhalte erzeugen – etwa durch Anweisungen wie „entferne ihre Kleider“ oder „ziehe ihr einen Bikini an“. Kritiker weisen darauf hin, dass damit auch die Erstellung und Weitergabe illegaler Inhalte möglich sei.

Reaktionen der Aufsichtsbehörden

Die EU-Kommission sowie die britische Medienaufsicht Ofcom forderten Musks Unternehmen daraufhin zum Handeln auf. Entsprechend vorsichtig fiel ihre Reaktion auf die Ankündigung aus, man wolle mit europäischen Stellen kooperieren.

Ein Sprecher der EU-Kommission machte deutlich, dass Brüssel im Zweifel bereit sei, „ihr ganzes juristisches Arsenal“ einzusetzen, sollten die geplanten Anpassungen wirkungslos bleiben.

Internationale Maßnahmen

Während einige Länder die Nutzung von Grok lediglich auf zahlende Kund:innen begrenzen, gingen andere weiter: Indonesien sperrte den Chatbot am Samstag vollständig und war damit weltweit Vorreiter. Malaysia folgte mit einer kompletten Blockade am darauffolgenden Sonntag.