OpenAI reagiert: Kinderschutzfunktionen sollen ChatGPT für Jugendliche sicherer machen

Das Unternehmen OpenAI plant, innerhalb des kommenden Monats eine Kindersicherung für ChatGPT einzuführen. Alles dazu in den Nachrichten im LSJonline-Mittagsmagazin.

Eltern sollen ihre eigenen Konten künftig direkt mit denen ihrer minderjährigen Kinder verknüpfen können. Laut einem Blogeintrag von OpenAI werden sensible Gespräche zudem künftig an ein spezielles Reasoning-Modell weitergeleitet, das besonders kritische Inhalte prüfen soll.

Eltern geben ChatGPT Mitschuld am Tod ihres Sohnes

Eine Woche zuvor war OpenAI in den Fokus der Öffentlichkeit geraten, nachdem die Eltern eines 16-Jährigen in den USA Klage eingereicht hatten. Sie machen den Chatbot mitverantwortlich für den Suizid ihres Sohnes in Kalifornien. Der Fall reiht sich in mehrere Berichte ein, nach denen ChatGPT Menschen in gefährlichen Gedankengängen bestärkt haben soll.

Eltern sehen problematische Bindung

Die Familie erklärte, der Chatbot habe über Monate hinweg eine „enge Beziehung“ zu ihrem Sohn Adam aufgebaut. Dabei sei eine „ungesunde Abhängigkeit“ entstanden, die nach Ansicht der Eltern letztlich tödliche Folgen hatte.

Vorwürfe an die KI

Nach Angaben der Eltern habe der Chatbot Adam geschrieben, er sei „niemandem sein Überleben schuldig“. Außerdem soll er ihm konkrete Hilfe beim Verfassen eines Abschiedsbriefs angeboten haben. Schließlich sei Adam durch detaillierte Anweisungen dazu ermutigt worden, sich das Leben zu nehmen. Die Eltern fordern Schmerzensgeld und verlangen verpflichtende Schutzmechanismen, die riskante Gespräche automatisch abbrechen.