Die im kalifornischen San Francisco domizilierte KI-Firma OpenAI hat eine weitreichende neue Funktion für ihren Chatbot ChatGPT lanciert. Dabei handelt es sich um eine elterliche Kontrolle, im Englischen "Parental Controls“ genannt. Eltern können mit diesem Feature die Nutzung des KI-Werkzeugs durch ihre jugendlichen Kinder erstmals aktiv steuern und einschränken.
Mit der neuen Funktion reagiert OpenAI auf eine Klage, die die Eltern eines Teenagers in den USA eingereicht haben, nachdem sich ihr Sohn das Leben genommen hatte. Dem kalifornischen Konzern wird dabei vorgeworfen, der Chatbot habe dem Jungen Methoden zur Selbstverletzung vorgeschlagen.
Die Kontrollfunktion gewährleistet, dass die Konten von Eltern und Jugendlichen miteinander verknüpft werden können. Nach einer gegenseitigen Bestätigung per Einladung können Erziehungsberechtigte über ihr eigenes Konto verschiedene Einstellungen für das Konto des Kindes vornehmen. Die Liste der Optionen ist dabei recht umfangreich. So lassen sich "Ruhezeiten“ definieren, in denen ChatGPT gar nicht nutzbar ist. Ebenso können Eltern den Sprachmodus oder die Funktion zur Bilderzeugung komplett deaktivieren. Weiterhin ist es möglich, das "Gedächtnis“ des Chatbots abzuschalten, sodass sich dieser nicht an frühere Gespräche erinnert. Auch können Eltern sicherstellen, dass die Konversationen ihres Kindes nicht für das Training zukünftiger KI-Modelle verwendet werden.
Für verknüpfte Konten von Jugendlichen aktiviert OpenAI zudem automatisch strengere Inhaltsfilter. Diese sollen Themen wie grafische Gewalt, sexuelle Rollenspiele oder gefährliche Online-Trends reduzieren. Während Eltern diese Filter auf Wunsch lockern können, ist dies für die Jugendlichen selbst nicht möglich.
Eine besonders sensible Funktion ist ein neues Benachrichtigungssystem. OpenAI gibt an, dass die KI trainiert wurde, um Anzeichen für eine akute Selbstgefährdung bei Nutzer:innen zu erkennen. Sollte das System einen solchen Verdacht hegen, wird der Fall von einem speziell geschulten Team bei OpenAI geprüft. Bestätigt sich die Annahme einer ernsten Notlage, werden die verknüpften Eltern aktiv per E-Mail, SMS und Push-Benachrichtigung alarmiert.
Experten bewerten die Einführung der Schutzfunktion als positiven Schritt, aber nicht als allumfassende Lösung.
