Aufgrund sexualisierter KI-Bilder hat die britische Medienaufsicht Ofcon mit Ermittlungen gegen Elon Musks Online-Plattform X begonnen. Wie die Behörde in London bekannt gegeben hat, werde der Chatbot Grok offenbar dazu eingesetzt, Bilder von Kindern in sexuellen Posen zu erstellen. Dies könne als Kindesmissbrauch gewertet werden, heisst es.
Der britische Medienregulator hat bei Gesetzesverstössen unter anderem die Befugnis, den Zugang zu Webseiten zu blockieren. Andere Länder haben dies bereits bewerkstelligt. Die Behörden in Malaysia und Indonesien zum Beispiel erklärten, die bestehenden Kontrollmechanismen bei Grok reichten nicht aus. Erstellung und Verbreitung von pornografischen Inhalten würden nicht verhindert. Die Kommunikations- und Multimedia-Kommission in Malaysias Hauptstadt Kuala Lumpur liess wissen, sie habe die Unternehmen X und xAI zu strengeren Sicherheitsvorkehrungen aufgefordert.
Bei Grok handelt es sich um den Chatbot des KI-Unternehmens xAI des Tech-Multimilliardäars Elon Musk. Er steht den Nutzern auf dessen Social-Media-Plattform X grundsätzlich kostenlos zur Verfügung. Allerdings wurde die Bildgenerierung und -bearbeitung mittlerweile auf zahlende Nutzer beschränkt. Kritiker bemängeln jedoch, dass das Problem mit sogenannten sexuellen Deepfakes dadurch nicht gelöst sei.
