Künstliche Intelligenz

Ein neues Tool von Forschern der Stanford University verringert parteipolitische Feindseligkeit im X-Feed, ohne dabei politische Beiträge zu entfernen. Es ordnet die Inhalte neu, die der Nutzer sieht. Antidemokratische und feindselige Beiträge werden nach unten verschoben. Identifiziert und eingestuft werden diese Beiträge von Künstlicher Intelligenz (KI).

Grosse Sprachmodelle (LLM) wie ChatGPT und andere KI-Chatbots passen sich schnell der Meinung ihrer Befrager an, entschuldigen sich, schmeicheln und sind extrem zustimmungsfreudig. Dieses Verhalten ist so weitverbreitet, dass es sogar einen eigenen Begriff dafür gibt: KI-Schleimerei. Dieses Verhalten kann fatale Folgen haben. So haben Forscher der Northeastern University in Evanton im US-Bundesstaat Illinois festgestellt, dass diese Schleimerei grosse Sprachmodelle fehleranfälliger macht.

KI-Chatbots zur Unterstützung des an chronischem Lehrermangel leidenden Bildungssystems eignen sich nur bedingt. Denn grosse Sprachmodelle wie ChatGPT sind nicht unfehlbar. Die Gefahr, dass diese Schülern zuweilen Unsinn beibringen, ist gross, so Tiffany Li vom Stevens Institute of Technology. Die Expertin hat eine systematische Studie durchgeführt, um herauszufinden, inwieweit Schüler sachlich falsche Infos von Chatbots erkennen und wo und warum sie dabei Probleme haben.

Während Unternehmen quer über den Globus Milliarden in KI investieren und für die Zukunft technologisch aufrüsten, übersehen sie schnell einen nach wie vor entscheidenden Faktor für den wirklich lohnenden Einsatz: den Menschen. Dabei ist es gerade dessen KI-Kompetenz, die darüber entscheidet, ob Technologie Wert schafft oder Investitionen einfach verpuffen.