Eine vergleichsweise einfache Neugestaltung der Feed-Algorithmen von Social-Media-Plattformen könnte toxischen Content massiv reduzieren, ohne das allgemeine Nutzungserlebnis für die Anwender zu beeinträchtigen. Dies haben Forscher der Northwestern University und der University of Chicago herausgefunden.
Auf Bluesky haben die Experten die acht Wochen rund um die US-Präsidentschaftswahl 2024 analysiert. Ergebnis: Auf Interaktionen basierende Algorithmen haben konfliktträchtige Inhalte systematisch verstärkt. Dies führte zu mehr moralischer Empörung und politischen Inhalten und verringerte zugleich die Fähigkeit der Nutzer, soziale Normen wahrzunehmen.
Im Vergleich dazu förderten ein Algorithmus mit "diversifizierter Extremität" und ein Feed in umgekehrter chronologischer Reihenfolge eine positivere Nutzererfahrung und setzten die User weniger konfliktträchtigen Inhalten aus. "Die offene Architektur von Bluesky ermöglichte es uns, die Algorithmen selbst zu entwickeln", so William Brady von der Northwestern University.
Im Vergleich zum Feed der Kontrollgruppe, der Beiträge in umgekehrter chronologischer Reihenfolge anzeigte, verstärkte der engagementbasierte Feed sowohl intergruppenbezogene, moralisierte und emotionale Inhalte als auch toxische politische Beiträge. Diese Effekte nahmen nach der Wahl sogar noch zu, betonen die Experten.
Die stärksten Verstärkungen zeigten sich demnach bei moralischer Empörung und politischen Inhalten: Vor der Wahl stiegen sie gegenüber der chronologischen Vergleichsgruppe um etwa 37 Prozent, nach der Wahl sogar um nahezu 80 Prozent, heisst es weiter. "Diese Algorithmen tun genau das, was Kritiker seit Langem behaupten: Sie bevorzugen gezielt Inhalte, die Aufmerksamkeit erzeugen, indem sie Empörung, moralische Konflikte und negative Emotionen ansprechen", unterstreicht Brady abschliessend.
