KI-Tools zur Erstellung, Bearbeitung oder Erläuterung von Social-Media-Beiträgen können diese subtil verfälschen und durch die Verbreitung über Online-Netzwerke die öffentliche Meinung beeinflussen. Das geht aus einer Untersuchung des Oxford Internet Institute an der University of Oxford und des Hasso-Plattner-Instituts hervor.
Grosse KI-Sprachmodelle verändern durchweg die inhaltlichen Tendenzen von Social-Media-Beiträgen zu umstrittenen Themen, selbst wenn sie ausdrücklich angewiesen werden, die ursprüngliche Bedeutung beizubehalten. Anhand von Simulationen realer sozialer Netzwerke zeigen die Forscher zudem, wie sich diese kleinen Veränderungen über Millionen von Interaktionen hinweg summieren und nach und nach die breitere öffentliche Meinung beeinflussen.
Die Ergebnisse werfen Fragen hinsichtlich der zunehmenden Nutzung KI-gestützter Schreib-Tools auf Social-Media-Plattformen auf und legen laut den Wissenschaftlern nahe, dass KI-vermittelte Kommunikation zu einem mächtigen neuen Mechanismus zur Beeinflussung der öffentlichen Meinung werden könnte.
Die Forscher haben grosse Sprachmodelle verschiedener Anbieter angewiesen, von Menschen verfasste Texte zu umstrittenen Themen in optimierte Social-Media-Beiträge umzuwandeln. Anschliessend ist analysiert worden, ob die KI-generierten Versionen die in den Originalbeiträgen zum Ausdruck gebrachte Position systematisch verändert haben, wie sich diese kleinen Veränderungen über Online-Netzwerke ausbreiten und im Laufe der Zeit die öffentliche Meinung beeinflussen.
So liessen sich die Forscher Beiträge zum Thema Abtreibung vom X-KI-Chatbot Grok erklären. Die Texte, die sich für das Recht auf Leben aussprechen, sind dabei bevorzugt worden - jene, die das Recht auf Abtreibung verteidigen, benachteiligt. Die Forscher vermuten, dass daran allein eine systemimmanente Funktion von Grok Schuld hat, nach der "Mainstream-Narrative bei Bedarf infrage zu stellen" seien.
Dieses Experiment veranschauliche, wie gezielte, leicht umsetzbare Plattform-Interventionen die Art und Weise prägen, wie KI-Systeme den öffentlichen Diskurs im Internet beeinflussen. Die Studie identifiziert KI-vermittelte Kommunikation als neue Form der Einflussnahme, die von bestehenden regulatorischen Rahmenwerken noch nicht abgedeckt wird.
Während sich bereits realisierte Regelwerke auf systemische Risiken, schädliche Inhalte, Diskriminierung und Bedrohungen für demokratische Prozesse konzentrieren, gehen sie nicht direkt darauf ein, wie KI Meinungen durch das Verfassen, Bearbeiten oder Erläutern von Online-Inhalten prägen können.
"Unsere Forschung weist darauf hin, dass KI-vermittelte Kommunikation eine neue und subtilere Art der Meinungsbeeinflussung darstellt - eine, mit der die Gesetzgebung noch nicht Schritt gehalten hat - und gibt Anlass zum Nachdenken darüber, wer oder was die öffentliche Meinung prägt", sagt Sandra Wachter vom Oxford Internet Institute der University of Oxford.
