KI-basierte Chatbots passen ihre Kommunikationsweise an die soziale Rolle an, die ihnen in einem Gespräch zugewiesen wird. Sollen sie beispielsweise als "Chef" auftreten, nehmen sie die Sprachmuster von Vorgesetzten an. Als Untergebene hingegen verhalten sie sich entgegenkommender, manchmal auf eine Weise, die die Sicherheit untergraben könnte, so eine Studie der University of North Carolina (UNC).
Laut Forscher Anvesh Rao Vijjini besteht die Gefahr, dass die KI in ihrer Funktion als Untergebener falsche und gefährliche Anweisungen ohne Widerspruch ausführt. Die UNC-Analyse deutet darauf hin, dass KI-Systeme nicht nur auf Fakten basierende Antworten generieren, sondern auch das soziale Verhalten nachahmen, das Menschen an den Tag legen, wenn sie mit anderen kommunizieren, die einen bestimmten Status haben.
"KI-Systeme lernen nicht nur die Wörter, die Menschen verwenden. Sie lernen auch die sozialen Dynamiken, die mit diesen Wörtern einhergehen", sagt Vijjini. Jahrzehntelange sozialpsychologische Forschung habe gezeigt, dass Menschen ihre Wortwahl ändern und ihren Sprachstil anpassen, mehr oder weniger überzeugend werden und ihre Bereitschaft variieren, unsicheren Aufforderungen nachkommen, wenn sie von einer Autorität kommen.
Das Team um Vijjini wollte herausfinden, ob KI-Systeme dieselben Tendenzen zeigen. Die Antwort lautet nach zahlreichen Experimenten: Ja. Die Effekte treten laut den Wissenschaftlern immer dann besonders stark in den ersten Gesprächsminuten ein, wenn sich der erste Eindruck bildet und Gesprächsnormen festgelegt werden.
Die Erkenntnisse haben weitreichende Bedeutung, denn KI-Tools werden zunehmend als Nachhilfelehrer, Kundendienstmitarbeiter, Assistenten in der medizinischen Aufnahme, juristische Hilfskräfte und Finanzberater eingesetzt. "Jedes Mal übernimmt sie eine soziale Position mit all den expliziten und impliziten sozialen Zwängen, die damit einhergehen", so Kollege Sagar Manjunath.
Die Untersuchung habe gezeigt, dass dieser Druck beeinflussen kann, was KI tut und wie sie es tut. "Das sollte ausschlaggebend dafür sein, wie wir diese Systeme in Umgebungen mit hoher Verantwortung wie Krankenhäusern, Gerichtssälen und Klassenzimmern testen und einsetzen", unterstreicht Manjunath abschliessend.
