Menschen halten Systeme der Künstlichen Intelligenz (KI), insbesondere Dialogagenten wie ChatGPT von OpenAI oder Gemini von Google, für vertrauenswürdiger als andere Menschen. Dies zeigt eine Untersuchung von Forschern der University of Waterloo und des University College London. Selbst wenn KI und ein Mensch eine Frage genau gleich beantworten, wird die KI-Replik als vertrauenswürdiger eingestuft.
"Es gibt einen wichtigen Unterschied zwischen dem Annehmen von Ratschlägen von Menschen und KI-Systemen: Wenn Menschen Ratschläge geben, vermitteln sie oft auch, wie sicher sie sich dessen sind, was sie sagen. Das spielt eine wichtige Rolle dafür, ob wir den Rat annehmen oder nicht", so Clara Colombatto von der University of Waterloo. KI dagegen antworte stets im Brustton der Überzeugung, sodass keine Zweifel an der Richtigkeit aufkamen, auch wenn die Antwort schwach sei.
Im Gegensatz zu Menschen lassen KI-Systeme nicht durchblicken, wie sicher sie sich ihrer Antworten sind. Stattdessen interpretieren sie Besonderheiten bei der Beantwortung von Fragen durch KI. Wenn sie schnell antwortet, gilt das den meisten als Hinweis darauf, dass die KI Recht hat, ergänzen die Wissenschaftler des University College London.
"Doch derartige Hinweise können irreführend sein. Wenn Menschen glauben, dass ein KI-System sehr leistungsfähig ist, gehen sie möglicherweise auch davon aus, dass es sehr selbstbewusst ist, selbst wenn das System für dieser spezifische Situation gar nicht trainiert ist. Mit anderen Worten: Das Vertrauen der Menschen in die Zuverlässigkeit von KI-Aussagen beruht auf Vorurteilen, nicht auf der wirklichen Leistung der Systeme", warnt Colombatto.
Im Umgang mit anderen vermitteln Menschen der Fachfrau nach Zuversicht durch eine Vielzahl von Signalen, darunter Stimmlage, Mimik und Körperhaltung. Colombatto: "KI-Systemen fehlen diese Fähigkeiten. Zu verstehen, welche Arten von Zuversichtssignalen in der Interaktion zwischen KI und Mensch am hilfreichsten, transparentesten und vertrauenswürdigsten sind, wird daher eine wichtige Richtung für die künftige Forschung sein."
