KI-Agent (Foto:AdobeStock/Fakhra)

Acht von zehn Führungskräften in Europa, dem Nahen Osten und Afrika (Emea) haben 2025 einen KI-bezogenen Vorfall dem Vorstand oder der Geschäftsleitung gemeldet. Darunter fallen etwa das Fehlverhalten einer Künstlichen Intelligenz (KI), Datenoffenlegungen, fehlerhafte KI-gestützte Entscheidungen oder Sicherheitsverletzungen durch KI. Zu dem Schluss kommt eine Studie des ICT-Riesen IBM, für die 3.200 Führungskräfte befragt wurden.

Trotz der hohen Fallrate haben nur 40 Prozent in der Emea-Region daraufhin ihre KI-Governance-Richtlinien oder -Frameworks angepasst. Übersteigt der Speed der KI-Einführung die Bereitschaft von Governance- und Compliance-Rahmenwerken, setzen 56 der Führungskräfte im Emea-Raum die Einführung innerhalb vereinbarter Risikogrenzen fort, während die Governance nachgezogen wird, so IBM.

Laut der Befragung setzen 35 Prozent KI-Agenten produktiv ein. Drei Viertel erwarten, dass die Tools bis 2027 ein gewisses Mass an Entscheidungsautonomie haben werden. Nur 37 Prozent aller Befragten geben an, dass ihre aktuellen Governance-Systeme dafür ausgelegt sind, mit dem Einsatz agentischer KI zu skalieren, führt die aktuelle Erhebung dazu aus.

"Wenn Unternehmen von KI-Assistenten zu autonomen Agenten wechseln, kann Governance nicht länger nur als Compliance-Thema betrachtet werden. Sie ist zu einer geschäftlichen Notwendigkeit und einem Wertschöpfungsmotor geworden. Die Unternehmen, die KI verantwortungsvoll und vertrauenswürdig skalieren können, werden den grössten geschäftlichen Nutzen erzielen", glaubt Ana Paula Assis, IBM Senior Vice President.

Nahezu alle Befragten haben die Verantwortung für KI-Risiken formell auf Vorstandsebene verankert. 26 Prozent der Firmen in Emea verfügen der Studie zufolge über einen speziellen KI-Ausschuss auf Vorstandsebene. Aber oft gibt es keinen klaren Konsens darüber, wer für KI-Negativfolgen verantwortlich ist. Die am häufigsten genannte Rolle war CIO oder CTO, jedoch nur von 17 Prozent der Befragten.

Unterdessen hat bereits jedes dritte Unternehmen Erfahrungen mit einer fehlerhaften Entscheidung oder Ausgabe eines KI-Agenten gemacht und entsprechende Gegenmassnahmen ergriffen. Zu dem Ergebnis kommt ein neuer Bericht der KI-gestützten GRC-Intelligence-Plattform Optro. Die organisatorische Aufsicht und Steuerung halten mit dem riskanten Einsatz also nicht Schritt.