Ein Forschungsteam der ZHAW School of Engineering hat in Zusammenarbeit mit CertX ein Zertifizierungsschema für Künstliche Intelligenz entwickelt, das KI-Technologien auf ihre Vertrauenswürdigkeit hin überprüft. Damit adressiert das von Innosuisse geförderte Projekt "CertAInty" gesellschaftliche Risiken und die Anforderungen des EU AI Acts, der auch für Schweizer Unternehmen in naher Zukunft relevant wird.
Hintergrund dazu ist, dass Künstliche Intelligenz (KI) zunehmend auchnin sicherheitskritischen Bereichen eingesetzt wird, wodurch die Vertrauenswürdigkeit dieser Systeme immer wichtiger wird. Unzureichend evaluierte KI-Systeme können gravierende gesellschaftliche Risiken verursachen – von diskriminierenden Algorithmen über physische Sicherheitsrisiken bis hin zu Fehldiagnosen im medizinischen Kontext.
An diesem aktuellen Thema forschen das Centre for Artificial Intelligence (CAI) sowie das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW School of Engineering gemäss Mitteilung gemeinsam. Daraus entstanden sei das Zertifizierungsschema "CertAInty", das einen strukturierten Rahmen für die Begutachtung von KI-Technologien bietet. "Die Zertifizierung von KI-Systemen durch eine akkreditierte Stelle erhöht das Vertrauen, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen", betont Ricardo Chavarriaga von der ZHAW School of Engineering. Joanna Weng, die das Projekt gemeinsam mit ihm leitet, erläutert: "Das 'CertAInty'-Schema überbrückt die Lücke zwischen den abstrakten regulatorischen Vorgaben des EU AI Acts und konkreten technischen Methoden für die Bewertung von KI-Systemen."
Insgesamt umfasst das Zertifizierungsschema vier zentrale Dimensionen:
- Zuverlässigkeit: Verlässliche Systemleistung unter verschiedenen Bedingungen
- Transparenz: Nachvollziehbarkeit von KI-Entscheidungsprozessen
- Autonomie und Kontrolle: Definition des Grads menschlicher Aufsicht
- Sicherheit: Vermeidung unerwünschter Folgen in kritischen Anwendungsbereichen, beispielsweise im Gesundheitswesen oder in autonomen Transportsystemen
Für die Zuverlässigkeitsdimension zum Beispiel wurde laut den Infos aus über 55 Metriken und 95 Methoden eine optimierte Auswahl identifiziert und validiert. "Unser Zertifizierungsschema bietet nun eine praktikable Methodik und eine pragmatische Grundlage für Entwickler:innen, Firmen und Regulierungsbehörden und den verantwortungsvollen Einsatz von KI-Technologien", konstatiert Weng.
Die Anwendbarkeit des Schemas sei anhand mehrerer realer Beispiele demonstriert worden, wie zum Beispiel der KI-gestützten Erkennung von Baufahrzeugen mittels Computer Vision. Dabei sei die Zuverlässigkeit der KI-gestützten Erkennung gegen Störfaktoren wie Wettereinflüsse und Bildverzerrungen systematisch evaluiert worden.
Besondere Bedeutung erhalte das Projekt nicht zuletzt durch den EU AI Act, der am 1. August 2024 in Kraft getreten ist und ab dem 2. August 2026 vollständig anwendbar sein werde. Diese Regulierung werde für Hochrisiko-KI-Systeme eine obligatorische Zertifizierung einführen, die genau jene Dimensionen umfasse, die "CertAInty" adressiere. Für in regulierten Produkten eingebettete Hochrisiko-KI-Systeme gilt demnach eine verlängerte Übergangsfrist bis zum 2. August 2027. In naher Zukunft werde auch in der Schweiz eine regulatorische Regelung erwartet. Zudem müssten Schweizer Unternehmen, die ihre Produkte in der EU vertreiben, die Vorgaben des EU AI Acts einhalten. "Das Projekt antizipiert den entstehenden regulatorischen Rahmen und bietet eine methodische Brücke zwischen den Anforderungen und der praktischen Umsetzung", streicht Chavarriaga hervor.
Die Firma CertX nutzt das Zertifizierungsschema bereits als Grundlage für ihre Dienstleistungen und bietet eine systematische sowie unabhängige Bewertung von KI-Lösungen in der Schweiz an. Die Ergebnisse des Projekts wurden auch auf verschiedenen Konferenzen präsentiert, unter anderem auf der Swiss Conference on Data Science 2024, bei der das Team der ZHAW School of Engineering den Best Paper Award gewonnen hat.
Für interessierte Fachpersonen aus Industrie und Wissenschaft bietet die ZHAW zum Thema KI-Assessment im Mai dieses Jahres in Zusammenarbeit mit der IEEE Standards Association erstmals den mehrtägigen Kurs "IEEE CertifAIEd Assessor Training" an.
