Die Integration von KI in der Fertigung gewährt Herstellern enorme Vorteile in Bezug auf Effizienz, Produktivität, Wissensaustausch und Kostensenkungen. Für Serge Thibault, VP Information Security bei Poka, ist das Potenzial der KI in der Fertigung zwar gross, doch ohne angemessene Sicherheitsmassnahmen auf Unternehmensebene kann sie schnell zu einem Betriebs- und Reputationsrisiko werden. Denn leistungsstarke KI-Tools bringen kritische Sicherheits- und Compliance-Probleme mit sich. Dies stellt Fertigungsunternehmen vor die Frage, wie sie die Vorteile der KI nutzen können, ohne die Datensicherheit oder die operative Integrität zu gefährden.
Gastbeitrag von Serge Thibault, VP Information Security bei Poka
Die Investitionen in Künstliche Intelligenz (KI) im Schweizer Industriesektor steigen. Generative KI könnte die helvetische Wirtschaft bis 2030 um 92 Milliarden Franken ankurbeln. 91 Prozent der Schweizer Führungskräfte sehen generative KI als Katalysator für Umsatzwachstum, nicht nur für Kostensenkungen (weltweit sind es 76 Prozent). Doch je mehr die Branche in KI-Technologie investiert, desto anfälliger wird sie auch.
Denn Cyberangriffe verursachen auf dem Schweizer Markt erhebliche Kosten. Laut PwC müssen mittelständische Unternehmen mit einem durchschnittlichen Schaden von rund sechs Millionen Franken pro Vorfall rechnen. Im vergangenen Jahr verzeichnete die Fertigung weltweit einen Anstieg der Cyberangriffe um 56 Prozent und war damit weltweit die am stärksten betroffene Branche. Da die Fertigungsindustrie die Grundlage für eine Reihe anderer Sektoren bildet – vor allem für die Automobilindustrie, die Luft- und Raumfahrtindustrie und die Lebensmittel- und Getränkeindustrie –, haben Cybervorfälle in Fertigungsunternehmen weitreichende Auswirkungen auf andere Branchen, wodurch sich die Produktionsunterbrechungen und Lieferkettenprobleme verschärfen.
Cyberangriffe können Millionen kosten und beeinträchtigen fast immer die Reputation des Unternehmens, das Vertrauen von Investoren und Verbrauchern und die Lieferketten. Während Fertigungsunternehmen die Einführung von KI vorantreiben, müssen sie deshalb robuste Strategien für die Cybersicherheit entwickeln, um ihre Systeme zu schützen, die Betriebskontinuität zu gewährleisten und vertrauenswürdig zu bleiben.
Intelligentere Fabriken bieten eine grössere Angriffsfläche
Produktionsstätten sind heute komplexer und dezentraler organisiert denn je, und die alten Systeme sind nicht fortschrittlich genug, um moderne Hacker abzuwehren. Erschwerend kommt hinzu, dass die Einführung von KI-Tools eine ganze Reihe neuer Bedrohungen mit sich bringt. KI beeinflusst heute bereits viele Aspekte des Fertigungsprozesses. Ob bei der Mitarbeiterschulung, Sicherheitsüberwachung, Datenerfassung oder den KI-Robotern in der Fabrikhalle: Fertigungsunternehmen sind vernetzter und intelligenter geworden – und angreifbarer.
Da KI-gestützte Arbeitsabläufe auf Daten, Sensoren und Netzwerke angewiesen sind, hat sich die Angriffsfläche für Cyberangriffe vergrössert. Hunderte oder Tausende vernetzter Geräte sind potenzielle Einfallstore für Hacker und andere Bedrohungen. Oft werden die Pläne zur Einführung von KI-Tools schneller umgesetzt als die notwendigen Sicherheitsmassnahmen. Dabei ist es heute wichtiger denn je, Governance, Compliance und die generelle Sicherheit in der Fertigung effektiv zu gewährleisten.
Betrachtet man beispielsweise den Einsatz von Technologien für vernetzte Mitarbeiter. KI-gesteuerte Anwendungen vereinfachen den Zugriff auf wichtige Informationen, verbessern die globale Kommunikation und beschleunigen die Wertschöpfung durch die automatische Konvertierung digitaler Inhalte. Es gibt jedoch auch wichtige Sicherheitsaspekte, die berücksichtigt werden müssen, um die Daten zu schützen, mit denen diese Systeme arbeiten.
Schutz proprietärer Produktionsdaten gewährleistet sichere, isolierte und regelkonforme KI-Verarbeitung
Produktionsdaten sind äusserst sensibel, da sie Geschäftsgeheimnisse, detaillierte Informationen über Fertigungsprozesse und eine Vielzahl von Kundendaten enthalten. Bei der Implementierung von KI-Technologien ist deshalb die Frage entscheidend, ob Fertigungsdaten an externe KI-Anbieter weitergegeben werden. Auch hier sprechen die Statistiken eine deutliche Sprache: 2024 waren mehr als 40 Prozent der Hacking-Forderngen auf externe Anbieter zurückzuführen.
Kundendaten sollten nicht zum Trainieren von KI-Modellen verwendet werden. Sie dürfen nur vom SaaS-Anbieter verarbeitet werden und niemals mit externen Anbietern von KI-Modellen geteilt werden. Alle Eingaben, Ausgaben und Einbettungen müssen innerhalb einer sicheren Infrastruktur geschehen, die vom SaaS-Anbieter betrieben, überwacht und kontrolliert wird. Nur so können Datenhoheit, Datenschutz und Compliance in vollem Umfang gewährleistet werden.
Moderne Plattformen für vernetzte Mitarbeiter lösen dieses Problem, indem sie alle Daten in sicheren Umgebungen wie AWS verarbeiten und die strengen Gesetze zur Datenresidenz einhalten. Da Prompts und Antworten ebenfalls vollständig in der AWS-Umgebung verarbeitet werden, können Hersteller leistungsstarke KI-Funktionen in der Fabrikhalle nutzen und gleichzeitig strenge Vorgaben bezüglich Datenschutz, Kontrolle und Compliance zuverlässig einhalten.
KI-Fehlerminimierung und Sicherheitsmassnahmen für die Fertigung
In der Fertigung sind Sicherheit und Genauigkeit der KI-Outputs von grösster Bedeutung, da Fehler hier schnell zu realen Gefährdungen führen können. Hersteller sollten daher sicherstellen, dass die KI-Antworten auf Sicherheit und Korrektheit geprüft, professionell formuliert und auf den spezifischen Kontext abgestimmt sind. Um das Risiko unsicherer oder falscher KI-Ausgaben in der Fertigung zu minimieren, sollten Unternehmen ein mehrstufiges System aus Leitplanken und Validierungskontrollen einführen:
• Inhaltsfilterung bei der Eingabe: Einsatz von KI-Guardrails, um unsichere Inhalte zu blockieren, bevor sie in das Modell einfliessen. Beispiele sind Filter, die Hassrede, Beleidigungen, Diskriminierungen, sexuelle Inhalte und gewaltverherrlichende Darstellungen erkennen und entfernen.
• Prompt Injection und Erkennung böswilliger Eingaben: Eingaben werden vorab bewertet, um böswillige Absichten oder Lecks in den System-Prompts zu erkennen.
• Few-Shot-Prompting: Die Prompts enthalten Beispiele für akzeptable/unakzeptable Fragen, um angemessenes Verhalten zu fördern.
• Sichere Verarbeitung von Prompts und Antworten: Alle KI-Interaktionen in einer sicheren, kundenspezifischen Umgebung verarbeiten. Protokolle im Ruhezustand sowie bei der Übertragung verschlüsseln. Strenge Zugriffskontrollen durchsetzen. Dadurch sind Prompts, Antworten und Telemetrie auditierbar, können aber niemals für das Trainieren der KI verwendet werden.
• Retrieval-Augmented Generation (RAG) für Output-Grounding: Jede KI-Antwort in verifizierten, kundenspezifischen Quell-Inhalten verankern. Ist kein relevanter Kontext vorhanden, das Modell so konfigurieren, dass es "Keine Antwort“ zurückgibt, statt Halluzinationen zu riskieren.
• Verzerrungen, Obszönitäten und Scope-Drifts vermeiden: Mechanismen zur Überprüfung der Ausgabe auf unangemessene oder voreingenommene Sprache vermeiden. Sicherstellen, dass die Antworten auf die Daten des Kunden beschränkt bleiben. Für professionelle Formulierungen sorgen.
• Human-in-the-Loop (HITL)-Überprüfung: Für sehr kritische Ausgaben, wie beispielsweise Sicherheitsprotokolle oder komplexe Arbeitsanweisungen, sollte man einen Arbeitsablauf implementieren, bei dem ein qualifizierter menschlicher Experte die von der KI generierten Inhalte überprüft und genehmigt, bevor sie fertiggestellt werden. So erhält man ein Sicherheitsnetz, um kleinste Fehler oder kontextbezogene Nuancen zu erkennen, die automatisierten Systemen leicht entgehen.
• Mehrsprachigkeit und kulturelle Sicherheit: Die Antwortsprache automatisch an die Eingabe anpassen. Bei unterschiedlichen Kontexten eine Lokalisierung oder Übersetzung nutzen, um Klarheit und kulturelle Relevanz zu wahren.
• Purple Teaming und interne Tests: Regelmässig spezielle Simulationen gegnerischer Angriffe durchführen, um den Schutz vor Prompt Injection zu bewerten und zu verbessern.
Im Zeitalter der eingebetteten KI liegt die Verantwortung für die Grundsätze der Unternehmensführung eindeutig beim SaaS-Anbieter. Kunden in anspruchsvollen Umgebungen wie der Fertigung erwarten mehr als nur leistungsstarke Funktionen. Sie verlangen eine sichere, konforme und vertrauenswürdige KI. Diese Verantwortung umfasst eine nachprüfbare Grundlage für Sicherheit und Datenintegrität, die durch strenge, unabhängige Audits validiert wird, und die Einhaltung branchenüblicher Best Practices.
Echte KI-Governance reicht jedoch tief in das Produkt selbst hinein. Der Anbieter ist verpflichtet, technische Leitplanken ("Guardrails“) einzubauen, die Transparenz, Fairness und die Einhaltung etablierter Betriebs- und Sicherheitsstandards gewährleisten. Systeme, die Retrieval-Augmented Generation (RAG) verwenden, um KI-Antworten ausschliesslich auf die verifizierte Wissensbasis eines Kunden zu stützen, verhindern gefährliche "Halluzinationen“ und stellen sicher, dass alle Ausgaben kontextabhängig korrekt sind.
Für den Anbieter ist die Übernahme dieser Verantwortung ein strategischer Auftrag. Durch die proaktive Einbindung ethischer Kontrollen und einer soliden Governance wird aus einem einfachen Werkzeug ein vertrauenswürdiges, strategisches Gut. Auf diese Weise reduzieren SaaS-Anbieter nicht nur die Rechts- und Reputationsrisiken ihrer Kunden. Sie schaffen auch das Vertrauen, das für die sichere, nachhaltige Einführung und für langfristige operative Exzellenz unerlässlich ist.
Sicherere und intelligentere Zukunft für KI in der Fertigung
Die Integration von KI bietet der Fertigungsindustrie immense Vorteile – von optimierten Abläufen bis zur Befähigung ganzer Belegschaften. Doch mit diesem Versprechen gehen auch erhöhte Risiken einher. Da Fabriken und Fertigungsprozesse zunehmend vernetzt und intelligenter werden, müssen Hersteller und ihre Lösungsanbieter dafür sorgen, dass die richtigen Prozesse vorhanden sind. Nur so können sie Cyberbedrohungen und Datenschutzrisiken abschwächen und effektiv auf ethische Herausforderungen reagieren.
Wenn Hersteller fortschrittliche Technologien für vernetzte Mitarbeiter einführen, die der Datensicherheit Vorrang einräumen, robuste Cybersicherheitsprotokolle implementieren und KI-Antworten auf Sicherheit und Fairness prüfen, können sie die wachsenden Anwendungsfälle für KI in der Fertigung sicher nutzen. Dafür muss die KI die Anforderungen der Unternehmensverantwortung widerspiegeln.
