Malware versucht, KI-basierte Erkennungsmassnahmen durch Prompt Injection zu umgehen

Symbolbild: Fotolia

Die IT-Forensiker der Security-Spezialistin Check Point haben eigenen Angaben zufolge den ersten dokumentierten Fall von Malware entdeckt, die versucht, KI-basierte Erkennungsmassnahmen durch Prompt Injection zu umgehen. Der Angreifer passte gemäss Check Point Research (CPR) dabei nicht etwa den Code an, sondern versuchte, über direkte Kommunikation mit der KI diese so zu manipulieren, dass sie die verseuchte Datei als harmlos einstuft.

Hacker missbrauchen Plattform "Discord" für weltweite mehrstufige Attacken

Symbolbild: Pixabay/Geralt

Im Rahmen eines neuen Forschungsberichts geht die Cybercrime-Expertin Check Point auf die beliebte Plattform "Discord" ein. Ob Gamer, Communities verschiedener Szenen, Geschäftsleute – viele nutzen Discord, um sicher und schnell in Verbindung zu treten. Insgesamt verzeichnet die Plattform laut den Angaben rund 200 Millionen aktive monatliche Nutzer und rund 19 Millionen Server.

Dramatischer Anstieg KI-gesteuerter Cyber-Angriffe

Bild: Check Point Research

KI-gesteuerte Angriffe wie Deepfakes, Data Poisoning, kriminelle KI-as-a-Service und das Aufkommen von "Dark LLMs" haben massiv zugenommen. Schweizer Unternehmen waren in den letzten sechs Monaten 1’256 Angriffen pro Woche ausgesetzt, wie der erste "AI Security Report" belegt, den Check Point auf seiner Engage-Veranstaltung in Bern präsentiert hat.

Check Point Research abonnieren