Zunehmende Relevanz von KI-Technologien für Cybersecurity-Strategien auch in Deutschland; neue Studie von Trend Micro zeigt weitere Hintergründe und die Besorgnis über das Potenzial auf...
Zum Hintergrund
Unternehmen setzen verstärkt auf künstliche Intelligenz (KI), um ihre Cyberabwehr zu stärken, äußern jedoch zunehmend auch Besorgnis über das Potenzial dieser Technologie, ihre Angriffsfläche zu vergrößern und neue Risiken zu schaffen. Dies zeigt eine jetzt verfügbare Auswertung von Trend Micro zur Befragung von 2250 Personen verschiedener Branchen in Deutschland und weltweit (1).
Die Studienergebnisse
„Laut der Auswertung setzen 74 Prozent der deutschen Unternehmen (81 Prozent weltweit) bereits KI-gestützte Tools als Teil ihrer Cybersicherheitsstrategie ein, weitere 22 Prozent (16 Prozent weltweit) prüfen aktiv deren Implementierung. Nahezu alle Befragten (96 Prozent in Deutschland, 97 Prozent weltweit) sind offen für den Einsatz von KI in irgendeiner Form.
48 Prozent der deutschen Befragten (52 Prozent weltweit) nutzen sie bereits für wichtige Security-Prozesse wie das automatisierte Auffinden von Assets, Risikopriorisierung und Anomalieerkennung. Zudem hoffen viele Verantwortliche auf die Möglichkeiten von KI, um ihre Cybersicherheit zu verbessern: Bei 42 Prozent der befragten Unternehmen in Deutschland wie weltweit haben KI und Automatisierung oberste Priorität zur Verbesserung der Cybersicherheit.
Die zunehmende Verbreitung von KI-Lösungen birgt erhebliche Risiken
93 Prozent der deutschen Unternehmen (94 Prozent weltweit) glauben, dass sich KI in den nächsten drei bis fünf Jahren negativ auf ihre Cyberrisiken auswirken wird. Die Hälfte (50 Prozent in Deutschland, 53 Prozent weltweit) erwartet eine Zunahme des Umfangs und der Komplexität von KI-gesteuerten Angriffen, die sie zwingen werden, ihre bestehenden Cybersicherheitsstrategien zu überdenken und neu aufzustellen.
Zu den größten Bedenken deutscher Unternehmen beim Einsatz von KI zählen,
"das Risiko der Offenlegung sensibler Daten (39 Prozent in Deutschland, 42 Prozent weltweit)
die Möglichkeit, dass geschützte Daten von nicht vertrauenswürdigen Modellen ausgenutzt werden (35 Prozent in Deutschland, 36 Prozent weltweit)die Herausforderungen bei der Überwachung durch die Zunahme neuer Endpunkte und APIs (33 Prozent in Deutschland, 31 Prozent weltweit)
die Entstehung von Blind Spots durch die Verbreitung von Schatten-IT (32 Prozent in Deutschland, 31 Prozent weltweit)
die Ungewissheit darüber, wie Daten von KI-Systemen verarbeitet und gespeichert werden (28 Prozent in Deutschland, 38 Prozent weltweit)ein erhöhter Compliance-Druck (22 Prozent in Deutschland, 33 Prozent weltweit).“
Bildquelle: Trend Micro
Laut Rachel Jin, Chief Enterprise Platform Officer bei Trend Micro machen die Forschung und Praxistests des Anbieters deutlich, dass Cybersicherheit von Anfang an in KI-Systeme integriert werden muss. Es steht einfach zu viel auf dem Spiel... Zitatauszug: "KI birgt ein enormes Potenzial für die Stärkung der Cyberabwehr, von der schnelleren Erkennung von Anomalien bis zur Automatisierung zeitaufwändiger Aufgaben."
Das Spannungsverhältnis zwischen Chancen und Risiken zeigte sich danach auch beim Hacking-Wettbewerb Pwn2Own von Trend Micro in Berlin**, bei dem die Sicherheit von KI-Systemen auf die Probe gestellt wurde. Die Ergebnisse lieferten laut Veranstalter wichtige Momentaufnahmen zum aktuellen Stand der KI-Sicherheit. Im einzelnen:
„Zwölf Versuche zielten auf vier wichtige KI-Frameworks ab, wobei der NVIDIA Triton Inference Server die meiste Aufmerksamkeit erhielt. Chroma, Redis und das NVIDIA Container Toolkit wurden ebenfalls erfolgreich ausgenutzt, wobei in einigen Fällen nur ein einziger Fehler verwendet wurde, um eine vollständige Kompromittierung zu erreichen.
Insgesamt wurden sieben bislang nicht bekannte Zero-Day-Schwachstellen in den KI-Frameworks aufgedeckt. Die Hersteller der Systeme haben ab dem Zeitpunkt der Entdeckung 90 Tage Zeit, um die Schwachstellen zu beheben, bevor Trend Micro die technischen Details veröffentlicht.“
Fazit
Mit der zunehmenden Integration von KI in die IT-Umgebungen von Unternehmen sind die Sicherheitsverantwortlichen aufgefordert, die dynamische Risikolandschaft pro-aktiv zu bewerten und jede Phase der KI-Einführung durch strenge Security-Maßnahmen abzusichern.
** Quelle: https://www.trendmicro.com/de_de/research/25/e/pwn2own-berlin-zero-days-nicht-nur-fur-ki.html
(1) Über die Studie:
Trend Micro beauftragte nach vorliegenden Angaben Sapio Research mit der Befragung von 2250 Personen „darunter 100 in Deutschland, die für IT und/oder Cybersicherheit verantwortlich sind – über verschiedene Branchen, Unternehmensgrößen und 21 Länder in Europa, Nordamerika und APAC hinweg.“ Die Befragung fand im Februar 2025 statt.
Querverweis:
Unser Beitrag > Von Disaster Recovery (DR) zu Cyber Recovery (CR). Neue ESG-Studie liefert weitere Details
Unser Beitrag > Cohesity zeigt neuen RecoveryAgent für KI-gesteuerte Wiederherstellung nach Cyberangriffen
Unser Beitrag > Maßnahmen zur Verbesserung der IT-Resilienz im Finanzsektor als Teil von DORA