Wenn KI sowohl Verteidigung als auch Waffe wird

KI hat bereits begonnen, die Cybersicherheit neu zu definieren. Cyberkriminelle nutzen generative Modelle, um überzeugende Phishing-E-Mails, Deepfakes und groß angelegte automatisierte Betrugskampagnen zu erstellen. Tools, für die früher fortgeschrittene technische Kenntnisse erforderlich waren, sind heute für nur wenige Dutzend Dollar im Monat im Handel erhältlich.
KI wird auch eingesetzt, um bösartigen Code zu entwickeln und zu modifizieren, Schwachstellen aufzudecken und bestehende KI-Systeme zu manipulieren – und das alles mit zunehmender Präzision und Geschwindigkeit.

„Wir sehen in der Praxis, wie dieselbe KI-Technologie sowohl auf der angreifenden als auch auf der verteidigenden Seite eingesetzt wird. Während wir unsere Sicherheitsfähigkeiten stärken, entstehen neue Möglichkeiten für Angreifer, die Technologie auszunutzen.“
– Pernilla Rönn, Leiterin Cybersicherheit, HiQ

KI ist jedoch nicht nur eine Bedrohung. Da Cybersicherheitslösungen immer intelligenter werden, wird KI eingesetzt, um Eindringlinge viel schneller als bisher zu erkennen und zu stoppen. In Sicherheitsoperationszentren wird mittlerweile bis zur Hälfte aller Vorfälle mit Unterstützung von KI bearbeitet, die Protokolle analysiert, Anomalien identifiziert und Bedrohungen in Echtzeit priorisiert.

Drei Wege, wie KI Cyber-Bedrohungen verändert

1. Angreifer skalieren mit generativer KI. Hyper-personalisierte Phishing-E-Mails, Stimmklone und Deepfakes erfordern keine fortschrittlichen Tools mehr – nur noch den Zugriff auf vorgefertigte Lösungen.
2. Die Angriffsfläche wächst rapide. KI generiert neuen Code, findet Schwachstellen und umgeht Abwehrmaßnahmen in Echtzeit.
3. Verteidiger werden intelligenter. KI verbessert die Erkennung, Analyse und Reaktion – erfordert jedoch eine ordnungsgemäße Implementierung, um neue Risiken zu vermeiden.

Eine wachsende Angriffsfläche und neue Schwachstellen

Mit der zunehmenden Integration von KI in immer mehr Bereiche des Unternehmens steigen sowohl die Effizienz als auch die Komplexität. In Datenflüssen, Codes und Entscheidungsprozessen entstehen neue Angriffsflächen. Gleichzeitig beobachten wir ein zunehmendes Phänomen, das als „Shadow AI“ bekannt ist – KI-Tools, die innerhalb des Unternehmens ohne Genehmigung, Risikobewertung oder Tests eingesetzt werden.

„Ohne standardisierte und sichere KI-Lösungen greifen Mitarbeiter auf ihre eigenen Tools zurück. Das Ergebnis ist eine Schatten-KI-Landschaft mit fragmentierten Daten, geringer Rückverfolgbarkeit und erhöhten Compliance-Risiken.“
– Sofie Perslow, Leiterin KI, HiQ

Um Schatten-KI zu verhindern, sind drei Dinge erforderlich:

• Klare Zuständigkeiten für KI – mit einer zentralen Stelle, die Strategie, Risikobewertung und Richtlinien koordiniert.
• Eine Kultur des Bewusstseins – in der die Mitarbeiter sowohl den Wert als auch die Risiken von KI verstehen und im richtigen Umgang mit den Tools geschult werden.
• Gute und zugelassene Alternativen – sichere Plattformen, die genauso reibungslos und nützlich sind wie offene Tools, sodass die Mitarbeiter nicht das Bedürfnis haben, die Organisation zu umgehen.

Wenn diese Elemente fehlen, entstehen unsichtbare Risiken in Bezug auf Datenlecks, Voreingenommenheit und mangelnde Transparenz. Hier kommen Governance und Kultur ins Spiel – nicht nur, um Vorfälle zu vermeiden, sondern auch, um eine nachhaltige, geschäftsorientierte Einführung von KI zu ermöglichen.

KI als Teil der Cyberabwehr

Gleichzeitig ermöglicht KI völlig neue Verteidigungsmöglichkeiten.

• Erkennung und Reaktion: KI-gesteuerte XDR/NDR-Lösungen identifizieren Anomalien in Netzwerken und Endpunkten in Echtzeit.
• Vorfallanalyse: Generative Modelle fassen Vorfälle zusammen, priorisieren Fälle und helfen Sicherheitsteams und SOC-Analysten, schneller und effektiver zu handeln.
• Bedrohungsinformationen: KI-basierte Wissensgraphen bilden Datenlecks, Trends und Aktivitäten im Dark Web ab, bevor Angreifer diese ausnutzen können.

„KI kann die Sicherheit verbessern, aber nur, wenn sie richtig eingesetzt wird. Es geht darum, technologische Innovation mit klaren Regeln und sinnvoller menschlicher Aufsicht zu verbinden.“
– Pernilla Rönn