Was sind KI-gestützte Cyberangriffe?

Künstliche Intelligenz schafft nicht zwangsläufig völlig neue Angriffsmethoden. Sie ermöglicht Cyberkriminellen aber, bereits bekannte Methoden schneller, skalierbarer und überzeugender einzusetzen.

Generative KI kann Texte, Bilder, Stimmen und Videos erzeugen. Angreifer nutzen diese Möglichkeiten beispielsweise, um personalisierte Phishing-Nachrichten zu erstellen, Stimmen von Führungskräften nachzuahmen oder täuschend echte Videoaufnahmen zu erzeugen.

Damit verlieren einige klassische Warnsignale an Aussagekraft. Fehlerhafte Grammatik, unnatürliche Formulierungen oder offensichtlich gefälschte Inhalte sind heute kein verlässliches Erkennungsmerkmal mehr.

Gerade Social Engineering und Phishing können durch generative KI deutlich glaubwürdiger und stärker personalisiert werden. Europol und andere Sicherheitsbehörden warnen deshalb davor, dass KI bestehende Betrugs- und Angriffsmethoden zunehmend skalierbarer macht.

Wie funktionieren KI-gestützte Cyberangriffe?

KI kann Cyberkriminelle in verschiedenen Phasen eines Angriffs unterstützen.

1. Informationen sammeln

Angreifer recherchieren öffentlich zugängliche Informationen über ein Unternehmen, seine Mitarbeitenden, Führungskräfte, Geschäftspartner oder aktuelle Projekte.

2. Inhalte personalisieren

KI unterstützt dabei, aus diesen Informationen glaubwürdige Nachrichten zu erstellen. Aus einer generischen Phishing-Mail wird beispielsweise eine Nachricht, die reale Namen, Funktionen, Geschäftspartner oder aktuelle Vorgänge im Unternehmen aufgreift.

3. Identitäten imitieren

Generative KI kann Stimmen, Bilder oder Videos nachbilden. Angreifer können dadurch versuchen, sich als Geschäftsführung, Kollegin oder Kollege beziehungsweise als bekannter Geschäftspartner auszugeben.

4. Vertrauen ausnutzen

Das eigentliche Ziel bleibt häufig klassisch: Geldüberweisungen auslösen, Zugangsdaten erbeuten, sensible Informationen erhalten oder Schadsoftware einschleusen.

📌 Gefährlich daran ist:
Nicht nur die Technik wird leistungsfähiger. Vor allem die Täuschung kann deutlich glaubwürdiger werden.

Welche KI-gestützten Angriffe gibt es?

KI-Phishing und Spear Phishing

Generative KI kann überzeugende E-Mails und Nachrichten in korrekter Sprache erstellen und diese sehr schnell auf einzelne Personen oder Unternehmen zuschneiden. Dadurch können klassische Warnzeichen wie auffällige Grammatik oder unnatürliche Formulierungen zunehmend wegfallen.

Voice-Cloning und Vishing

Aus vorhandenen Sprachaufnahmen können künstliche Stimmen erzeugt werden. Angreifer können damit beispielsweise versuchen, sich telefonisch oder per Sprachnachricht als Führungskraft, Kollegin oder Kollege auszugeben.

Deepfake-Videos

KI-generierte oder manipulierte Videos können Personen scheinbar Dinge sagen oder tun lassen, die tatsächlich nie stattgefunden haben. Dadurch können selbst vermeintlich vertraute Gesichter in einem Video kein eindeutiger Identitätsnachweis mehr sein.

CEO Fraud und Business Email Compromise

KI kann bekannte Betrugsmethoden unterstützen, indem Nachrichten beispielsweise sprachlich an Führungskräfte angepasst oder reale Geschäftsprozesse nachgebildet werden.

Automatisierte Recherche

KI kann Angreifern helfen, große Mengen öffentlich zugänglicher Informationen schneller auszuwerten und daraus geeignete Ziele und glaubwürdige Angriffsszenarien abzuleiten.

Unterstützung bei technischen Angriffen

KI kann auch bei der Suche nach Schwachstellen, der Analyse von Daten oder der Erstellung und Anpassung von Schadcode unterstützen. Der derzeit besonders relevante Effekt zeigt sich jedoch vor allem beim Social Engineering und bei der Skalierung bereits bekannter Angriffsmethoden.

Realitäts-Check: Wenn die Stimme des Chefs plötzlich nicht mehr echt ist

Wie real KI-gestützte Täuschungsversuche bereits sind, zeigt ein Fall bei der Deutschen Telekom.

Mitarbeitende erhielten eine WhatsApp-Sprachnachricht, die scheinbar von einem Vorstandsmitglied des Unternehmens stammte. Darin bat die vertraut klingende Stimme um Unterstützung bei einer wichtigen geschäftlichen Transaktion.

Tatsächlich handelte es sich um eine manipulierte Audioaufnahme. Die Mitarbeitenden wurden misstrauisch und leiteten die Nachricht an die IT-Sicherheitsverantwortlichen weiter. Der Betrugsversuch wurde erkannt, bevor ein finanzieller Schaden entstand.

Der Fall zeigt, wie Angreifer bekannte Methoden wie CEO Fraud durch künstlich erzeugte Stimmen deutlich glaubwürdiger machen können.

Was dieser Fall zeigt:

Eine vertraute Stimme allein reicht heute nicht mehr aus, um die Identität einer Person zweifelsfrei zu bestätigen. Gerade bei ungewöhnlichen Zahlungsaufforderungen oder vertraulichen Vorgängen sollten deshalb zusätzliche Freigabe- und Rückrufprozesse greifen.

Quelle: Handelsblatt, „Wie der Enkeltrick, nur mit KI: Deepfake-Betrüger erpressen Firmen mit falscher Chef-Stimme“ > Artikel lesen

Auch das Bundesamt für Sicherheit in der Informationstechnik weist darauf hin, dass Deepfakes für Social Engineering und CEO-Fraud eingesetzt werden können, beispielsweise indem die Stimme einer Führungskraft imitiert wird.

Quelle:BSI – Deepfakes: Gefahren und Gegenmaßnahmen

Beispielszenario: So kann ein KI-gestützter Angriff im Mittelstand ablaufen

Ein Mitarbeiter der Buchhaltung erhält kurz vor Feierabend eine Sprachnachricht des vermeintlichen Geschäftsführers.

Die Stimme klingt vertraut. Der Geschäftsführer erklärt, dass dringend eine Zahlung an einen neuen Dienstleister vorgenommen werden müsse und er gerade nicht erreichbar sei. Wenige Minuten später folgt eine professionell formulierte E-Mail mit den entsprechenden Zahlungsdetails.

Tatsächlich stammen weder die Nachricht noch die Stimme von der Geschäftsführung. Angreifer haben öffentlich verfügbare Informationen über das Unternehmen recherchiert und die Stimme mithilfe generativer KI imitiert.

Weil der Vorgang dringend und plausibel wirkt, wird die Überweisung ausgelöst.

❌ Mögliche Folgen

• unmittelbarer finanzieller Schaden
• kompromittierte Zugangsdaten
• Abfluss vertraulicher Unternehmensinformationen
• mögliche Datenschutzverletzungen
• Reputations- und Vertrauensverlust
• erheblicher Aufwand für Analyse und Incident Response

❌ Weitere Risiken

KI kann verschiedene bekannte Angriffsmethoden miteinander verbinden.

Ein glaubwürdiger Phishing-Kontakt kann beispielsweise zunächst zur Preisgabe von Zugangsdaten führen. Über den kompromittierten Account können Angreifer anschließend weitere Systeme erreichen oder einen späteren Ransomware-Angriff vorbereiten.

Die eigentliche Gefahr ist deshalb häufig nicht ein einzelner „KI-Angriff“, sondern die höhere Qualität, Geschwindigkeit und Skalierbarkeit bereits bekannter Cyberangriffe.

Schutz vor KI-gestützten Cyberangriffen: Vertrauen allein reicht nicht mehr

KI-generierte Inhalte lassen sich nicht immer zuverlässig anhand von Aussehen, Stimme oder Sprache erkennen.

Unternehmen sollten ihre Sicherheitsstrategie deshalb nicht darauf aufbauen, dass Mitarbeitende Deepfakes, gefälschte Stimmen oder KI-generierte Nachrichten zuverlässig identifizieren.

Entscheidend sind technische Schutzmaßnahmen und klare organisatorische Prozesse, die auch dann greifen, wenn eine Täuschung zunächst glaubwürdig erscheint.