Noch vor wenigen Jahren waren Phishing-Mails oft holprig geschrieben, voller Tippfehler und damit leicht zu entlarven. Heute sieht das anders aus: Mithilfe von KI entstehen täuschend echte Nachrichten, die professionell formuliert und passgenau auf das Opfer zugeschnitten sind. Auch Deepfakes lassen sich heute leicht erstellen. Mit nur 20 Sekunden Audio lassen sich inzwischen Stimmen glaubwürdig imitieren, während für realistische Videofakes oft schon 30 bis 60 Sekunden Material genügen.

Unterschiedliche KI-Technologien spielen dabei eine Rolle. Auf Seiten der Verteidiger:innen geht es vor allem um die Verarbeitung riesiger Datenmengen. Maschinelles Lernen hilft, Muster zu erkennen, Auffälligkeiten herauszufiltern und relevante Informationen schneller verfügbar zu machen, denn niemand könnte diese Datenmengen heute noch vollständig manuell analysieren. Auf Seiten der Angreifer:innen generiert KI überzeugende Inhalte und kann sogar Code schreiben, um Angriffe zu automatisieren oder neue Schadsoftware zu verschleiern. 

Der Blick in die Zukunft wird immer schwieriger. Sicher ist nur: Das Wettrüsten zwischen „KI als Waffe“ und „KI als Schutzschild“ hat gerade erst begonnen.

• Wie sich die Nutzung von KI in der Cyber Security in den letzten Jahren verändert hat.
• Welche Arten von KI-Technologien aktuell am relevantesten sind, sowohl für den Angriff, als auch für die Verteidigung.
• Inwiefern KI Phishing-Kampagnen, Social Engineering oder Malware-Entwicklung optimieren kann.
• Ob Angreifer:innen KI nutzen, um gezielt Schwachstellen in Systemen zu finden und wie automatisiert dies schon erfolgt.
• Welche Vorteile KI bei der Erkennung und Abwehr von Angriffen bietet.
• Welche Rolle KI im Security Operations Center (SOC) spielt.