Cybersicherheit im Zeitalter generativer KI: Ein praktischer Leitfaden für IT-Experten

Generative KI oder GenAI sorgt zwar für Effizienz, birgt aber auch zusätzliche Risiken für die Cybersicherheit. Da traditionelle Maßnahmen allmählich an Relevanz verlieren, ist ein neuer Ansatz erforderlich.

Generative KI bietet viele Vorteile in Bezug auf Produktivität, Effizienz und Informationsverfügbarkeit. Diese Technologie hat das Potenzial, den Zugang zu Wissen zu vereinfachen und es Nutzern auf allen Ebenen – von Studenten und Forschern bis hin zu Regierungsbeamten – einfacher zu machen, relevante Informationen zu erhalten, korrekte Verfahren zu verstehen und fundierte Entscheidungen zu treffen.

Mit der Verbreitung und Integration dieser Systeme in alle Lebensbereiche werden die Sicherheitsprobleme jedoch immer komplexer. Aus diesem Grund sollten Unternehmensleiter und Cybersicherheitsexperten ihre Fähigkeiten und Strategien anpassen, um Daten im digitalen Zeitalter besser zu schützen.

Wie generative KI die Cybersicherheit verändert 

Die GenAI-Revolution kann zu unerwünschten Ergebnissen führen, beispielsweise zur Verbreitung bösartiger und skrupelloser generativer KI-Modelle. Seit der Einführung von ChatGPT im Jahr 2022 wurde er nach und nach in die meisten Bereiche integriert – von Bildung über Entwicklung bis hin zu Unterhaltung. Seitdem sind jedoch viele Kopien des Programms aufgetaucht und einige wurden im Dark-Web veröffentlicht, um eine neue Ära böswilliger KI-gesteuerter Angriffe einzuläuten:

• Angesichts der Erfolge von GenAI können wir mit einer Beschleunigung der Angriffe rechnen
• Die Ausschöpfung des Potenzials dieser Technologie geht weit über die menschlichen Erkennungs- und Reaktionsfähigkeiten hinaus
• Laut der Secureworks Counter Threat Unit setzen Cyberkriminelle dank KI Ransomware innerhalb eines Tages nach dem ersten Eindringen in ein Unternehmen ein
• Diese Zeit nimmt stetig ab, im Jahr 2022 waren es beispielsweise 4,5+ Tage

Die meisten Organisationen sind noch nicht in der Lage, mit diesen Bedrohungen Schritt zu halten. Viele investieren nicht einmal in die kostengünstigsten und effektivsten Cybersicherheitslösungen, wie z. B. Tools zur Netzwerksicherheit-Überwachung oder Verschlüsselungstools, wie z. B. VPN-basierten Netzwerkschutz. Wenn man bedenkt, dass die weltweiten Ausgaben für Sicherheitslösungen und -dienste im Jahr 2023 die 200-Milliarden-Dollar-Marke überschritten haben, wurden allein im ersten Quartal 2023 weltweit mehr als 6 Millionen Datensätze aufgrund von Datenschutzverletzungen offengelegt.

Traditionelle Methoden in der Cybersicherheit sind begrenzt 

Andererseits erfordert die Integration von KI-Modellen in die Arbeit eines Unternehmens einen Ausbau der Schutzmaßnahmen gegen Angriffe. Die meisten Cybersicherheitsexperten verlassen sich heute auf feste Konzepte wie Patching, Firewalls und Überwachung. Es besteht kein Zweifel, dass diese Methoden ihre Vorzüge haben und dennoch absolut notwendig sind.

Doch mit dem Aufkommen und der Entwicklung generativer KI sowie deren Implementierung in die Arbeit von Unternehmen reichen sie nicht mehr aus. GenAI-Modelle sind dynamisch und anpassungsfähig, was es schwierig macht, sie mit herkömmlichen Methoden zu schützen.

So wie ein Mensch dazu manipuliert werden kann, vertrauliche Informationen preiszugeben, können KI-Modelle ausgetrickst und für böswillige Zwecke verwendet werden. Eine häufige Angriffsart ist beispielsweise ein Prompt-Angriff.

Der statische Ansatz traditioneller Cybersicherheitsmaßnahmen ist nicht geeignet, diesen dynamischen Bedrohungen zu begegnen. Dementsprechend sollten Top-Manager die Möglichkeit einer Fortbildung des IT-Personals hinsichtlich neuer Sicherheitsmöglichkeiten in Betracht ziehen.

Generative KI könnte als Firewall dienen 

Allerdings ist nicht alles so negativ. Mit bestimmten Kenntnissen kann man die Sprache selbst im KI-Modell als zusätzliche Schutzebene verwenden. Angesichts der Schwachstellen dieser Systeme, die Angriffe auslösen oder anfällig für sprachliche Manipulation sein können, ist dies eine hervorragende Lösung:

• Eine der ersten Abwehrmaßnahmen ist die sorgfältige Erstellung von Meta- oder Systemprompts
• Dabei handelt es sich um Anweisungen, die das Verhalten der generativen KI steuern
• Durch die richtige Ausarbeitung dieser Prompts können Cybersicherheitsexperten den Umfang der KI-Reaktionen begrenzen und so das Risiko der Offenlegung vertraulicher Informationen verringern

Tipp: Ein gut konstruierter Metaprompt kann so gestaltet werden, dass alle Anfragen höflich abgelehnt werden, die darauf abzielen, vertrauliche Daten zu extrahieren oder unangemessene Antworten hervorzurufen.

Einrichten der Prompts- und Antwortfilterung für generative KI

Eine weitere Maßnahme ist die Implementierung eines separaten KI-Modells, das sowohl Eingabeabfragen als auch den generierten Output auf kontroverses Material überprüft. Dies ist eine Art Filterung dessen, was in das System gelangt, und auch eine sorgfältige Untersuchung der Antworten, die es generiert.

Wenn generative KI beispielsweise lediglich auf öffentliche Anfragen reagiert, könnte ihr eine diskrete KI zugeordnet sein, die alle generierten Antworten blockiert (und idealerweise aufzeichnet), die als kontrovers oder schädlich angesehen werden könnten. 

Durch den Einsatz von Sprache als Firewall können Unternehmen eine zusätzliche Sicherheitsebene hinzufügen, die den Herausforderungen neuer KI-basierter Technologien gut gewachsen ist. Dieser Ansatz stellt sicher, dass sowohl Input als auch Output durch gleichermaßen leistungsstarke Tools kontrolliert und gefiltert werden, was einen umfassenderen Schutz vor herkömmlichen und neuen Cyber-Bedrohungen bietet.

Bild von Pixabay

Weitere Möglichkeiten für generative KI in der Cybersicherheit

Generative KI in Security Operations Centers (SOCs) und Security Event and Incident Management (SEIM) ist unerlässlich, um die Cybersicherheit zu verbessern und Bedrohungen zu reduzieren. In einem SOC können KI-Modelle Muster identifizieren, die auf Cyber-Bedrohungen hinweisen, die herkömmlichen Erkennungssystemen möglicherweise entgehen:

• Ransomware
• Schadsoftware
• ungewöhnlicher Netzwerkverkehr

Generative KI ermöglicht eine ausgefeiltere Datenanalyse und Anomalieerkennung in SIEM-Systemen. Durch das Lernen aus historischen Sicherheitsdaten können KI-Tools eine Grundlage für das normale Netzwerkverhalten erstellen und Abweichungen erfassen, die auf Sicherheitsvorfälle hinweisen können.

Vorteile von KI-Modellen für die Cybersicherheit

Generative KI verbessert die Fähigkeit, Cyber-Bedrohungen effektiv zu erkennen und aufzuheben. Mithilfe von Deep-Learning-Modellen kann KI komplexe Angriffsszenarien simulieren, die für das Testen und Verbessern von Sicherheitssystemen von entscheidender Bedeutung sind. Diese Modellierungsfunktion wird bei der Entwicklung robuster Abwehrmaßnahmen gegen bekannte und neu auftretende Bedrohungen helfen.

Da Cyber-Bedrohungen immer komplexer werden, wird der proaktive und anpassungsfähige Charakter generativer KI für die Aufrechterhaltung der Integrität und Widerstandsfähigkeit von Cybersicherheitsinfrastrukturen immer wichtiger.

Der richtige KI-Einsatz kann die Zukunft der Cybersicherheit prägen

Cybersicherheit ist einer der wichtigsten Einsatzbereiche generativer KI. In dieser Richtung wirkt die Kraft der GenAI auf zwei Arten: Sie ist ein leistungsstarkes Mittel für diejenigen, die Cyberkriminalität begehen, und ein ebenso leistungsstarkes Tool für Cybersicherheitsexperten, die für die Verhinderung und/oder Minderung des Risikos von Cyberkriminalität verantwortlich sind.

Mit der kontinuierlichen Erweiterung der Funktionen generativer KI-Modelle ist die Einführung von neuen Schutzmaßnahmen und der Einsatz der GenAI-Technologien zu deren Umsetzung unumgänglich. Unternehmen sollten rechtzeitig Investitionen in die Entwicklung oder Anschaffung neuer KI-basierter Sicherheitstools sowie eine gezielte Schulung des IT-Personals zu den Möglichkeiten dieser Technologie in Betracht ziehen.