Die Macht und das Potenzial agentischer KI

Agentische KI ist eine adaptive, automatisierte und unabhängige Art der künstlichen Intelligenz, die in der Lage ist, Ziele zu setzen, Entscheidungen in Echtzeit zu treffen und im nächsten Schritt ihr Verhalten entsprechend anzupassen. KI-Agenten fungieren als digitale Operatoren, die Daten sammeln, aus ihrer Umgebung lernen und komplexe Aufgaben mit minimalem menschlichem Eingreifen ausführen. Diese Fähigkeiten sind für Cyberangreifer ebenso attraktiv wie für Sicherheitsexperten.
 

Eine neue Bedrohungslandschaft

KI-Agenten können zum Beispiel von Cyberangreifern eingesetzt werden, um eine gesamte Angriffskampagne von Anfang bis Ende durchzuführen. Von Angreifern genutzte KI kann Netzwerke erkunden, erforderliche Daten sammeln, überzeugende Köder designen, Angriffswege testen und die Reaktionen der Abwehrmaßnahmen beobachten, um dann Taktik und Timing in Echtzeit anzupassen.

In Kombination mit spezialisierten Plattformen analysiert KI auf diese Weise riesige Datenmengen, um automatisch Schwachstellen zu identifizieren und polymorphe Malware zu generieren, die ihren eigenen Code umschreiben kann, um signaturbasierte und verhaltensbasierte Erkennung zu umgehen. Diese Tools wirken wie ein koordiniertes Gehirn, das Schritte miteinander verknüpft, aus jedem Hindernis lernt und sich unbemerkt in normale Netzwerkaktivitäten einfügt.

Darüber hinaus werden Cyberbedrohungen zunehmend auf harmlose, von Unternehmen genutzte KI-Agenten abzielen. Diese sind üblicherweise so konzipiert, dass sie mit minimaler oder komplett ohne menschliches Eingreifen kollaborativ arbeiten können. Künftig könnten Angreifer die Interaktionen zwischen KI-Agenten kapern und so die nächsten Schritte der Agenten-Kette kontrollieren. Das Fehlen menschlicher Aufsicht könnte die Erkennung und Abwehr eines Angriffs zusätzlich verzögern.

Anders ausgedrückt: Mit der zunehmenden Nutzung agentischer KI sollten Sicherheitsverantwortliche mit neuen und im Nachhinein möglicherweise schwer zu erklärenden Angriffstypen und -taktiken rechnen. Die Angriffsfläche von Unternehmen wird sich kontinuierlich vergrößern und sowohl bekannte als auch unbekannte Sicherheitslücken schaffen, während Zero-Day-Exploits in ihrer Häufigkeit zunehmen.
 

Eine neue Unternehmenslandschaft

Innerhalb von Unternehmen kann agentische KI zu Verbesserungen bei der Produktivität und Entscheidungsfindung führen. Als smarte Assistenten oder halbautonome Teammitglieder können KI-Agenten wiederkehrende Verwaltungsaufgaben übernehmen, Arbeitsabläufe überwachen und Echtzeit-Erkenntnisse aus umfangreichen Datensätzen liefern. Auf der Grundlage von Feedback können sie planen, experimentieren und Arbeitsweisen anpassen, was sie äußerst vielseitig und effektiv macht.

Im Bereich der Cybersicherheit kann agentische KI Software-Updates durchführen, den Netzwerkzustand überwachen und die Reaktion auf Vorfälle koordinieren. Integriert in Security Operations Center (SOCs) können KI-Agenten einen Großteil der administrativen Aufgaben sowie des Sicherheitsmanagementsystems übernehmen, was wiederum Kapazitäten für die Bedrohungssuche und -forschung sowie für die Weiterentwicklung von Erkennungstechnologie schafft. Sicherheitsanalysten können komplexe Angriffe zuverlässiger erkennen, während Fehlalarme und Alarmmüdigkeit im Unternehmen reduziert werden.
 

Neue Sicherheitsanforderungen

Für Unternehmen wird es unerlässlich sein, dedizierte Sicherheitsmaßnahmen für agentische KI-Tools zu implementieren. Herkömmliche Sicherheitsmechanismen wie statische Signaturen und Firewall-Regeln werden möglicherweise nicht ausreichen, um mit der Geschwindigkeit und Anpassungsfähigkeit KI-gesteuerter Bedrohungen Schritt zu halten. Unternehmen sollten unter anderem auf Folgendes setzen:

• Verhaltensgesteuerte KI-Sicherheitsmaßnahmen wie KI-gestützte Erkennungstools, die normale Verhaltensmuster lernen und Anomalien in Echtzeit identifizieren.
• Eine einheitliche Sicherheitsplattform mit umfassender Transparenz, die Identitäten, Endpunkte, SaaS, Cloud, E-Mail und Netzwerkverkehr integriert, um eine umfassende Überwachung und schnelle Erkennung von Bedrohungen zu ermöglichen.
• Menschen, die auch weiterhin in wichtige Entscheidungsprozesse, Überprüfungen und Reaktionen eingebunden sind. KI sollte qualifizierte Fachkräfte unterstützen, nicht ersetzen.
• Eine stärkere Kontrolle der KI, die jeden KI-Agenten als eigenständige Einheit mit eigener Identität und eigenen Zugriffsrechten behandelt und Zero-Trust-Prinzipien mit Überprüfungen jeder Aktion anwendet.
• Authentifizierung, Verschlüsselung und Protokollierung aller Interaktionen zwischen KI-Agenten und Nutzern, um Manipulationen oder Poisoning-Angriffe zu verhindern.
• Schulungen für Führungskräfte, damit diese über das nötige Fachwissen in den Bereichen KI-Management, Datenanalyse und natürliche Sprachverarbeitung verfügen, um eine verantwortungsvolle Integration von KI-Agenten sicherzustellen.
• Compliance mit regulatorischen Standards wie dem NIST AI Risk Management Framework, um potenzielle Risiken zu minimieren.

Fazit

KI ist kein Zukunftskonzept mehr, sondern bereits Realität – und Unternehmen, die KI noch nicht zu ihrem Schutz einsetzen, sind im Nachteil. Wenn Angreifer agentische KI nutzen, während Sicherheitsverantwortliche weiterhin ausschließlich manuell arbeiten, wird sich diese Kluft zu einem systemischen Nachteil ausweiten. Die Zukunft der Cybersicherheit wird davon abhängen, wie gut Unternehmen die unsichtbaren KI-zu-KI-Interaktionen verstehen, steuern und mit menschlichen Werten in Einklang bringen – und nicht davon, wie schnell die nächste Bedrohung abgewehrt wird.

Yaz Bekkar, Principal Consulting Architect XDR, EMEA, bei Barracuda Networks