Autonome KI-Agenten übernehmen in Unternehmen zunehmend eigenständige Aufgaben und erhalten dafür Zugriff auf interne Systeme, Daten und externe Anwendungen. Damit steigen auch die Sicherheitsrisiken. Der IT-Sicherheitsanbieter Kaspersky hat deshalb einen Leitfaden veröffentlicht, der Unternehmen bei der sicheren Entwicklung und Integration solcher Systeme unterstützen soll.
Der Bericht „AI agent security through the lens of Cyber Immunity“ beschreibt technische und organisatorische Maßnahmen, mit denen sich Fehlfunktionen, missbräuchliche Zugriffe und Schäden durch KI-Agenten begrenzen lassen. Im Mittelpunkt stehen eine sichere Systemarchitektur, eingeschränkte Berechtigungen und die konsequente Trennung einzelner Komponenten.
Autonome KI-Agenten schaffen neue Angriffsflächen
KI-Agenten werden zunehmend zur Automatisierung von Geschäftsprozessen, in der Softwareentwicklung und bei IT-Sicherheitsaufgaben eingesetzt. Anders als klassische KI-Anwendungen können sie eigenständig Aktionen ausführen, externe Werkzeuge nutzen und auf unterschiedliche Unternehmensressourcen zugreifen.
Dadurch entstehen zusätzliche Risiken. Zu weitreichende Zugriffsrechte können beispielsweise dazu führen, dass Agenten sensible Informationen verarbeiten, unerwünschte Änderungen vornehmen oder Daten löschen.
Kaspersky untersucht in seinem Leitfaden bekannte Sicherheitsvorfälle und bestehende Bedrohungsmodelle. Daraus leitet das Unternehmen Anforderungen für den kontrollierten Einsatz autonomer Systeme ab.
Gewinnen in der Plattform-Ökonomie
Cyber Immunity soll Schäden durch KI-Fehler begrenzen
Die Empfehlungen basieren auf dem sogenannten Cyber-Immunity-Ansatz. Dieses Sicherheitskonzept verfolgt das Ziel, IT-Systeme bereits bei ihrer Entwicklung so zu gestalten, dass Fehler oder kompromittierte Komponenten möglichst geringe Auswirkungen haben.
Ein wesentliches Prinzip besteht darin, große Sprachmodelle und Informationen aus externen Quellen grundsätzlich nicht als vertrauenswürdig einzustufen. Besonders kritische oder nicht rückgängig zu machende Aktionen sollen deshalb nur nach ausdrücklicher menschlicher Freigabe erfolgen.
Zudem empfiehlt Kaspersky, die Zahl sicherheitskritischer Komponenten möglichst klein zu halten. Je weniger Systembestandteile uneingeschränktes Vertrauen benötigen, desto geringer soll das Risiko weitreichender Sicherheitsverletzungen ausfallen.
Isolation und Zugriffskontrollen stehen im Mittelpunkt
Ein weiterer Schwerpunkt ist die technische Abschottung einzelner KI-Agenten. Mithilfe von Sandboxes und virtuellen Maschinen sollen Ausführungsumgebungen getrennt und potenziell unsichere Prozesse isoliert werden.
Das gilt insbesondere für Multi-Agenten-Systeme, in denen mehrere autonome Anwendungen zusammenarbeiten. Sicherheitsprobleme eines einzelnen Agenten sollen sich möglichst nicht auf andere Komponenten übertragen.
Für externe Verbindungen empfiehlt Kaspersky das Default-Deny-Prinzip. Dabei werden Zugriffe auf Schnittstellen, Netzwerke und Werkzeuge zunächst grundsätzlich blockiert und nur nach definierten Regeln freigegeben.
Auch die verwendeten Parameter bei Werkzeugaufrufen sollen kontrolliert werden. Zusätzlich rät das Unternehmen dazu, eigenständige Veränderungen an der Software-Lieferkette durch KI-Agenten zu unterbinden.
Unternehmen sollen KI-Agenten systematisch erfassen
Der Leitfaden richtet sich insbesondere an Chief Information Security Officers (CISOs), Chief Information Officers (CIOs) und Chief Technology Officers (CTOs).
Zu den organisatorischen Empfehlungen gehört eine vollständige Bestandsaufnahme aller eingesetzten KI-Agenten. Unternehmen sollen nachvollziehen können, welche Systeme autonom arbeiten, auf welche Ressourcen sie zugreifen und welche Berechtigungen sie besitzen.
Darüber hinaus empfiehlt Kaspersky verbindliche Vorgaben für Containerisierung, Isolation und die Verwaltung der eingesetzten Softwarekomponenten. Diese Maßnahmen sollen verhindern, dass unkontrollierte Agentenaktivitäten die Unternehmensinfrastruktur gefährden.
Mehrschichtige Sicherheitsarchitektur empfohlen
Nach Einschätzung von Vladislav Tushkanov, Leiter des Kaspersky AI Technology Research Center, lassen sich die ursprünglich für andere IT-Systeme entwickelten Cyber-Immunity-Prinzipien auch auf moderne KI-Anwendungen übertragen.
Da große Sprachmodelle nicht vollständig vorhersehbar arbeiten, müsse die Sicherheitsarchitektur mögliche Fehler und Manipulationen von Beginn an berücksichtigen.
Ergänzend empfiehlt Kaspersky den Einsatz mehrerer Schutzebenen. Dazu gehören KI-spezifische Firewalls, isolierte Ausführungsumgebungen sowie Technologien zur Angriffserkennung und Sicherheitsüberwachung wie Endpoint Detection and Response (EDR) und Security Information and Event Management (SIEM).
Der Leitfaden verdeutlicht damit einen grundlegenden Ansatz für den Unternehmenseinsatz autonomer KI: Nicht allein das Verhalten der Modelle soll abgesichert werden. Entscheidend ist vielmehr eine Architektur, die Zugriffe begrenzt und mögliche Schäden auch dann eindämmt, wenn einzelne Komponenten fehlerhaft oder kompromittiert sind.
