Autonome KI-Agenten könnten 2027 stärker in operative Entscheidungen von Unternehmen eingreifen und zugleich deren IT-Sicherheit verändern. In seiner Sicherheitsprognose für 2027 erwartet Google Cloud, dass solche Systeme künftig Preise steuern, Lieferantenverträge aushandeln oder Lieferketten in Echtzeit umleiten. Damit wächst aus Sicht des Anbieters die Bedeutung von Kontrollen, mit denen Unternehmen Entscheidungen im Nachhinein prüfen und Zugriffsrechte im laufenden Betrieb begrenzen können.
Chris Betz, Sicherheitschef von Google Cloud, beschreibt den Einsatz von Sprachmodellen und Agenten zur Suche und Behebung von Schwachstellen bereits für 2026 als Entwicklung, die sich in Unternehmen stark ausgeweitet hat. Zugleich beobachtet er, dass Software teils binnen Stunden oder Tagen bereitgestellt wird. Sicherheitsprüfungen müssen aus seiner Sicht mit diesem Tempo Schritt halten.
Unternehmen sollen Entscheidungen nachvollziehen können
Google Cloud plädiert dafür, folgenreiche Entscheidungen autonomer Systeme manipulationssicher zu protokollieren. Unternehmen sollen nachvollziehen können, welche Daten in eine Entscheidung einflossen, welche Werkzeuge ein Agent nutzte und welche Regel die Aktion erlaubte. Das soll die Prüfung automatisierter Entscheidungen erleichtern, bevor Unternehmen solche Systeme breiter einsetzen.
Auch die Rechtevergabe soll sich nach Einschätzung des Unternehmens verändern. Jeder Agent soll eine eigene überprüfbare Identität und eng begrenzte Berechtigungen erhalten. Google schlägt vor, das Zero-Trust-Prinzip bis auf die Ebene einzelner Transaktionen auszuweiten. Ob eine Aktion zulässig ist, soll damit auch von den Bedingungen zum Zeitpunkt der Anfrage abhängen.
Gewinnen in der Plattform-Ökonomie
KI soll Sicherheitsmeldungen vor der Prüfung aufbereiten
Für IT-Sicherheitszentren erwartet Google Cloud, dass spezialisierte Agenten Warnmeldungen mit weiteren Daten anreichern, zusammenhängende Ereignisse erkennen und Fälle priorisieren. Analysten sollen dadurch bereits aufbereitete Befunde erhalten. Sie bleiben laut Prognose dafür zuständig, Grenzen für automatische Maßnahmen festzulegen, Entscheidungen zu überprüfen und bei Bedarf einzugreifen.
Als Vorteil der Verteidiger nennt Google den Zugriff auf interne Informationen über Berechtigungen, Netzwerke, Quellcode und laufende Systeme. Mehrere spezialisierte Modelle könnten diese Informationen gemeinsam auswerten und Auffälligkeiten gegenseitig überprüfen. Dafür empfiehlt Google eine zentrale Koordination, die festlegt, wann Agenten eigenständig handeln und wann sie einen Fall an Menschen weitergeben.
Softwarelieferketten und KI-Ressourcen geraten ins Visier
Ein weiteres Risiko sieht Google bei Open-Source-Bibliotheken und externen Werkzeugen, die KI-Assistenten in der Softwareentwicklung einbinden. Sicherheitsprüfungen sollen deshalb schon bei der Entwicklung ansetzen. Google empfiehlt zudem, Erkenntnisse aus dem laufenden Betrieb mit dem Quellcode zu verknüpfen, damit Teams Schwachstellen gezielter beheben und Korrekturen vor dem Einsatz prüfen können.
Die Prognose geht außerdem davon aus, dass Cyberkriminelle vermehrt auf Datendiebstahl und Erpressung setzen. Als mögliche Ziele nennt sie unternehmenseigene Modellgewichte, Prompt-Sammlungen und GPU-Rechenkapazität in der Cloud. Unternehmen sollen laut Prognose den Schutz dieser Ressourcen, die Rechte ihrer Agenten und die Sicherheit der Softwarelieferkette gemeinsam steuern. Gezielte Sicherheitstests vor dem Produktiveinsatz sollen Schwächen in den Schutzvorkehrungen der Agenten frühzeitig sichtbar machen.
