IBM hat als erstes Unternehmen eine Softwarelösung vorgestellt, die Sicherheits- und Governance-Funktionen für agentische KI-Systeme vereint. Die Integration der Plattformen watsonx.governance und Guardium AI Security soll Unternehmen helfen, ihre KI-Anwendungen – einschließlich autonom agierender Agenten – sicher, regelkonform und skalierbar zu betreiben.
Einheitliche Steuerung für Sicherheit und Regelkonformität
Die neue Lösung von IBM schafft eine gemeinsame Sicht für Teams aus IT-Sicherheit und KI-Governance. Sie erleichtert die Bewertung regulatorischer Anforderungen anhand von zwölf Rahmenwerken, darunter die EU AI-Verordnung und ISO 42001. Guardium AI Security erkennt automatisch neue KI-Nutzungsszenarien in Cloud-Infrastrukturen und Quellcode-Repositorien. Darauf aufbauend können Governance-Workflows aus watsonx.governance angestoßen werden.
Gewinnen in der Plattform-Ökonomie
Automatisiertes Red Teaming und Sicherheitsrichtlinien
Ein zentrales Element sind automatisierte Red-Teaming-Funktionen, mit denen Schwachstellen in KI-Anwendungen erkannt und behoben werden können. Risiken wie Datenlecks oder Injektionen lassen sich durch konfigurierbare Sicherheitsrichtlinien analysieren, die sowohl Eingabe- als auch Ausgabeaufforderungen prüfen. Diese Funktionen sind bereits in Guardium AI Security verfügbar; die vollständige Integration mit watsonx.governance erfolgt schrittweise.
Überwachung des Lebenszyklus von KI-Agenten
Watsonx.governance wurde erweitert, um KI-Agenten über ihren gesamten Lebenszyklus hinweg zu überwachen – von der Entwicklung bis zur Implementierung. Die Plattform erlaubt es, Evaluationspunkte in Agenten einzubauen, um etwa Relevanz und Konsistenz von Antworten zu messen. Weitere Funktionen wie Risikoanalysen bei der Agentenanbindung und Audit-Trails sollen ab dem 27. Juni verfügbar sein.
Vorkonfigurierte Compliance-Pakete
Die sogenannten Compliance Accelerators in watsonx.governance bieten vorkonfigurierte Regulierungsinhalte, darunter die US-Vorschrift SR 11-7 und New Yorks Local Law 144. Unternehmen können ihre spezifischen Anforderungen identifizieren und diese direkt auf eigene KI-Fälle abbilden.
Beratungsdienste für skalierbare KI-Nutzung
IBM ergänzt sein Angebot um neue Beratungsleistungen von IBM Consulting Cybersecurity Services. Diese kombinieren technische Sicherheitslösungen mit branchenspezifischem Fachwissen. Unterstützt werden Unternehmen etwa bei der Risikoanalyse bestehender KI-Systeme oder bei der Einführung sicherer Entwicklungsprozesse. Kunden wie Nationwide Building Society oder e& nutzen diese Expertise bereits.
Watsonx.governance ist ab sofort auch in einem AWS-Rechenzentrum in Indien verfügbar. IBM unterstreicht mit diesen Neuerungen seinen Anspruch, Unternehmen beim verantwortungsvollen und sicheren Einsatz generativer KI umfassend zu unterstützen.
