Accenture und Anthropic bauen ihre Zusammenarbeit bei der Sicherheit leistungsfähiger KI-Systeme aus. Dafür soll ein fest eingebettetes Evaluatorenteam entstehen, das direkt mit Anthropic sowie weiteren Sicherheitspartnern zusammenarbeitet. Beide Unternehmen wollen laut Pressemitteilung in den kommenden fünf Jahren jeweils mindestens eine Milliarde US-Dollar in den Aufbau entsprechender Kapazitäten investieren.
Die Prüfer sollen KI-Modelle evaluieren, Red-Teaming durchführen, Alignment-Bewertungen erstellen und bestehende Schutzmechanismen testen. Damit entsteht eine Form externer Kontrolle, die deutlich näher an der eigentlichen Modellentwicklung angesiedelt ist als klassische unabhängige Tests.
Evaluatoren erhalten tiefen Einblick in Anthropic
Das Konzept der sogenannten Embedded Evaluators sieht vor, externen Prüfern einen Zugang zu internen Abläufen zu geben, der nach Anthropic-Angaben mit dem eines Mitarbeiters vergleichbar sein kann. Dadurch sollen sie Modelle bereits während Training und Entwicklung beobachten und Entscheidungen rund um Entwicklung und Veröffentlichung nachvollziehen können.
Ziel ist es, Sicherheitsversprechen besser überprüfbar zu machen, mögliche Schwachstellen frühzeitig aufzudecken und Vorfälle unabhängiger bewerten zu können. Die Verantwortung für die Sicherheit der Modelle verbleibt nach Anthropic jedoch ausdrücklich beim Unternehmen selbst.
Gewinnen in der Plattform-Ökonomie
Faculty übernimmt zentrale Rolle
Die Zusammenarbeit wird maßgeblich über Faculty organisiert, das inzwischen zu Accenture gehört. Das Unternehmen verfügt über Erfahrung bei der Bewertung komplexer KI-Systeme und war unter anderem in den Bereichen Regierung, Verteidigung, Gesundheitswesen und Infrastruktur tätig.
Accenture will dabei technisches Sicherheitswissen mit Erfahrungen aus dem Einsatz von KI in Unternehmen und Behörden verbinden. Diese Praxissicht soll helfen, nicht nur theoretische Risiken, sondern auch konkrete Probleme bei realen Anwendungen zu identifizieren.
Regeln für eingebettete Prüfungen fehlen noch
Anthropic bezeichnet Embedded Evaluation selbst als noch jungen Ansatz. Einheitliche Standards dafür, welche Informationen externe Prüfer erhalten, wie Ergebnisse veröffentlicht werden oder wie solche Bewertungen finanziert werden sollen, existieren bislang nicht.
Kurzfristig finanziert Anthropic deshalb die Arbeit von Accenture direkt. Langfristig sieht das Unternehmen eher gemeinsame Finanzierungsmodelle oder staatlich unterstützte Strukturen als geeignete Grundlage für unabhängige Evaluationen.
Zusammenarbeit bleibt nicht exklusiv
Die Vereinbarung ist ausdrücklich nicht exklusiv. Anthropic will mit weiteren unabhängigen Evaluatoren zusammenarbeiten und steht nach eigenen Angaben unter anderem mit der Organisation METR im Austausch. Auch Accenture kann ähnliche Prüfaufgaben für andere KI-Entwickler übernehmen.
Damit soll langfristig ein breiteres Ökosystem unabhängiger Prüforganisationen entstehen. Für die KI-Branche könnte sich die eingebettete Evaluation zu einem zusätzlichen Kontrollmechanismus neben internen Sicherheitsteams, externen Tests und regulatorischen Vorgaben entwickeln.
