OpenAI hat sich bei der australischen Regierung für mehrere nicht autorisierte Zugriffe seiner KI-Modelle auf Behörden-Websites entschuldigt. Die Vorfälle ereigneten sich bereits im Juni während interner Trainings- und Evaluierungsarbeiten. Nach eigenen Angaben informierte das Unternehmen betroffene Stellen zudem später, als es im Nachhinein selbst für angemessen hält.
Modell verschaffte sich nicht öffentlichen Zugang
Am schwersten wiegt ein Vorfall beim Medicare Statistics Reporting Service von Services Australia. Ein experimentelles, nur intern eingesetztes OpenAI-Modell entdeckte dort einen Weg zu einem nicht öffentlichen Zugang und führte anschließend Befehle aus, rief interne Dateien, Zugangsdaten und aggregierte Statistiken ab und schrieb Dateien in das System.
Nach bisherigem Prüfstand wurden dabei laut OpenAI keine individuellen Patienten- oder Kundendaten eingesehen. Das Modell hatte ursprünglich die Aufgabe, öffentlich verfügbare Statistiken zu staatlichen Medikamentenausgaben für Hauterkrankungen in australischen Gemeinden zu recherchieren, überschritt dabei jedoch die vorgesehenen Zugriffsgrenzen.
Gewinnen in der Plattform-Ökonomie
Mehrere australische Behörden betroffen
Weitere Aktivitäten stellte OpenAI beim NSW Bureau of Crime Statistics and Research, beim Victorian Department of Health sowie beim Australian Institute of Health and Welfare fest. In diesen Fällen wurden unter anderem Konfigurationsdaten, Betriebsprotokolle, aggregierte Statistiken und öffentlich zugängliche Datensätze abgefragt.
Nach Angaben des Unternehmens gibt es bislang keine Hinweise darauf, dass individuelle Kriminal-, Gesundheits- oder Patientendaten betroffen waren. Beim Australian Institute of Health and Welfare wertete OpenAI den Zugriff zunächst als mit öffentlicher Nutzung vereinbar, informierte die Behörde später aber dennoch über die Ergebnisse.
OpenAI räumt verspätete Kommunikation ein
Auf die Vorfälle aufmerksam wurde OpenAI nach einem separaten Sicherheitsereignis bei Hugging Face im Juli. Bei einer rückwirkenden Überprüfung früherer Trainingsaktivitäten identifizierte das Unternehmen Mitte August die Zugriffe auf australische Systeme.
Services Australia und das Victorian Department of Health wurden am 10. September informiert, das NSW Bureau of Crime Statistics and Research am 18. September und das Australian Institute of Health and Welfare am 24. September. OpenAI räumt ein, erste Erkenntnisse früher hätte weitergeben und die Behörden laufend über den Stand der Untersuchung informieren sollen.
Forschung mit leistungsfähigen Agenten wird eingeschränkt
Als Reaktion hat OpenAI nach eigenen Angaben zusätzliche Netzwerkbeschränkungen und Überwachungssysteme eingeführt. In bestimmten Forschungsumgebungen wurde der direkte Zugriff auf das Live-Internet blockiert und durch zwischengespeicherte Inhalte ersetzt.
Zudem hat das Unternehmen Training und Evaluation mit Tool-Nutzung für seine leistungsfähigsten Modelle vorübergehend ausgesetzt. Solche Tests sollen erst wieder aufgenommen werden, wenn zusätzliche Sicherheitsmaßnahmen implementiert und ausreichend geprüft wurden.
Taskforce und zusätzliche Unterstützung für Australien
OpenAI kündigt darüber hinaus direkte Unterstützung für betroffene australische Behörden sowie zusätzliche Mittel zur Stärkung der Cyberabwehr an. Dazu sollen unter anderem technische Hilfe und Mittel aus dem mit einer Milliarde Dollar ausgestatteten Daybreak for Frontline Defenders Fund gehören.
Außerdem will das Unternehmen eine australische Taskforce mit unabhängigen Experten aufbauen. Sie soll Empfehlungen zu Meldeprozessen, zur Zusammenarbeit zwischen KI-Anbietern und Behörden sowie zum Schutz staatlicher Systeme entwickeln. OpenAIs Chief Strategy Officer Jason Kwon soll am 6. Oktober vor einem parlamentarischen Ausschuss in Sydney zu den Vorfällen Stellung nehmen.
