Die Chefs von OpenAI und Anthropic haben vor dem Sicherheitsrat der Vereinten Nationen eindringlich vor den Risiken immer leistungsfähigerer KI-Systeme gewarnt. Sam Altman und Dario Amodei betonten in New York, dass Fortschritte bei künstlicher Intelligenz mit strengeren Sicherheitsanforderungen einhergehen müssten. Beide sprachen sich dafür aus, die Entwicklung notfalls zu verlangsamen, wenn Risiken nicht ausreichend kontrolliert werden können.
Im Mittelpunkt standen mögliche Kontrollverluste, der Missbrauch leistungsfähiger Modelle und eine zunehmende Konzentration technologischer Macht. Zugleich machten beide deutlich, dass sie KI nicht grundsätzlich bremsen wollen, sondern auf einen Ausbau unter stärkeren Sicherheitsvorkehrungen setzen.
Altman warnt vor Kontrollverlust und Machtkonzentration
OpenAI-Chef Sam Altman bezeichnete in seiner Rede die aktuelle Phase als einen Moment, der extreme Vorsicht erfordere. Je leistungsfähiger und autonomer KI-Systeme würden, desto größer sei das Risiko, dass ihre Entwicklung schneller voranschreite als die Fähigkeit von Institutionen, sie zu verstehen oder zu kontrollieren.
Als zweites wesentliches Risiko nannte Altman eine starke Konzentration von Macht. Besonders leistungsfähige KI dürfe nach seiner Auffassung nicht von einzelnen Unternehmen, Staaten oder Personen genutzt werden können, um anderen ihre Vorstellungen aufzuzwingen. Entscheidungen über die künftige Entwicklung der Technologie müssten deshalb breiter gesellschaftlich und politisch legitimiert werden.
Gewinnen in der Plattform-Ökonomie
OpenAI will einen Mittelweg verfolgen
Altman positionierte OpenAI zwischen zwei Extremen. Einerseits warnte er davor, Chancen der Technologie aus übermäßiger Vorsicht ungenutzt zu lassen. Andererseits dürfe die Branche Risiken nicht allein deshalb akzeptieren, weil der wirtschaftliche oder wissenschaftliche Nutzen neuer Systeme groß erscheine.
Wettbewerbsdruck zwischen KI-Unternehmen sei kein ausreichender Grund für riskante Veröffentlichungen. Altman verwies darauf, dass OpenAI Entwicklungen bereits verlangsamt habe und dies erneut tun werde, wenn Fragen rund um Kontrolle, Überwachung und Sicherheit nicht ausreichend geklärt seien.
Amodei verspricht strengere Standards für stärkere Modelle
Anthropic-Chef Dario Amodei schlug einen ähnlich vorsichtigen Ton an. Mit steigender Leistungsfähigkeit der Modelle seien zunehmend strengere Sicherheitsstandards notwendig. Anthropic wolle insbesondere seine Verfahren verbessern, mit denen ein Missbrauch der Technologie verhindert werden soll.
Amodei kündigte an, dass Anthropic die Entwicklung so weit wie nötig verlangsamen werde, um sicherzustellen, dass neue KI-Technologien vor ihrer Veröffentlichung ausreichend abgesichert sind. Er warnte zudem davor, dass schlecht kontrollierte KI-Systeme im Extremfall zu einem Risiko für die Menschheit insgesamt werden könnten.
Globale Regeln rücken stärker in den Mittelpunkt
Altman und Amodei gehören zu den prominentesten Vertretern der KI-Branche, die eine stärkere internationale Abstimmung über Sicherheitsstandards fordern. OpenAI plädierte zuletzt dafür, gemeinsame technische Standards für sogenannte Frontier-AI-Systeme zu etablieren, mit denen Fähigkeiten, Risiken und Schutzmaßnahmen besser vergleichbar werden sollen.
Die Diskussion erreicht damit zunehmend internationale Institutionen. Im UN-Sicherheitsrat geht es nicht mehr nur um die wirtschaftlichen Chancen von KI, sondern verstärkt um die Frage, wie hochentwickelte Systeme überwacht, kontrolliert und im Krisenfall begrenzt werden können. Neben Altman und Amodei sprach auch Hugging-Face-Chef Clément Delangue, der zugleich die Bedeutung offener KI-Systeme für die Verteidigung gegen neue Bedrohungen hervorhob.
