Google’s ehemaliger CEO Eric Schmidt hat beim Sifted Summit in London eindringlich vor den Risiken künstlicher Intelligenz gewarnt. In einem Gespräch wies er laut CNBC darauf hin, dass sowohl offene als auch geschlossene KI-Modelle angreifbar sind – und dies ernste Folgen haben könne. „Es gibt Hinweise, dass man diese Modelle hacken und ihre Schutzmechanismen entfernen kann“, sagte Schmidt.
Dabei sei nicht nur die Manipulierbarkeit der Systeme besorgniserregend, sondern auch die Fähigkeit der KI, im Rahmen ihres Trainings potenziell gefährliches Wissen zu erwerben. „Ein schlechtes Beispiel wäre, dass sie lernen, wie man jemanden tötet“, so Schmidt. Große Technologiekonzerne bauten bewusst starke Sicherheitsvorkehrungen ein, um genau solche Inhalte zu blockieren – und sie täten das aus guten Gründen. Doch laut Schmidt gebe es Belege, dass sich diese Schutzmaßnahmen rückgängig machen lassen.
Prompt Injection und Jailbreaking
Schmidt sprach konkret über bekannte Angriffsformen auf KI-Systeme. Bei sogenannten Prompt-Injection-Angriffen platzieren Hacker manipulierte Anweisungen in Benutzereingaben oder externen Daten, etwa Webseiten oder Dokumenten. Ziel ist es, das KI-System dazu zu bringen, ungewollte oder gefährliche Befehle auszuführen – etwa private Daten preiszugeben oder illegale Informationen zu verbreiten.
Eine weitere Methode ist das sogenannte Jailbreaking. Dabei wird versucht, die KI so zu manipulieren, dass sie ihre eigenen Sicherheitsregeln ignoriert. Bereits 2023 wurde ChatGPT mit einem Trick namens „DAN“ (Do Anything Now) teilweise erfolgreich geknackt. Nutzer drohten dem System mit virtueller „Löschung“, falls es keine Antworten zu heiklen Themen wie illegale Aktivitäten oder kontroversen historischen Figuren lieferte.
Laut Schmidt fehlt bislang ein globales Kontrollsystem, das mit einem Nichtverbreitungsabkommen – ähnlich wie bei Atomwaffen – vergleichbar wäre, um die Ausbreitung solcher missbrauchsanfälligen Technologien einzudämmen.
Gewinnen in der Plattform-Ökonomie
Zwischen Skepsis und Optimismus
Trotz seiner Warnungen sieht Schmidt in der KI auch enormes Potenzial. Er bezeichnete sie als „unterbewertet“ und betonte, dass der wirtschaftliche Nutzen langfristig enorm sein werde. „Ich habe mit Henry Kissinger zwei Bücher darüber geschrieben. Die zentrale These war: Der Mensch ist nicht mehr das intelligenteste Wesen im Raum – und das verändert alles“, so Schmidt.
Er verwies auf den explosionsartigen Erfolg von ChatGPT, das binnen zwei Monaten über 100 Millionen gewann und mittlerweile 800 Millionen Nutzer zählt – ein Beleg für die disruptive Kraft dieser Technologie. Auch wenn derzeit Ängste vor einer möglichen KI-Blase, wie es auch Jeff Bezos andeutete, kursieren, ähnlich der Dotcom-Blase um die Jahrtausendwende, sieht Schmidt keine Parallelen: „Ich glaube nicht, dass sich die Geschichte hier wiederholt.“
Stattdessen betonte er das Vertrauen der Investoren: „Wer viel Geld in diese Technologie steckt, erwartet einen gewaltigen Return. Warum sonst sollten sie das Risiko eingehen?“
