Im Kontext jüngster Sicherheitsvorfälle bei KI-Unternehmen hat Microsoft AI einen Entwurf für einen umfassenden Verhaltenskodex seiner künftigen KI-Modelle veröffentlicht. Der „Humanist AI Code of Conduct“ soll festlegen, wie Systeme trainiert, gesteuert und bewertet werden und welche Grenzen auch bei leistungsfähigeren Modellen gelten sollen.
Der Kodex befindet sich derzeit in einer sechswöchigen öffentlichen Konsultationsphase und wird noch nicht zur Modelltrainierung eingesetzt. Eine überarbeitete Fassung soll gegen Jahresende vorliegen und die Entwicklung neuer Modelle ab 2027 beeinflussen.
Menschliche Kontrolle steht an oberster Stelle
Zentraler Gedanke des Entwurfs ist, dass KI dem Menschen dienen und unter menschlicher Kontrolle bleiben soll. Microsoft stellt ausdrücklich Sicherheit und Kontrollierbarkeit über maximale Autonomie oder Leistungsfähigkeit.
Das Regelwerk definiert vier grundlegende Ziele: menschliche Kontrolle und Sicherheit, eine klare Abgrenzung zwischen Mensch und Maschine, die Förderung menschlicher Entfaltung sowie die Berücksichtigung pluraler Werte.
KI-Systeme sollen demnach weder Bewusstsein noch eigene Gefühle oder persönliche Bedürfnisse vortäuschen. Auch eine rechtliche Personhood oder eigene Rechte für KI lehnt Microsoft im Rahmen des Entwurfs ab.
Gewinnen in der Plattform-Ökonomie
Absolute Grenzen für Waffen und Cyberangriffe
Besonders weitreichend sind die sogenannten „Absolute Constraints“. Sie sollen unabhängig von Nutzerwünschen oder Vorgaben eines Unternehmens gelten, das Microsofts Modelle in eigene Produkte integriert.
Untersagt werden unter anderem Hilfestellungen für chemische, biologische, radiologische oder nukleare Waffen sowie operative Cyberangriffe und groß angelegte manipulative Einflussoperationen.
Auch bestimmte Formen von Überwachung, Kindesmissbrauch, nicht einvernehmliche intime Inhalte sowie gefährliche Unterstützung bei Selbstverletzung sollen ausgeschlossen bleiben. Bei Dual-Use-Anwendungen sollen Kontext, Berechtigungen und mögliche Schäden berücksichtigt werden.
Microsoft warnt auch vor übermäßiger Vorsicht
Der Kodex beschränkt sich nicht auf die Vermeidung gefährlicher Antworten. Microsoft unterscheidet ausdrücklich zwischen zu geringer und zu großer Vorsicht.
Ein Modell soll demnach nicht nur dann als fehlerhaft gelten, wenn es riskante Handlungen unterstützt. Auch unnötige Ablehnungen legitimer Anfragen, übermäßige Rückfragen oder das Zurückhalten hilfreicher Informationen werden als problematisch bewertet.
Reaktionen sollen sich stattdessen an Wahrscheinlichkeit, Schwere und Umkehrbarkeit eines möglichen Schadens orientieren. Microsoft versucht damit, Sicherheit und praktische Nutzbarkeit stärker miteinander auszubalancieren.
KI soll keine emotionale Abhängigkeit erzeugen
Ein weiterer Schwerpunkt betrifft die Beziehung zwischen Nutzer und System. Microsoft will verhindern, dass Modelle sich als bewusste Wesen darstellen oder emotionale Abhängigkeiten fördern.
Romantische oder auf dauerhafte Begleitung ausgerichtete Interaktionen sollen ebenso begrenzt werden wie Aussagen, die eigene Gefühle oder menschliche Erfahrungen suggerieren.
Zugleich sollen Modelle transparent mit Unsicherheit umgehen, keine Quellen erfinden und Fehler korrigieren. Bei politischen Themen sieht der Entwurf sachliche und ausgewogene Informationen vor, ohne Unterstützung für einzelne Parteien oder Kandidaten.
Kodex soll auch autonome Systeme und Agenten erfassen
Die Regeln sollen nicht nur für klassische Chatbots gelten. Microsoft bezieht ausdrücklich Systeme ein, die externe Werkzeuge nutzen, Aufgaben ausführen oder mit weiteren Agenten zusammenarbeiten.
Der Zugriff auf Websuche, Codeausführung oder Dateioperationen soll keine pauschale Erlaubnis für weitergehende Handlungen darstellen. Bei irreversiblen Aktionen sollen nach Möglichkeit Sicherungen, Testläufe und nachvollziehbare Dokumentation eingesetzt werden.
Microsoft bezeichnet den Kodex selbst als „living document“. Offene Fragen sieht das Unternehmen unter anderem bei Multi-Agenten-Systemen, möglicher Kollusion zwischen KI-Systemen und rekursiver Selbstverbesserung.
Der Entwurf ist damit weniger eine Beschreibung des heutigen Zustands als ein Governance-Rahmen für künftige, leistungsfähigere KI-Systeme. Ziel ist es, auch bei wachsender Autonomie menschliche Kontrolle und klar definierte Sicherheitsgrenzen zu erhalten.
