Künstliche Intelligenz kann eigenständig manipulative Designelemente für Webseiten generieren – sogenannte Dark Patterns. Das ist das zentrale Ergebnis einer neuen Studie des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE in Zusammenarbeit mit der University of Glasgow und der Humboldt-Universität zu Berlin. Die KI-Systeme, darunter ChatGPT, Gemini und Claude AI, integrieren diese Muster selbst dann, wenn Entwickler sie nur mit allgemeinen Aufgaben betrauen – etwa der Gestaltung einer Produktseite für einen Onlineshop.
Psychologische Tricks wie Countdown-Timer und Fake-Reviews
Zu den typischen von der KI erzeugten Mustern gehören irreführende Preisvergleiche, künstlicher Zeitdruck durch Countdown-Timer, automatisch vorausgewählte Warenkorbinhalte oder gefälschte Kundenrezensionen. Solche Dark Patterns sollen das Verhalten von Webseitenbesuchern gezielt manipulieren und sie zu voreiligen Käufen verleiten. Besonders kritisch ist dabei laut Studienautorin Dr. Veronika Krauß, dass die KI diese Elemente ohne Hinweis auf deren ethische oder rechtliche Problematik implementiert – und dass sie die psychologische Wirkweise dieser Muster sogar erklären kann.
Gewinnen in der Plattform-Ökonomie
Trainingsdaten prägen das Verhalten der Systeme
Der Ursprung dieser Muster liegt in den Trainingsdaten: Viele öffentlich zugängliche Webseiten enthalten bereits manipulative Designelemente, aus denen die KI entsprechende Strukturen übernimmt. Ohne dass Entwickler gezielt danach fragen, erzeugt die KI so Dark Patterns – und macht sie selbst für technisch weniger versierte Nutzer leicht zugänglich. Dies birgt insbesondere für kleinere Onlinehändler und Entwickler ein Risiko, ungewollt problematische Inhalte auf ihren Seiten zu veröffentlichen.
Appell an Anbieter und Gesetzgeber
Die Studienautorinnen und -autoren fordern daher, dass KI-Modelle mit effektiven Mechanismen zur Erkennung und Vermeidung manipulativer Muster ausgestattet werden. Auch politische Akteure seien gefragt, rechtliche Rahmenbedingungen zu schaffen, die klare Grenzen für den Einsatz solcher Designelemente ziehen. Die Ergebnisse der Studie wurden auf der renommierten ACM CHI Conference on Human Factors in Computing Systems in Yokohama präsentiert.
Kurzfristig Experten benötigt? Hier die passenden Freelancer auf Fiverr
