Der Einsatz von Künstlicher Intelligenz im Kundenservice entbindet Unternehmen nicht von ihrer Verantwortung. Zu diesem Ergebnis kommt ein aktuelles Urteil des Oberlandesgerichts Hamm, über das Händlerbund berichtet. Demnach haften Unternehmen für irreführende oder falsche Aussagen ihrer KI-Chatbots genauso wie für Informationen, die von Mitarbeitern oder anderen Unternehmensvertretern stammen.
Die Entscheidung könnte weitreichende Folgen für den E-Commerce und digitale Kundenservices haben. Immer mehr Händler setzen KI-gestützte Assistenten ein, um Anfragen automatisiert zu beantworten und Serviceprozesse effizienter zu gestalten.
KI gilt rechtlich als Teil des Unternehmens
Ausgangspunkt des Verfahrens war eine Klage der Verbraucherzentrale Nordrhein-Westfalen gegen ein medizinisches Dienstleistungsunternehmen. Der auf der Website eingesetzte Chatbot hatte auf Kundenanfragen eigenständig unzutreffende Facharzttitel für Geschäftsführer angegeben.
Das Unternehmen argumentierte, die Antworten seien von einem weitgehend autonomen KI-System generiert worden und deshalb nicht vorhersehbar gewesen. Dieser Argumentation folgte das Gericht nicht. Nach Auffassung der Richter sind technische Systeme und lernfähige Algorithmen dem Verantwortungsbereich des Betreibers vollständig zuzurechnen.
Gewinnen in der Plattform-Ökonomie
Betreiber müssen technische Schutzmaßnahmen einrichten
Besondere Bedeutung misst das Gericht der technischen Kontrolle von KI-Systemen bei. Im konkreten Fall konnte das Unternehmen die fehlerhaften Antworten nachträglich durch Filtermechanismen und gezielte Prompt-Vorgaben verhindern.
Nach Ansicht des Gerichts zeigt dies, dass entsprechende Schutzmaßnahmen grundsätzlich möglich und zumutbar sind. Unternehmen müssten solche Vorkehrungen daher bereits vor dem produktiven Einsatz eines Chatbots treffen und fortlaufend überwachen.
Verbraucher vertrauen KI-Antworten häufig besonders stark
Die Richter widersprachen zudem der Annahme, Verbraucher würden KI-generierten Aussagen grundsätzlich skeptisch begegnen. Vielmehr sei davon auszugehen, dass viele Nutzer computergenerierten Informationen ein hohes Maß an Vertrauen entgegenbringen.
Gerade deshalb könnten fehlerhafte oder irreführende Aussagen von Chatbots erhebliche Auswirkungen auf Kauf- oder Vertragsentscheidungen haben. Unternehmen müssten dieses Risiko bei der Einführung automatisierter Systeme berücksichtigen.
Grundsatzfrage landet vor dem Bundesgerichtshof
Wegen der grundsätzlichen Bedeutung der rechtlichen Fragestellungen hat das Oberlandesgericht die Revision zugelassen. Damit wird sich nun auch der Bundesgerichtshof mit der Frage befassen, in welchem Umfang Betreiber für die Entscheidungen und Aussagen moderner KI-Systeme verantwortlich sind.
Für Unternehmen zeichnet sich jedoch bereits jetzt eine klare Tendenz ab: Wer die Effizienzvorteile von KI im Kundenservice nutzen möchte, muss auch die volle Verantwortung für die ausgegebenen Inhalte übernehmen. Das Urteil dürfte daher die Anforderungen an Qualitätssicherung, Kontrolle und Compliance beim Einsatz von KI-Anwendungen deutlich erhöhen.
