Googles KI-generierte Suchantworten liefern häufig korrekte Informationen – doch eine aktuelle Analyse der New York Times zeigt auch deutliche Schwächen. Besonders problematisch ist, dass falsche oder unvollständig belegte Inhalte oft überzeugend präsentiert werden.
Hohe Trefferquote mit Einschränkungen
Untersuchungen zufolge sind Googles sogenannte „AI Overviews“ in rund 85 bis 91 Prozent der Fälle korrekt. Die Genauigkeit hat sich mit neueren KI-Modellen weiter verbessert.
Angesichts von Milliarden Suchanfragen bedeutet jedoch selbst eine kleine Fehlerquote, dass täglich zahlreiche falsche Antworten generiert werden.
Gewinnen in der Plattform-Ökonomie
Problem unzureichender Quellenbasis
Ein zentrales Problem liegt in der sogenannten „Ungroundedness“: Selbst korrekte Antworten sind häufig nicht sauber durch die angegebenen Quellen belegt.
In vielen Fällen verweisen die KI-Antworten auf Inhalte, die die Aussagen nur teilweise oder gar nicht stützen. Dadurch wird es für Nutzer schwierig, die Informationen zu überprüfen.
Social Media als Quelle
Auffällig ist die Nutzung von Plattformen wie Facebook oder Reddit als Quellen. Diese werden regelmäßig in den Antworten zitiert – auch bei fehlerhaften Ergebnissen.
Die Qualität der Quellen variiert stark, was das Risiko von Ungenauigkeiten erhöht.
Fehler trotz korrekter Datenbasis
Selbst wenn verlässliche Informationen vorliegen, kann die KI diese falsch interpretieren. In einigen Fällen werden Daten aus korrekten Quellen fehlerhaft kombiniert oder missverständlich dargestellt.
Auch Zusatzinformationen, die über die eigentliche Frage hinausgehen, enthalten teilweise Fehler.
Schwierige Überprüfbarkeit
Ein weiteres Problem ist die Dynamik der Antworten. Identische Suchanfragen können unterschiedliche Ergebnisse liefern, was eine systematische Überprüfung erschwert.
Zudem werden zur Bewertung der KI häufig wiederum andere KI-Systeme eingesetzt – die selbst fehleranfällig sind.
Manipulationsrisiken nehmen zu
Experten warnen zudem vor gezielter Manipulation. Inhalte können so gestaltet werden, dass sie von der KI bevorzugt aufgegriffen und als scheinbar verlässliche Information präsentiert werden.
Damit steigt das Risiko, dass falsche Inhalte als glaubwürdig wahrgenommen werden.
Vertrauen bleibt zentrale Herausforderung
Die Debatte um die Zuverlässigkeit von KI-Suchergebnissen zeigt ein grundlegendes Problem: Nutzer müssen Informationen weiterhin kritisch hinterfragen.
Auch Google weist darauf hin, dass KI-Antworten fehlerhaft sein können. Die Verantwortung für die Bewertung der Inhalte bleibt somit weiterhin beim Nutzer.
