Die KI-Schmiede Anthropic testet erstmals eine Chrome-Erweiterung, mit der ihr Sprachmodell Claude direkt im Browser agieren kann – etwa beim Planen von Meetings, Ausfüllen von Formularen oder Verwalten von E-Mails. Für die Pilotphase sind zunächst 1.000 Nutzer des Max-Plans vorgesehen. Ziel ist es, Erfahrungen zu sammeln und gleichzeitig die Sicherheit beim Einsatz von KI-Browseragenten zu verbessern.
Mehr als nur ein Helfer: Claude wird zum aktiven Agenten
Claude erhält mit der neuen Chrome-Erweiterung die Fähigkeit, direkt auf Webseiten zu reagieren, Klicks auszuführen und Inhalte zu bearbeiten. Damit nähert sich Anthropic einem Paradigmenwechsel an: Weg von rein textbasierten Assistenzsystemen, hin zu KI-Agenten mit direktem Handlungsspielraum im digitalen Alltag.
Bereits in internen Tests hat Claude Aufgaben wie das Beantworten von E-Mails, Terminvereinbarungen und das Testen neuer Website-Features übernommen. Doch mit der erweiterten Handlungsfähigkeit wächst auch das Risiko für Fehlverhalten – insbesondere durch sogenannte Prompt-Injection-Angriffe.
Gewinnen in der Plattform-Ökonomie
Angriffe durch manipulierte Eingaben: Ein reales Risiko
Prompt Injection beschreibt den Versuch, KI-Systeme durch versteckte oder manipulierte Befehle auf Webseiten oder in E-Mails zu unerwünschten Aktionen zu verleiten. Anthropic führte gezielte Tests mit 123 Angriffsszenarien durch – mit teils alarmierenden Ergebnissen. Ohne Schutzmechanismen führte Claude in 23,6 % der Fälle fehlerhafte Aktionen aus, etwa das Löschen von E-Mails nach manipulierten Anweisungen.
Mit neu eingeführten Sicherheitsmaßnahmen wie Bestätigungsabfragen, restriktiven Berechtigungen und verbesserten Systemprompts konnte diese Rate auf 11,2 % gesenkt werden. In speziellen Tests browserbasierter Angriffstypen lag die Erfolgsrate nach den neuen Abwehrmechanismen sogar bei 0 %.
Schrittweise Einführung mit Fokus auf Sicherheit
Anthropic betont, dass reale Nutzungsszenarien ein entscheidender Faktor bei der Weiterentwicklung von Claude sind. Interne Tests können die Vielfalt realer Browsing-Situationen nur bedingt simulieren. Die Pilotphase soll daher helfen, neue Bedrohungsszenarien zu identifizieren und bestehende Schutzmaßnahmen zu verfeinern.
Teilnehmer können die Erweiterung über den Chrome Web Store installieren und müssen sich mit ihren Claude-Zugangsdaten authentifizieren. Empfohlen wird ein vorsichtiger Einstieg mit vertrauenswürdigen Seiten – besonders bei sensiblen Themen wie Finanzen oder Gesundheit.
Fazit: Fortschritt mit Vorsicht
Claude für Chrome markiert einen wichtigen Schritt in Richtung aktiver, browsergestützter KI-Nutzung. Die Tests zeigen sowohl das enorme Potenzial als auch die damit verbundenen Sicherheitsherausforderungen. Anthropic verfolgt einen verantwortungsbewussten Ansatz mit Fokus auf Transparenz und Nutzerkontrolle – ein Ansatz, der in einem zunehmend automatisierten digitalen Umfeld entscheidend sein dürfte.
