Anthropic testet und erweitert Claude in Chrome gegen Prompt-Injection-Risiken

ArtikelAnthropicAnkündigung

Anthropic bringt Claude als Chrome-Erweiterung in den Browser, um Aufgaben wie Formulareingaben oder Web-Workflows zu übernehmen. Kern des Projekts ist die Absicherung gegen Prompt Injections über manipulierte Webseiten, DOM-Elemente und Metadaten.

Das Wichtigste

  1. Claude in Chrome ermöglicht die direkte Interaktion im Browser, etwa das Ausfüllen von Formularen, Terminabsprachen und Multi-Tab-Workflows.
  2. In Red-Teaming-Tests mit 123 Testfällen sank die Erfolgsrate von Prompt-Injection-Angriffen durch neue Schutzmaßnahmen von 23,6 % auf 11,2 %.
  3. Spezifische Browser-Angriffe über versteckte DOM-Felder, URLs oder Tab-Titel konnten in Tests von 35,7 % auf 0 % reduziert werden.
  4. Schutzmechanismen umfassen Domain-Berechtigungen, Bestätigungsdialoge für riskante Aktionen, Blocklisten für risikoreiche Websites und KI-Klassifikatoren.
  5. Nach der Pilotphase für Max-Abonnenten folgten Rollouts für Pro-, Team- und Enterprise-Pläne inklusive Claude-Code-Integration zum Debuggen von DOM und Konsole.

Warum das relevant ist

Browser-fähige KI-Agenten greifen direkt auf aktive Nutzersitzungen und ungesicherte Web-Inhalte zu. Wenn fremder Website-Code Befehle an das Modell einschleusen kann, drohen Datenabfluss oder unbeabsichtigte Aktionen. Die vorgestellten Abwehrmechanismen zeigen, wie Anthropic versucht, solche Angriffsflächen vor einer breiten Nutzung einzudämmen.

Einordnung

Das größte Sicherheitsrisiko browserbasierter Agenten liegt in indirekten Prompt Injections, da Webinhalte unberechenbare Nutzereingaben darstellen. Anthropic setzt daher auf ein mehrschichtiges Modell aus System-Prompts, Klassifikatoren, Domain-Beschränkungen und manuellen Freigaben vor kritischen Aktionen. Bemerkenswert ist die Integration mit Claude Code: Entwickler können Fehler in der Konsole und den DOM-Status direkt durch das Sprachmodell analysieren lassen.

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Link:Anthropic

    Claude in Chrome: Anthropic bringt KI-Agenten in den Browser

    Mit der Browser-Erweiterung 'Claude in Chrome' bietet Anthropic zahlenden Kunden einen Assistenten, der Webseiten liest, klickt, tippt und Formulare ausfüllt. Das Tool lässt sich in Claude Cowork und Claude Code einbinden, um Workflows über mehrere Tabs und ohne eigene Programmierschnittstellen hinweg abzuwickeln.

    KI & AI· Tool

  • Artikel:Anthropic

    Claude Cowork zieht in das Chrome-Seitenpanel ein

    Anthropic integriert Claude Cowork in die Chrome-Browsererweiterung. Nutzer können Browser-Aufgaben starten, tab-übergreifend agieren lassen und Sitzungen nahtlos in Desktop-, Mobil- oder Web-Apps weiterführen.

    KI & AI· Ankündigung

  • Artikel:Anthropic

    Claude Code im Browser: Anthropic dokumentiert Chrome-Integration

    Anthropic beschreibt die Integration von Claude Code mit Chromium-basierten Browsern über die Browser-Erweiterung Claude in Chrome. Entwickler können Browser-Automatisierung direkt aus dem Terminal oder VS Code nutzen, um Web-Apps lokal zu testen, Konsolen-Logs auszulesen oder Formulare auszufüllen.

    KI & AI· Tool

  • Artikel:Anthropic Engineering

    Wie Anthropic Claude-Agenten isoliert und absichert

    Anthropic erläutert die Sicherheitsarchitektur zur Begrenzung des Schadenspotenzials (Blast Radius) von KI-Agenten in claude.ai und Claude Code. Da menschliche Kontrollabfragen an Genehmigungsmüdigkeit scheitern, setzt das Unternehmen vor allem auf OS- und Container-Sandboxes.

    KI & AI· Forschung

  • Link:Anthropic

    Anthropic stellt Claude Fable 5.1 und Claude Mythos 5.1 vor

    Anthropic kündigt die Frontier-Modelle Claude Fable 5.1 und Claude Mythos 5.1 an. Beide basieren auf demselben Modell, unterscheiden sich jedoch bei Sicherheitsbarrieren. Fable 5.1 bietet höhere Leistung beim Coding, wissenschaftlicher Forschung und Knowledge Work bei gleichzeitig reduzierten Kosten.

    KI & AI· Ankündigung

Lassen Sie uns über Ihr Projekt sprechen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.