Über das vergangene Wochenende waren Hunderte scheinbar private Konversationen mit Anthropics Chatbot Claude in den Suchergebnissen von Google und anderen Suchmaschinen auffindbar. Eine einfache Suchanfrage genügte, um lange Listen geteilter Chats aufzurufen. Aufmerksam wurden Nutzerinnen und Nutzer in Internetforen wie Reddit, wo die Suchformel kursierte. Betroffen waren ausschließlich Unterhaltungen, bei denen Anwender die Teilen-Funktion des Chatbots verwendet hatten. Zwischen den offengelegten Inhalten fanden sich laut Berichten hochsensible Daten – von Zugangsschlüsseln zu Kryptowallets über Namen und Adressen bis hin zu Patienteninformationen und Telefonnummern. Anthropic hat die Lücke inzwischen offenbar geschlossen.
- Betroffen waren nur Chats, die Nutzer über die Teilen-Funktion aktiv freigegeben hatten.
- Zu den offengelegten Inhalten zählten Krypto-Schlüssel, persönliche Angaben, Patientendaten und erotische Texte.
- Anthropic spricht von keiner Panne: Wer teile, mache Inhalte bewusst öffentlich zugänglich.
Die Teilen-Funktion erzeugt öffentlich erreichbare Links
Der Kern des Problems liegt in einer Funktion, die viele Chatbots anbieten. Wenn Nutzer auf „Teilen“ klicken, erstellt Claude eine Momentaufnahme des Gesprächs unter einer eigenen Web-Adresse. Diese ist eigentlich dafür gedacht, an eine einzelne Person oder eine kleine Gruppe verschickt zu werden. Standardmäßig sind Claude-Konversationen privat – nur geteilte Chats waren betroffen. Die Links geben zudem keinen Zugriff auf das gesamte Konto oder alle Unterhaltungen eines Nutzers.
Dass ein solcher Link damit im Prinzip jedem offensteht, war offenbar vielen Betroffenen nicht bewusst. Zu den aufgetauchten Inhalten gehörten neben sensiblen Daten auch Programmiernotizen, Arbeitsaufzeichnungen, gefälschte Buchrezensionen und erotische Fantasien. Ein Chat, der als „von Anthropic geteilt“ markiert war, zeigte Claude beim Erzeugen expliziter Inhalte – was gegen die eigenen Richtlinien des Unternehmens verstößt.
Eine fehlende Sperre in den Metadaten der Gespräche
Technisch blockiert Anthropic den Suchrobotern von Google und anderen Anbietern den generellen Zugriff auf Claude-Konversationen über eine Datei namens robots.txt. Diese untersagt den automatischen Programmen, die Inhalte der Website systematisch zu erfassen. Werden die einzelnen Links jedoch auf anderem Weg bekannt – etwa in einem Forum wie Reddit –, greifen Suchmaschinen sie dennoch auf. Um das zu verhindern, lässt sich in den Metainformationen jeder einzelnen Konversation ein Verbot platzieren, das die Bots respektieren müssen. Nach Recherchen des US-Magazins „Wired“ war das offenbar unterblieben. Eine entsprechende Anfrage ließ Anthropic unbeantwortet.
Das Unternehmen selbst weist die Darstellung einer Panne zurück. „Wir geben Menschen die Kontrolle darüber, ihre Claude-Konversationen öffentlich zu teilen, und im Einklang mit unseren Datenschutzprinzipien teilen wir keine Chat-Verzeichnisse oder Sitemaps mit Suchmaschinen wie Google“, erklärte ein Sprecher. Wer eine Unterhaltung teile, mache diese Inhalte öffentlich zugänglich – und wie andere öffentliche Web-Inhalte könnten sie von Drittanbietern archiviert werden.
Ein Fehler, den die gesamte Branche schon wiederholt gemacht hat
Der Vorfall reiht sich in eine ganze Serie ähnlicher Fälle ein. Bereits vor einem Jahr war Anthropic mit einem nahezu identischen Problem konfrontiert. Auch der Chatbot ChatGPT von OpenAI war betroffen: Nach Berichten waren Tausende privater Anfragen samt Antworten über Google abrufbar, in einem vergleichbaren Fall wurden fast 100.000 Konversationen offengelegt. Und ein Update von Elon Musks Chatbot Grok spülte Hunderttausende Nutzergespräche in den Google-Index.
Dass OpenAI, Anthropic und xAI jeweils über Varianten desselben Fehlers gestolpert sind, deutet darauf hin, dass die Branche das Problem bislang nicht dauerhaft in den Griff bekommen hat.
Für Nutzerinnen und Nutzer bedeutet das: Geteilte Chats sind oft heikler als etwa ein geteiltes Dokument. Viele behandeln Chatbots als Ort, um über Arbeit, Gesundheit oder rechtliche Fragen laut nachzudenken – Inhalte, die sie nicht zwingend öffentlich sehen wollen. Wer verhindern will, dass eigene Konversationen im Netz landen, kann in den Privatsphäre-Einstellungen von Claude den Zugriff prüfen und die Veröffentlichung jedes einzelnen Gesprächs separat widerrufen.
Auch wenn die Chats inzwischen wieder aus den Suchergebnissen von Google, Bing und DuckDuckGo verschwunden sind, bleiben zuvor offengelegte Links weiterhin erreichbar – etwa solche, die bereits in Foren geteilt wurden.
Nutzen Sie die Teilen-Funktion von KI-Chatbots – und war Ihnen bewusst, dass solche Links öffentlich auffindbar sein können? Teilen Sie Ihre Einschätzung in den Kommentaren.
