Een onbekend aantal gedeelde gesprekken en Artifacts van Claude is tijdelijk via Google doorzoekbaar geweest. In de resultaten stonden mogelijk medische dossiers, interne bedrijfsstukken en namen en telefoonnummers van kinderen.
Artifacts zijn interactieve mini-apps en documenten die gebruikers binnen Claude kunnen maken. De vindbare inhoud omvatte ook programmacode, werknotities en erotisch materiaal dat door de chatbot was gegenereerd.
De zichtbaarheid hing samen met de functie waarmee gebruikers een gesprek delen via een link. De interface meldt dat iedereen met die link de inhoud kan bekijken. Gebruikers kunnen zo gesprekken of projecten met anderen delen, maar links bleken in sommige gevallen ook door zoekmachines te zijn opgenomen.
Links waren eerder online geplaatst
Anthropic zegt geen overzichten van gedeelde chats of sitemaps aan zoekmachines te verstrekken. Een woordvoerder van het bedrijf stelt dat deel-links alleen in zoekresultaten komen als ze eerder zijn geplaatst op plekken die zoekmachines kunnen doorzoeken, zoals fora of sociale media.
"Wanneer iemand een gesprek deelt, maakt die persoon die inhoud openbaar toegankelijk", zegt Amie Rotherham van Anthropic. Zij wijst erop dat openbare webpagina's ook door externe diensten kunnen worden gearchiveerd. Links die uitsluitend privé worden verstuurd, zouden niet in zoekresultaten terechtkomen.
Een test met dezelfde zoekopdracht leverde later geen resultaten meer op. Daarmee lijkt de vindbaarheid te zijn beëindigd, al is niet bekend hoeveel gesprekken precies geïndexeerd waren en hoe lang ze zichtbaar zijn geweest.
Google zegt dat zoekmachines niet bepalen welke pagina's openbaar op internet staan. Woordvoerder Ned Adriance stelt dat website-eigenaren instellingen hebben om crawling en indexering te beperken, en dat Google zulke aanwijzingen respecteert.
Eerdere gevallen
Claude had eerder te maken met een vergelijkbare situatie. Toen waren volgens een eerdere schatting van Google net geen 600 gesprekken in zoekmachines opgenomen voordat de pagina's uit de resultaten verdwenen.
Anthropic verbiedt Claude in zijn gebruiksregels om seksueel expliciete inhoud te maken. In minstens één vindbaar gesprek leek de chatbot toch expliciet materiaal te hebben geproduceerd. Het is niet duidelijk hoe dat gesprek tot stand kwam.
Gebruikers kunnen nagaan welke Claude-gesprekken zij met een openbare link hebben gedeeld via Settings, Privacy en Shared Chats. Daar kunnen zij de instellingen voor gedeelde gesprekken controleren.
