Tijdens het weekend ontvouwde zich in het volle zicht een enorm privacylek. Honderden, mogelijk duizenden, gedeelde gesprekken en interactieve artefacten gebouwd binnen de Claude AI van Anthropic werden openbaar geïndexeerd op Google.
Het begon eenvoudig. Een Reddit-gebruiker typte site:claude.ai/share in Google.
De resultaten waren schokkend.
In plaats van zijn eigen privénotities te zien, zag de gebruiker een schuifbare lijst met openbare links. Sommige bevatten gezondheidsdossiers. Anderen hadden interne bedrijfsdocumenten. Verschillende personen onthulden de namen en telefoonnummers van schoolgaande kinderen.
Dit is geen fout in de code. Het is een misverstand over hoe ‘delen’ werkt op het open web.
Зміст
De “publieke” valstrik
Het kernprobleem ligt in een functie genaamd Share Chat.
Wanneer u deze tool gebruikt, genereert u een URL. De interface waarschuwt u: “Iedereen met de link kan bekijken.”
De meeste gebruikers interpreteren ‘iedereen met de link’ als ‘mijn vrienden’ of ‘mijn team’.
Op het open web betekent ‘iedereen’ letterlijk iedereen.
Google Documenten heeft bijvoorbeeld vergelijkbare functies voor delen. Maar het respecteert sitespecifieke privacycontroles. Als u een Google-document instelt op ‘privé’, verschijnt het niet in de zoekresultaten. Het blijft achter een inlogmuur.
De deellinks van Claude zijn anders. Het zijn statische pagina’s op internet. Eenmaal geïndexeerd zijn ze openbaar.
“We delen geen chatmappen of sitemaps… Deze deelbare links zijn niet te raden… tenzij mensen ervoor kiezen ze te delen.”
– Antropische woordvoerster Amie Rotherham
De verdediging van Anthropic is technisch, niet moreel.
Volgens het bedrijf geven ze zoekmachines geen lijst met privéchats. De chats verschijnen alleen in de zoekresultaten als iemand de link ergens anders openbaar plaatst, zoals op een forum, Twitter of een openbaar dashboard. Als u een link naar een vriend sms’t, blijft deze privé.
Het probleem? Mensen plaatsen deze links openbaar. En Google indexeert openbare dingen.
Wat werd er feitelijk blootgelegd?
Voordat Google deze pagina’s schijnbaar verwijderde, groeven journalisten en onderzoekers zich erin.
Het futurisme rapporteerde de volgende bevindingen:
* Gedetailleerde medische rapporten van echte patiënten.
* Klinische onderzoeksresultaten inclusief patiëntnamen.
* Documenten met contactgegevens van basisschoolkinderen.
* Interne medewerkersbeoordelingen met persoonlijke gegevens.
Fortune meldde een chat met het label ‘gedeeld door Anthropic’ die erotica opleverde. Dit is in strijd met het gebruiksbeleid van Anthropic tegen seksueel expliciete inhoud. Het is onduidelijk hoe het model de veiligheidsfilters voor dit specifieke exemplaar heeft omzeild, of waarom de chat gedeeld bleef.
Anthropic heeft geen commentaar gegeven op het specifieke geval van de expliciete inhoud.
De rol van Google
Ned Adriance, een woordvoerder van Google, kwam terug op het idee dat alleen Google de schuldige is.
“Noch Google, noch enige andere zoekmachine bepaalt welke bestanden openbaar worden gemaakt op internet”, vertelde Adriance aan TechCrunch. “We geven site-eigenaren duidelijke controles… en we respecteren die richtlijnen altijd.”
Google stelt dat als een pagina openbaar toegankelijk is op internet, dit een eerlijk spel is voor indexering. Als de site-eigenaar geen ‘noindex’-tags gebruikt, gaat Google ervan uit dat hij wil dat de pagina wordt gezien.
Dit is niet de eerste keer dat Claude wordt geïndexeerd. Forbes rapporteerde vorig jaar een soortgelijk incident waarbij Google minder dan 600 gesprekken indexeerde. Ze verdwenen snel.
Deze keer voelde het volume hoger. Meerdere gebruikers hebben bevestigd dat ze gedeelde gesprekken hebben gevonden met dezelfde zoekoperatoren.
Hoe u uw eigen instellingen kunt controleren
Als u Claude gebruikt, kan het zijn dat u per ongeluk lekkage heeft.
Om te bekijken welke chats openbaar zijn:
1. Ga naar Instellingen.
2. Navigeer naar Privacy.
3. Klik op Gedeelde chats.
Hier kunt u actieve links bekijken. Als u iets tegenkomt dat u niet op het open internet wilt hebben, verwijder het dan onmiddellijk of schakel het uit.
Het internet is luider dan we denken. Het feit dat een functie het label ‘delen’ heeft, betekent niet dat deze in de groepschat blijft staan. Op internet is een deelknop een zendmast.
Weet je zeker wie er luistert?
Volgens een TechCrunch-testzoekopdracht lijken de pagina’s vanaf maandagmiddag verdwenen te zijn. Maar de links zijn mogelijk al geschraapt. Gearchiveerd. Opnieuw gedeeld.
De gegevens zijn daar. Het is gewoon niet meer zichtbaar voor de gewone browser.
