O víkendu došlo k masivnímu úniku důvěrných dat, který se stal přímo na očích. Stovky, možná tisíce sdílených konverzací a interaktivního obsahu generovaného systémem umělé inteligence Anthropic Claude byly veřejně indexovány společností Google.
Všechno to začalo jednoduše: uživatel Redditu zadal do vyhledávací lišty Google dotaz site:claude.ai/share.
Výsledky byly šokující.
Místo vlastních soukromých poznámek uživatel viděl nekonečný seznam veřejných odkazů. Některé z nich obsahovaly lékařské záznamy. Další obsahovaly interní firemní dokumenty. A v několika případech byla odhalena jména a telefonní čísla školáků.
Toto není chyba v kódu. Jde o nepochopení toho, jak funguje „sdílení“ na otevřeném webu.
Зміст
Past „veřejného přístupu“.
Kořen problému spočívá ve funkci Share Chat.
Při použití tohoto nástroje se vytvoří speciální odkaz. Rozhraní varuje: „Kdokoli s odkazem může zobrazit obsah“.
Většina uživatelů si výraz „kdokoli s odkazem“ vykládá jako „moji přátelé“ nebo „moje pracovní skupina“.
Na otevřeném webu slovo „kdokoli“ znamená doslova každého.
Podobné funkce sdílení má například Google Docs. Respektují však nastavení soukromí specifická pro daný web. Pokud nastavíte dokument Google jako soukromý, nezobrazí se ve výsledcích vyhledávání. Zůstane za autorizační zdí.
Odkazy na sdílení Claude fungují jinak. Jedná se o statické stránky ve webovém prostoru. Jakmile jsou indexovány, stanou se veřejnými.
“Nesdílíme adresáře chatů ani mapy stránek… Tyto odkazy pro sdílení nelze získat… pokud se je lidé nerozhodnou sdílet.”
– Antropický zástupce Ammi Rotherham
Obrana Anthropic je technická, ne morální.
Podle společnosti neposkytují vyhledávačům seznamy soukromých chatů. Chaty se ve výsledcích vyhledávání zobrazují pouze v případě, že někdo veřejně zveřejnil odkaz někde jinde – na fóru, na Twitteru nebo na veřejném panelu. Pokud pošlete odkaz příteli v soukromé zprávě, zůstane soukromý.
Problém je, že lidé tyto odkazy zveřejňují. A Google indexuje to, co je veřejně dostupné.
Co přesně bylo odhaleno?
Než Google údajně stránky odstranil, novináři a výzkumníci je začali vyšetřovat.
Futurismus oznámil zjištění:
* Podrobné lékařské zprávy od skutečných pacientů.
* Výsledky klinických studií, včetně jmen pacientů.
* Dokumenty s kontaktními údaji žáků základních škol.
* Interní hodnocení zaměstnanců obsahující osobní údaje.
Fortune informoval o chatovací místnosti označené „shared by Anthropic“ (poskytované společností Anthropic), která generovala erotickou literaturu. To porušuje zásady společnosti Anthropic týkající se sexuálně explicitního obsahu. Není jasné, jak model v tomto konkrétním případě obešel své bezpečnostní filtry nebo proč byl chat ponechán ve veřejné doméně.
Společnost Antropic se ke konkrétnímu incidentu s explicitním obsahem nevyjádřila.
Role Google
Mluvčí Googlu Ned Adrians odmítl myšlenku, že za situaci je odpovědný výhradně Google.
„Ani Google, ani žádné jiné vyhledávače nekontrolují, jaké soubory se na internetu stanou veřejnými,“ řekl Adrians pro TechCrunch. “Majitelům stránek poskytujeme jasné nástroje pro správu… a vždy tyto pokyny respektujeme.”
Google uvádí, že pokud je stránka veřejně dostupná na internetu, podléhá indexaci. Pokud vlastník webu nepoužije značku noindex, Google předpokládá, že chce, aby byla stránka vidět.
Není to poprvé, co byl Claude zařazen do indexu Forbes. Minulý rok oznámili podobný incident, kdy Google indexoval méně než 600 konverzací. Rychle zmizely.
Tentokrát se objem zdál větší. Několik uživatelů potvrdilo, že našli společné konverzace pomocí stejných vyhledávacích operátorů.
Jak zkontrolovat nastavení
Pokud používáte Claude, může docházet k občasným únikům dat.
Chcete-li zkontrolovat, které chaty jsou nastaveny na veřejný režim:
1. Přejděte na Nastavení.
2. Přejděte do sekce Ochrana osobních údajů.
3. Klikněte na Sdílené chaty.
Zde si můžete prohlédnout aktivní odkazy. Pokud ve veřejné síti uvidíte něco, co nechcete, okamžitě to smažte nebo deaktivujte.
Internet je hlasitější, než si myslíme. To, že je funkce označena jako „sdílet“, neznamená, že zůstane pouze ve skupinovém chatu. Na webu je tlačítko sdílení vysílací věž.
Jste si jisti, kdo poslouchá?
Podle testovacího vyhledávání TechCrunch stránky zmizely v pondělí odpoledne. Ale odkazy již mohly být shromážděny v databázi. Archivováno. Opět rozděleno.
Data jsou již online. Pro náhodného návštěvníka už prostě nejsou vidět.
