Au cours du week-end, une fuite massive de données confidentielles s’est déroulée sous nos yeux. Des centaines, voire des milliers, de conversations partagées et d’artefacts interactifs créés au sein de l’IA Claude d’Anthropic ont été indexés publiquement sur Google.
Cela a commencé simplement. Un utilisateur de Reddit a tapé « site:claude.ai/share » dans Google.
Les résultats ont été choquants.
Au lieu de voir ses propres notes privées, l’utilisateur a vu une liste déroulante de liens publics. Certains contenaient des dossiers de santé. D’autres disposaient de documents internes à l’entreprise. Plusieurs d’entre eux ont dévoilé les noms et numéros de téléphone d’enfants d’âge scolaire.
Ce n’est pas un problème dans le code. C’est une mauvaise compréhension du fonctionnement du « partage » sur le Web ouvert.
Зміст
Le piège du “public”
Le problème principal réside dans une fonctionnalité appelée Partager le chat.
Lorsque vous utilisez cet outil, vous générez une URL. L’interface vous avertit : “Toute personne disposant du lien peut visualiser.”
La plupart des utilisateurs interprètent « toute personne disposant du lien » comme signifiant « mes amis » ou « mon équipe ».
Sur le Web ouvert, « n’importe qui » signifie littéralement tout le monde.
Google Docs, par exemple, propose des fonctionnalités de partage similaires. Mais il respecte les contrôles de confidentialité spécifiques au site. Si vous définissez un document Google sur « privé », il n’apparaît pas dans les résultats de recherche. Il reste derrière un mur de connexion.
Les liens de partage de Claude sont différents. Ce sont des pages statiques sur le Web. Une fois indexés, ils sont publics.
“Nous ne partageons pas de répertoires de discussion ni de plans de site… Ces liens partageables ne peuvent pas être devinés… à moins que les gens choisissent de les partager.”
— Amie Rotherham, porte-parole anthropique
La défense d’Anthropic est technique et non morale.
Selon l’entreprise, elle ne fournit pas aux moteurs de recherche une liste de discussions privées. Les discussions n’apparaissent dans la recherche que si quelqu’un publie le lien ailleurs publiquement, comme sur un forum, Twitter ou un tableau de bord public. Si vous envoyez un lien par SMS à un ami, il reste privé.
Le problème ? Les gens publient ces liens publiquement. Et Google indexe les choses publiques.
Qu’est-ce qui a été réellement exposé ?
Avant que Google ne supprime apparemment ces pages, des journalistes et des chercheurs se sont penchés sur la question.
Le futurisme a rapporté avoir découvert :
* Rapports médicaux détaillés de vrais patients.
* Résultats des essais cliniques, y compris les noms des patients.
* Documents contenant les coordonnées des enfants du primaire.
* Avis internes des employés avec données personnelles.
Fortune a rapporté une discussion intitulée « partagée par Anthropic » qui a généré de l’érotisme. Cela viole les politiques d’utilisation d’Anthropic contre les contenus sexuellement explicites. On ne sait pas comment la marque a contourné ses filtres de sécurité pour cette instance spécifique, ni pourquoi la discussion est restée partagée.
Anthropic n’a pas commenté le cas spécifique impliquant le contenu explicite.
Le rôle de Google
Ned Adriance, porte-parole de Google, a repoussé l’idée selon laquelle Google était le seul responsable.
“Ni Google ni aucun autre moteur de recherche ne contrôlent quels fichiers sont rendus publics sur le Web”, a déclaré Adriance à TechCrunch. “Nous donnons aux propriétaires de sites des contrôles clairs… et nous respectons toujours ces directives.”
Google affirme que si une page est accessible au public sur Internet, elle peut être indexée. Si le propriétaire du site n’utilise pas de balises « noindex », Google suppose qu’il souhaite que la page soit vue.
Ce n’est pas la première fois que Claude est indexé. Forbes a signalé un incident similaire l’année dernière, au cours duquel Google a indexé moins de 600 conversations. Ils ont disparu rapidement.
Cette fois, le volume semblait plus élevé. Plusieurs utilisateurs ont confirmé avoir trouvé des conversations partagées en utilisant les mêmes opérateurs de recherche.
Comment vérifier vos propres paramètres
Si vous utilisez Claude, vous pourriez avoir des fuites accidentelles.
Pour vérifier quelles discussions sont définies comme publiques :
1. Accédez à Paramètres.
2. Accédez à Confidentialité.
3. Cliquez sur Chats partagés.
Ici, vous pouvez consulter les liens actifs. Si vous voyez quelque chose que vous ne voulez pas sur le Web ouvert, supprimez-le ou désactivez-le immédiatement.
Internet est plus bruyant qu’on ne le pense. Ce n’est pas parce qu’une fonctionnalité est étiquetée « partager » qu’elle reste dans la discussion de groupe. Sur le Web, un bouton de partage est une tour de diffusion.
Êtes-vous sûr de qui écoute ?
Les pages semblent avoir disparu lundi après-midi, selon une recherche test TechCrunch. Mais les liens ont peut-être déjà été supprimés. Archivé. Partagé à nouveau.
Les données sont disponibles. Il n’est tout simplement plus visible pour le navigateur occasionnel.
