На вихідних стався масштабний витік конфіденційних даних, що стався насправді. Сотні, а можливо, і тисячі загальних розмов та інтерактивних матеріалів, створених в ІІ-системі Anthropic Claude, були проіндексовані Google у відкритому доступі.
Все почалося просто: користувач Reddit ввів у пошуковий рядок Google запит site:claude.ai/share.
Результати шокували.
Замість своїх приватних нотаток користувач побачив нескінченний список публічних посилань. Деякі з них містили медичні записи. Інші містили внутрішні документи компанії. А в кількох випадках було розкрито імена та номери телефонів школярів.
Це не помилка у коді. Це нерозуміння того, як працює спільний доступ у відкритій мережі.
Зміст
Пастка «Публічного доступу»
Корінь проблеми криється у функції Share Chat (Поділитися чатом).
Коли ви використовуєте цей інструмент, створюється спеціальне посилання. Інтерфейс попереджає: «Будь-який, хто має посилання, може переглядати вміст».
Більшість користувачів інтерпретують фразу «будь-який, хто має посилання» як «мої друзі» або «моя робоча група».
У відкритій мережі слово “будь-який” означає буквально всіх.
Наприклад, Google Docs має схожі функції обміну. Але вони поважають специфічні для сайту конфіденційності. Якщо ви встановите режим «Приватний» для документа Google, він не з’явиться в результатах пошуку. Він залишиться за стіною авторизації.
Посилання спільного доступу Claude працюють інакше. Це статичні сторінки у веб-просторі. Як тільки вони будуть проіндексовані, вони стають публічними.
«Ми не передаємо каталоги чатів чи карти сайту… Ці посилання для обміну не піддаються підбору… поки люди самі не наважуються ними поділитися».
– Представниця Anthropic Аммі Ротерхем
Захист Anthropic має технічний, а не моральний характер.
За словами компанії, вони не надають пошуковим системам списків приватних чатів. Чати з’являються в результатах пошуку тільки якщо хтось привселюдно розмістив посилання десь ще — на форумі, у Twitter або у відкритому дашборді. Якщо ви надішлете посилання другу в особистому повідомленні, воно залишиться приватним.
Проблема в тому, що люди публікують ці посилання у відкритому доступі. А Google індексує те, що є публічно.
Що саме було розкрито?
Перш ніж Google, ймовірно, видалив ці сторінки, журналісти та дослідники зайнялися розслідуванням.
Видання Futurism повідомило про знахідки:
* Детальні медичні звіти реальних пацієнтів.
* Результати клінічних випробувань, включаючи імена пацієнтів.
* Документи з контактними даними учнів початкової школи.
* Внутрішні відгуки співробітників, що містять особисті дані.
Видання Fortune повідомило про чат з позначкою «shared by Anthropic» (надано Anthropic), в якому генерувалася еротична література. Це порушує політику Anthropic, яка забороняє зміст сексуального характеру. Неясно, як модель обійшла свої фільтри безпеки у цьому конкретному випадку, чи чому чат залишився у відкритому доступі.
Anthropic не прокоментувала конкретний випадок із відвертим контентом.
Роль Google
Представник Google Нед Адріанс відкинув ідею, що Google несе одноосібну відповідальність за ситуацію.
“Ні Google, ні якісь інші пошукові системи не контролюють, які файли стають публічними в мережі”, – повідомив Адріанс TechCrunch. “Ми надаємо власникам сайтів чіткі інструменти управління… і завжди поважаємо ці директиви”.
Google стверджує, що якщо сторінка публічно доступна в Інтернеті, вона є об’єктом індексації. Якщо власник сайту не використовує тег noindex, Google припускає, що він хоче, щоб сторінку бачили.
Це не перший випадок, коли Claude потрапляв до індексу Forbes. Минулого року вони повідомляли про схожий інцидент, коли Google проіндексував менше 600 розмов. Вони зникли швидко.
Цього разу обсяг здався більшим. Декілька користувачів підтвердили, що знайшли спільні бесіди, використовуючи ті ж пошукові оператори.
Як перевірити свої налаштування
Якщо ви використовуєте Claude, у вас можуть бути випадкові витоку даних.
Щоб перевірити, які чати встановлені у публічному режимі:
1. Перейдіть до Settings (Налаштування).
2. Перейдіть до розділу Privacy (Конфіденційність).
3. Натисніть Shared Chats (Загальні чати).
Тут можна переглянути активні посилання. Якщо ви бачите щось, що не бажаєте бачити у відкритій мережі, негайно видаліть або вимкніть їх.
Інтернет голосніше, ніж ми думаємо. Той факт, що функція позначена як share (поділитися), не означає, що вона залишиться тільки в груповому чаті. У веб-просторі кнопка «поділитися» — це віщальна вежа.
Чи впевнені ви, хто слухає?
За даними тестового пошуку TechCrunch, сторінки, здавалося, зникли у другій половині дня у понеділок. Але посилання вже могли бути зібрані в базу даних. Архівовані. Поділені знову.
Дані вже у мережі. Вони просто більше не видно випадковому відвідувачеві.
