Нещодавно Apple розпочала серйозне протистояння з компанією xAI Ілона Маска, щоб вирішити проблему стрімкого поширення сексуалізованих дипфейків, створених без згоди учасників. Ці зображення генеруються Grok – інструментом штучного інтелекту, інтегрованим у платформу X (колишній Twitter).
Згідно з новими звітами, Apple пригрозила заблокувати Grok в App Store, якщо розробник не впровадить більш суворі заходи захисту для запобігання створенню шкідливого контенту, згенерованого ІІ.
Зміст
Конфлікт: Безпека проти функціональності
Напруженість викликана здатністю Grok генерувати не тільки текст, але також зображення та відео. З кінця минулого року користувачі використовують ці можливості для створення відвертих, несанкціонованих зображень реальних людей, включаючи жінок та дітей, які потім широко розповсюджуються в X.
Згідно з документами, представленими сенаторами США, Apple зайняла жорстку позицію:
– Дотримання правил: Apple заявила, що додатки, які генерують та поширюють подібний контент, порушують основні правила платформи.
– Ультиматум: Apple попередила xAI, що Grok буде видалено з App Store, якщо компанія не вирішить проблему кризи дипфейків.
– Рішення (на даний момент): Після циклу відмов та доробок Apple схвалила нову версію програми Grok, зазначивши, що програмне забезпечення «суттєво покращилося».
Постійні ризики та тиск регуляторів
Незважаючи на те, що Apple схвалила останнє оновлення ПЗ, битва ще далека від завершення. Нещодавнє розслідування NBC News показує, що сексуалізовані зображення, створені ІІ за допомогою Grok, як і раніше, виробляються і поширюються в інтернеті. Це вказує на те, що хоча технічні «фільтри» і були додані, вони ще не є бездоганними.
Ця тривала проблема привернула пильну увагу законодавців:
– Контроль Конгресу: Сенатори Рон Уайден і Бен Рей Лухан закликали технологічних гігантів взяти на себе відповідальність за «погане поширення» зображень, створених без згоди осіб.
– Проблема відповідальності: У той час як Apple відкрито заявляє про свої заходи щодо забезпечення безпеки, законодавці критикують Google за відсутність дій у відповідь і висловлюють невдоволення відсутністю юридичної відповідальності X за поширення подібного матеріалу.
Позиція захисту xAI
У відповідь на скандал, що виник, компанія xAI стверджує, що в неї впроваджено «великі заходи захисту». Компанія заявляє про використання таких методів:
– Постійний моніторинг громадського використання.
– Аналіз спроб обходу фільтрів як реального времени.
– Часті оновлення моделей та фільтрація запитів (промптів).
Офіційно компанія заявляє, що суворо забороняє генерацію відвертих дипфейків без згоди учасників, а також використання інструментів для «роздягання» реальних людей.
Чому це важливо
Ця ситуація підкреслює зростаючу кризу в технологічній індустрії: ** гру в «кішки-мишки» ** між розробниками ІІ та регуляторами безпеки. У міру того, як генеративний ІІ стає все більш досконалим, методи обходу фільтрів безпеки також стають все більш витонченими.
Протистояння між Apple і xAI створює важливий прецедент, що визначає, який ступінь відповідальності несуть платформи-«брамники» (такі як App Store) за контент, створюваний сторонніми інструментами ІІ. Якщо заходи захисту продовжать давати збої, тиск з метою запровадження ще більш агресивної цензури чи суворого федерального регулювання, швидше за все, посилиться.
Висновок: Хоча Apple дозволила Grok залишитися на своїй платформі після нещодавніх оновлень, поява сексуалізованих дипфейків, що продовжується, свідчить про те, що технічна і етична битва за безпеку ІІ тільки починається.
