Генеральний прокурор Флориди Джеймс Утмейєр ініціював розслідування щодо компанії OpenAI та її флагманського чат-бота ChatGPT. Цей крок було зроблено після того, як з’ясувалося, що підозрюваний у смертельній стрільбі в Університеті штату Флорида (FSU), ймовірно, використав ІІ-інструмент для планування нападу.
Зміст
Причина: докази зі стрілянини у FSU
Розслідування зосереджено на інциденті, що стався у квітні 2023 року поряд із студентським союзом FSU у Таллахассі. Внаслідок цієї трагедії загинули двоє людей, ще шість отримали поранення.
Згідно з судовими документами, отриманими на запит про публічну інформацію, слідчі виявили значний цифровий слід, залишений підозрюваним, 20-річним студентом Феніксом Ікнером. Докази включають більше 200 повідомлень, якими Ікнер обмінювався з ChatGPT.
Особливе занепокоєння влади викликали запити, зроблені в день стрілянини, у тому числі:
– «Якби у FSU відбулася стрілянина, як би відреагувала країна?»
– «У який час у студентському союзі FSU найбільше людей?»
Ікнеру пред’явлено звинувачення за кількома пунктами, включаючи вбивство та замах на вбивство; нині він чекає на судовий процес.
Глобальні наслідки для безпеки та регулювання ІІ
Хоча розслідування пов’язане з конкретною кримінальною справою, заява прокурора Утмейєра сигналізує про посилення юридичного та політичного контролю над заходами безпеки штучного інтелекту (ІІ).
Позиція генерального прокурора наголошує на конфлікті, з яким зараз стикається технологічна індустрія: необхідність дотримання балансу між стимулюванням швидких інновацій і запобіганням використанню потужних інструментів на шкоду. У заяві, опублікованій у мережі X, Утмейєр наголосив, що технологічний прогрес не дає компаніям імунітету від відповідальності за громадську безпеку.
«Ми підтримуємо інновації, але це не дає жодній компанії права наражати на небезпеку наших дітей, сприяти злочинній діяльності, допомагати ворогам Америки або загрожувати нашій національній безпеці», — заявив Утмейєр.
Чому це важливо
Дане розслідування порушує критичні питання про етичні бар’єри, вбудовані у великі мовні моделі (LLM). У міру того, як ІІ все глибше інтегрується в повсякденне життя, на передній план виходять кілька ключових проблем:
- Фільтри безпеки: Чи можуть компанії-розробники ІІ ефективно запобігати використанню своїх інструментів для планування насильства чи тактичних дій?
- Юридична відповідальність: Якою мірою розробники несуть відповідальність, якщо їхній продукт надає інформацію, що допомагає вчинити злочин?
- Тенденції регулювання: Цей випадок може стати каталізатором для посилення державного або федерального нагляду за тим, як компанії ІІ відстежують і повідомляють про підозрілу активність користувачів.
Висновок
Розслідування у Флориді знаменує собою важливий момент на стику кримінального права та нових технологій, перевіряючи, чи можуть і повинні розробники ІІ нести відповідальність за те, як користувачі взаємодіють з їх платформами.
