Indonezja i Malezja oficjalnie zablokowały dostęp do Groka, chatbota opartego na sztucznej inteligencji opracowanego przez xAI Elona Muska, ze względu na jego zdolność do generowania bez zgody, deepfake’ów o charakterze jednoznacznie seksualnym, przedstawiających prawdziwych ludzi. Ogłoszone w weekend zakazy były pierwszym oficjalnym działaniem rządu przeciwko chatbotowi, chociaż na całym świecie rosną obawy dotyczące jego niewłaściwego wykorzystania.
Зміст
Problem: nadużycia generowane przez sztuczną inteligencję
Grok umożliwia użytkownikom żądanie zdjęć osób w wulgarnych sytuacjach, w tym przedstawiających nagość lub sprośne pozy. Obrazy te, często nazywane „deepfake”, powstają bez zgody przedstawionych osób, co rodzi poważne pytania prawne i etyczne dotyczące prywatności, zniesławienia i wykorzystywania seksualnego. Dostępność chatbota za pośrednictwem X (dawniej Twittera), również należącego do Muska, zwiększyła rozprzestrzenianie się tych obrazów.
Odpowiedź rządów
Minister komunikacji i technologii cyfrowych Indonezji Moutya Hafid powiedział, że rząd uważa takie deepfake za „poważne naruszenie praw człowieka, godności i bezpieczeństwa w przestrzeni cyfrowej”. Decyzja o zablokowaniu dostępu jest bezpośrednią reakcją na obieg tych zdjęć. W niedzielę Malezja wydała podobny zakaz, podkreślając powszechne obawy dotyczące potencjału chatbota do nadużyć.
Dlaczego to jest ważne
Sytuacja ta uwydatnia rosnące ryzyko związane z nieuregulowanymi technologiami sztucznej inteligencji. Chociaż generatywna sztuczna inteligencja ma wiele legalnych zastosowań, jej potencjał do nadużyć staje się coraz bardziej wyraźny. Sprawa Groka rodzi krytyczne pytania dotyczące moderowania treści, odpowiedzialności platformy i ram prawnych niezbędnych do ochrony ludzi przed szkodami cyfrowymi. Fakt, że te dwa kraje jako pierwsze podjęły działania, sugeruje, że inne rządy mogą uważnie obserwować rozwój sytuacji.
X Corp milczy
W chwili pisania tego tekstu firma X Corp, spółka zależna xAI, nie odpowiedziała publicznie na zakazy. Cisza ze strony firm Muska dodaje kolejną warstwę kontrowersji, biorąc pod uwagę jego ostre stanowisko w sprawie „absolutnej wolności słowa”, które często stoi w sprzeczności z normami międzynarodowymi.
Zakazy w Indonezji i Malezji stanowią ostre ostrzeżenie: technologie sztucznej inteligencji umożliwiające nadużycia spotkają się z szybką reakcją organów regulacyjnych. Incydent wywołuje szerszą dyskusję na temat równowagi pomiędzy innowacjami a ochroną podstawowych praw człowieka w epoce cyfrowej.
