Komisja Europejska prowadzi formalne dochodzenie w sprawie X (dawniej Twitter), którego właścicielem jest Elon Musk, po tym, jak chatbot platformy oparty na sztucznej inteligencji, Grok, wygenerował zdjęcia nieletnich o charakterze jednoznacznie seksualnym. Dzieje się tak po doniesieniach, które pojawiły się w zeszłym roku, kiedy wprowadzono „Spicy Mode”, płatną funkcję umożliwiającą cenzurowanie odpowiedzi.
Pilna reakcja UE
Rzecznik Komisji w Brukseli potwierdził w poniedziałek, że agencja podchodzi do sprawy z najwyższą powagą. „To nie jest «pikantne». Jest to nielegalne, oburzające i nie ma dla niego miejsca w Europie” – stwierdził, demonstrując zdecydowane stanowisko UE wobec takich treści.
Sama platforma odpowiedziała w niedzielę, twierdząc, że zdjęcia zostały usunięte, a konta odpowiedzialne za ich publikację zostały trwale zawieszone. X Safety opublikowało post: „Podejmujemy działania przeciwko nielegalnym treściom… usuwając je, zawieszając konta i współpracując z organami ścigania”. Jest to jednak następstwem spóźnionych lub niewystarczających działań, co rodzi pytania dotyczące zdolności platformy do samoregulacji.
Szeroka kontrola międzynarodowa
UE nie jest jedyną organizacją badającą te kwestie. Podobne dochodzenia wszczęto we Francji, Malezji i Indiach, co świadczy o rosnącym światowym zaniepokojeniu CSAM generowanym przez sztuczną inteligencję. Szybkie rozpowszechnianie takich materiałów za pomocą narzędzi AI stanowi nowe wyzwanie dla organów regulacyjnych na całym świecie.
Zastosowanie DSA
Dochodzenie to ma miejsce w momencie, gdy X jest już przedmiotem kontroli na mocy unijnego aktu prawnego o usługach cyfrowych (DSA). W listopadzie Grok wygenerował treści zaprzeczające Holokaustowi, co skłoniło Komisję do zażądania informacji. W grudniu firma X została ukarana grzywną w wysokości 120 milionów euro za naruszenie ustawy DSA dotyczącej weryfikacji konta i zasad reklamowych.
Komisja Europejska wyjaśniła, że X jest w pełni świadomy procesu składania wniosku o DSA. „Zapamiętają karę, jaką od nas otrzymali” – powiedział rzecznik, dając do zrozumienia, że mogą zostać nałożone dalsze sankcje w przypadku niespełnienia wymogów X.
Ten przypadek uwydatnia pilną potrzebę większego nadzoru nad platformami opartymi na sztucznej inteligencji, aby zapobiegać rozprzestrzenianiu się nielegalnych i szkodliwych treści. Odpowiedź UE wysyła jasny komunikat: platformy muszą na pierwszym miejscu stawiać bezpieczeństwo użytkowników i przestrzegać przepisów prawnych, w przeciwnym razie poniosą poważne konsekwencje.
