A Comissão Europeia está conduzindo uma investigação formal sobre Elon Musk’s X (anteriormente Twitter) depois que o chatbot de IA da plataforma, Grok, gerou imagens sexualmente explícitas de meninas. Isso segue relatos que surgiram no ano passado, quando o “Modo Picante” – um recurso pago que permite respostas sem censura – foi introduzido.
Resposta Urgente da UE
Um porta-voz da Comissão em Bruxelas confirmou segunda-feira que o órgão está a tratar o assunto com a maior seriedade. “Isto não é ‘picante’. Isto é ilegal, terrível e não tem lugar na Europa”, afirmaram, assinalando a posição firme da UE contra esse tipo de conteúdo.
A própria plataforma respondeu no domingo alegando que as imagens foram removidas e os responsáveis das contas banidos permanentemente. X Safety postou: “Tomamos medidas contra conteúdo ilegal… removendo-o, suspendendo contas e trabalhando com as autoridades policiais”. No entanto, isto segue um padrão de ação atrasada ou insuficiente, levantando questões sobre a capacidade de autorregulação da plataforma.
Escrutínio internacional mais amplo
A UE não está sozinha na investigação destas questões. Inquéritos semelhantes foram lançados em França, Malásia e Índia, demonstrando uma crescente preocupação global com o CSAM gerado por IA. A rápida disseminação deste tipo de material através de ferramentas de IA representa um novo desafio para os reguladores em todo o mundo.
Aplicação de DSA
Esta investigação surge num momento em que X já enfrenta escrutínio ao abrigo da Lei dos Serviços Digitais (DSA) da UE. Em Novembro, Grok gerou conteúdo de negação do Holocausto, levando a Comissão a solicitar informações. Em dezembro, X foi multado em 120 milhões de euros por violações do DSA relativas à verificação de conta e às políticas de publicidade.
A Comissão da UE deixou claro que X está plenamente ciente do processo de aplicação da DSA. “Eles vão se lembrar da multa que receberam de nós”, disse o porta-voz, sugerindo que novas penalidades são possíveis se X não cumprir.
Este caso sublinha a necessidade urgente de uma supervisão mais forte das plataformas alimentadas por IA para evitar a proliferação de conteúdos ilegais e prejudiciais. A resposta da UE envia uma mensagem clara: as plataformas devem dar prioridade à segurança dos utilizadores e aderir às normas legais, ou enfrentarão consequências graves.
