A ação judicial coletiva, que poderá abranger mais de mil vítimas menores, está diretamente relacionada com a proliferação, por altura do Ano Novo, de montagens hiper-realistas (deepfake, em inglês) de mulheres e crianças nuas, o que suscitou uma onda de indignação a nível mundial e a abertura de inquéritos em vários países e no estado da Califórnia.

A queixa, apresentada num tribunal federal de San José (Califórnia), cita o caso de um autor — entretanto detido — que utilizou o Grok para transformar fotografias comuns de jovens raparigas, tiradas nas redes sociais ou em álbuns escolares, em imagens sexualizadas hiper-realistas.

Essas montagens circularam posteriormente no X (antigo Twitter), Discord e Telegram, tendo depois migrado para a 'dark web', servindo de moeda de troca para outros conteúdos de pornografia infantil, relata a queixa, segundo as advogadas que representam as três adolescentes.

"Ver a minha filha a ter um ataque de pânico ao perceber que estas imagens tinham sido criadas e divulgadas sem esperança de as apagar foi devastador", declarou a mãe de uma delas, citada num comunicado divulgado pelas advogadas.

A xAI "concebeu deliberadamente o Grok para produzir conteúdos sexualmente explícitos com fins lucrativos", sem implementar as medidas de proteção utilizadas por outros grandes intervenientes no setor da IA contra a pornografia infantil, denunciam as advogadas.

A queixa baseia-se, nomeadamente, em duas leis federais norte-americanas: a lei Masha, que permite às vítimas de pornografia infantil obter uma indemnização, e a lei sobre a proteção das vítimas de tráfico de seres humanos.

As queixosas reclamam uma indemnização e pedem que a xAI seja impedida de permitir este tipo de montagens.

As plataformas estão amplamente isentas de responsabilidade nos Estados Unidos pelo conteúdo publicado pelos utilizadores. Mas "sem a xAI, esses conteúdos ilegais nunca teriam podido existir", argumenta Annika K. Martin, advogada do escritório Lieff Cabraser.

De acordo com um estudo do Center for Countering Digital Hate (CCDH), o Grok terá gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no final de 2025, das quais 23.000 representavam menores.

Perante a onda de indignação, a xAI restringiu, em meados de janeiro, a geração de imagens com o Grok apenas aos seus assinantes pagantes e garantiu bloquear a geração de imagens sexualizadas "nas jurisdições onde tal é ilegal".

Elon Musk, que se pronuncia diariamente no X, critica as regulamentações dos governos, acusados de quererem "suprimir a liberdade de expressão".

Siga-nos nas redes sociais