Adolescentes processam IA de Musk por imagens pornográficas

Três adolescentes do estado do Tennessee, nos Estados Unidos, entraram com uma ação judicial contra a xAI, empresa de inteligência artificial de Elon Musk, acusando o chatbot Grok de gerar imagens pornográficas a partir de fotos reais. O processo foi apresentado na última segunda-feira (17) em um tribunal federal de San José, na Califórnia.

A ação tem potencial para se tornar um processo coletivo com mais de mil vítimas, incluindo menores de idade. O caso está relacionado à disseminação de deepfakes hiper-realistas, especialmente durante o período do Ano-Novo, envolvendo mulheres e adolescentes em conteúdos sexualizados.

Segundo a denúncia, um suspeito  já detido teria utilizado o sistema para transformar imagens comuns retiradas de redes sociais e álbuns escolares em conteúdo explícito. As montagens foram compartilhadas em plataformas como X, Discord e Telegram e também passaram a circular na dark web, sendo usadas como moeda de troca para outros materiais ilegais.

As advogadas das vítimas alegam que a xAI não adotou mecanismos de segurança suficientes para impedir esse tipo de uso da ferramenta, ao contrário de outras empresas do setor. O caso reacende o debate sobre os limites da inteligência artificial e a proteção de crianças e adolescentes no ambiente digital.