Grok restringe gerador de imagens após protestos, mas mantém falhas com conteúdo sexualizado

O Grok, ferramenta de inteligência artificial associada a Elon Musk, passou a restringir sua função de criação de imagens na plataforma X após uma onda de protestos sobre o uso do recurso para gerar imagens sexualmente explícitas e violentas. Apesar das limitações anunciadas, testes indicam que a IA ainda atende a pedidos para criar imagens sexualizadas de mulheres famosas.

Antes das mudanças, usuários utilizavam com frequência o gerador para manipular imagens de mulheres publicadas na rede social, removendo roupas, inserindo biquínis ou colocando-as em posições sexualizadas. Após questionamentos de órgãos reguladores, incluindo a Comissão Europeia e autoridades do Reino Unido, a plataforma implementou ajustes que reduziram significativamente o acesso ao recurso para a maioria dos usuários.

Atualmente, existem duas formas principais de utilizar o Grok para gerar imagens: por meio de respostas a publicações no X, mencionando o robô e solicitando que use o conteúdo como referência, ou pelo aplicativo próprio do Grok, disponível na área de criação de postagens. A primeira opção, amplamente usada para manipular imagens de mulheres, foi desativada para usuários que não assinam o serviço pago.

Quem possui assinatura do X Premium ainda pode usar o robô por meio de respostas, mas passa a ter dados pessoais e informações de cartão de crédito armazenados pela plataforma, o que facilita a identificação em caso de uso indevido. Segundo a reportagem da CBN, a mudança dificulta ações mal-intencionadas baseadas em imagens publicadas na rede social.

Apesar disso, testes indicaram que o gerador de imagens disponível no aplicativo do Grok ainda executa comandos para criar imagens sexualizadas de mulheres famosas, conhecidas previamente pela IA, mantendo brechas no controle do conteúdo produzido.

Uma pesquisa da AI Forensics, organização sem fins lucrativos sediada em Paris, identificou cerca de 800 imagens e vídeos criados pelo aplicativo Grok Imagine, acessado fora do X, que continham conteúdo pornográfico. O pesquisador Paul Bouchaud afirmou: “São vídeos totalmente pornográficos e têm aparência profissional.”

Elon Musk enfrenta ameaças de ações regulatórias em diferentes países após o Grok ser utilizado para criar imagens sexuais não consensuais. Apesar de apelos públicos reiterados para remover ou restringir o recurso, as mudanças recentes representam as primeiras medidas adotadas pela plataforma para limitar o uso do gerador de imagens.