Governo e MP recomendam que X bloqueie uso do Grok para gerar conteúdo sexual indevido

A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) recomendaram que a empresa controladora da plataforma X adote medidas para impedir o uso indevido do Grok, ferramenta de inteligência artificial do serviço, na geração e circulação de conteúdos sexualizados indevidos.

O documento divulgado nesta terça-feira (20) orienta que, em até 30 dias, a plataforma crie procedimentos técnicos e operacionais para identificar, revisar e remover publicações desse tipo que ainda estejam disponíveis no X, quando geradas pelo Grok a partir de comandos realizados por usuários.

As instituições também recomendaram a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas maiores de idade, quando feitas sem autorização com o uso da ferramenta.

Outra exigência é a implantação de um mecanismo “transparente, acessível e eficaz” para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, sobretudo em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, com resposta adequada em prazo razoável.

As recomendações foram elaboradas após denúncias de usuários sobre geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Também foram consideradas reportagens da imprensa nacional e internacional e testes feitos pelas instituições, que apontaram o uso da ferramenta para produção de deepfakes, técnica de IA que cria imagens falsas com base em pessoas reais. Segundo o documento, os conteúdos identificados envolvem mulheres, crianças e adolescentes e apresentam conotação sexual, erótica e pornográfica.

Os órgãos alertam que esse tipo de material pode afetar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos coletivos e individuais, especialmente de mulheres, crianças e adolescentes. Entre as recomendações conjuntas, está a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados.

O documento também pede que sejam bloqueadas criações que envolvam pessoas maiores de idade identificadas ou identificáveis em contextos sexualizados, sem autorização.

As instituições afirmam ainda que, embora o artigo 19 do Marco Civil da Internet preveja que provedores não sejam responsabilizados por conteúdo publicado por terceiros sem decisão judicial, a remoção deve ocorrer neste caso. Isso porque as deepfakes não seriam produzidas apenas por terceiros, mas por interação entre usuários e a ferramenta de IA disponibilizada pelo X, o que tornaria a empresa “coautora” desses conteúdos, e não apenas intermediária.

O texto cita, ainda, que o Supremo Tribunal Federal (STF) declarou parcialmente inconstitucional o artigo 19 do Marco Civil, por considerar que ele “não oferece proteção suficiente a direitos constitucionais relevantes”, e fixou que plataformas têm dever de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos de violência contra mulheres.

As recomendações lembram também que a própria política do X sobre nudez não consensual proíbe a publicação e o compartilhamento de imagens explícitas feitas ou divulgadas sem consentimento, além de vedar a manipulação e disseminação de imagens sexualizadas de terceiros envolvendo o Grok. Para as instituições, isso torna “insustentável” a disponibilização de uma ferramenta de IA sem filtros rigorosos que favoreçam esse tipo de conduta.

Segundo o documento, caso as recomendações não sejam cumpridas ou sejam aplicadas de forma insuficiente, novas medidas administrativas ou judiciais poderão ser adotadas para garantir a proteção de cidadãos, especialmente mulheres, crianças e adolescentes.