OAB e Jusbrasil lançam ferramenta contra comandos ocultos em petições

O Jusbrasil e o Colégio de Presidentes das Seccionais da OAB lançaram uma plataforma pública e gratuita voltada à identificação de indícios de prompt injection em documentos jurídicos. A ferramenta foi criada para auxiliar advogados, magistrados e demais operadores do Direito a detectar instruções ocultas capazes de interferir no funcionamento de sistemas de inteligência artificial utilizados no Judiciário.

Disponível gratuitamente na internet, a plataforma permite que usuários submetam documentos para análise antes do protocolo ou compartilhamento do arquivo. A tecnologia funciona como uma etapa preventiva, verificando a presença de elementos potencialmente maliciosos que podem não ser percebidos na visualização comum de uma petição ou de outro documento jurídico.

De acordo com o Jusbrasil, a ferramenta conta com sete camadas de análise para identificar trechos suspeitos e possíveis instruções ocultas. Ao final da verificação, o sistema apresenta os pontos encontrados, com classificação e explicação sobre o conteúdo detectado. A empresa afirma que os documentos enviados para a plataforma não são usados para treinar modelos de inteligência artificial.

O lançamento ocorre em meio ao avanço do uso de inteligência artificial no Judiciário e ao aumento da preocupação com a segurança dos sistemas automatizados. O prompt injection consiste na inserção de comandos ocultos em documentos para tentar influenciar o comportamento de uma IA, induzindo a ferramenta a gerar análises enviesadas, ignorar informações ou favorecer determinada parte.

Casos recentes acenderam o alerta no meio jurídico. Em maio, decisões judiciais e auditorias identificaram comandos ocultos inseridos em petições com o objetivo de manipular ferramentas de IA utilizadas em processos. O Conselho Nacional de Justiça também aprovou orientação técnica recomendando medidas de proteção contra esse tipo de prática, incluindo filtros para identificar textos invisíveis e instruções maliciosas.

Para representantes da OAB, a iniciativa busca reforçar a ética, a segurança jurídica e a integridade dos documentos processuais. A expectativa é que a ferramenta ajude a prevenir tentativas de manipulação de sistemas de IA e incentive boas práticas no uso de tecnologia por profissionais do Direito.

Além da detecção de possíveis ataques, a plataforma pretende ampliar a conscientização sobre os riscos associados à inteligência artificial generativa no setor jurídico. Com o crescimento do uso dessas ferramentas em tribunais e escritórios, a adoção de mecanismos de prevenção passa a ser vista como uma etapa importante para preservar a confiabilidade dos processos e das decisões judiciais.