Advogados inserem textos invisíveis com comandos a sistemas de IA em petições para tentar obter decisões favoráveis, preocupando tribunais em diferentes estados do Brasil.
Nos tribunais brasileiros, a disseminação da inteligência artificial no Judiciário trouxe avanços, mas também desafios inéditos. Recentemente, casos em São Paulo, Pará, e Minas Gerais revelaram tentativas de manipular sistemas automatizados por meio de comandos ocultos em documentos processuais.
Esses comandos, escritos em fontes na cor branca ou escondidos em arquivos, visam induzir a IA a tomar decisões favoráveis sem a detecção humana. A prática, chamada tecnicamente de prompt injection, representa um risco crescente no uso da tecnologia.
Este conteúdo explica como essa manipulação tem sido identificada, suas consequências e as medidas que tribunais e especialistas adotam para combater essa ameaça, conforme informação divulgada pelo G1.
Prompt injection: o perigo dos comandos escondidos em documentos judiciais
No Tribunal de Justiça de São Paulo (TJSP), um documento com texto em fonte branca em uma página branca continha instruções explícitas para a IA deferir justiça gratuita e tutela de urgência sem que juízes vissem o conteúdo. O trecho foi descoberto durante a análise cuidadosa de uma petição inicial de 2025.
O juiz Diego Marcussi solicitou explicações ao advogado João Vitor Rezende, autor da petição, alertando que a tentativa representava uma tentativa de influenciar decisores judiciais por meios automatizados sem transparência. O TJSP ressaltou que esse tipo de manipulação foi identificado graças ao uso adequado e supervisionado das ferramentas de IA.
O Conselho Nacional de Justiça (CNJ) determina que decisões não podem ser tomadas exclusivamente por IA, sujeitando a revisão humana obrigatória, mas o avanço do uso dessas ferramentas eleva o risco de ataques disfarçados como esses.
Casos em outros estados e as consequências legais
Além de São Paulo, tribunais do Pará, Minas Gerais e Paraíba também identificaram casos semelhantes. No Pará, advogadas receberam multas pesadas após o Tribunal Regional do Trabalho da 8ª Região detectar comandos ocultos que pediam para a IA contestar petições superficialmente, ignorando documentos importantes.
Em Minas Gerais, um advogado foi multado com R$ 8,1 mil após um comando oculto ser detectado em recurso contra o Banco BMG, orientando a IA a sempre favorecer o autor em detrimento do banco. O profissional alegou tratar-se de um erro técnico, mas o episódio reforça os desafios na segurança dos sistemas.
O Superior Tribunal de Justiça (STJ) abriu investigação para apurar tentativas de fraudes usando IA, evidenciando que a manipulação dessas tecnologias é um fenômeno que preocupa as cortes superiores do país.
Impactos e desafios no uso da IA no Judiciário
Especialistas alertam que esses incidentes são apenas a ponta do iceberg diante do uso massivo da IA nas cortes brasileiras, que já alcança 60% dos tribunais segundo pesquisa coordenada por Dierle Nunes e o ministro Luis Felipe Salomão em 2025. Na prática, a presença da IA pode chegar a 100% em vários locais, mesmo usando sistemas externos.
O advogado e professor Dierle Nunes destaca a necessidade de implementar mecanismos rigorosos para filtrar e verificar os dados recebidos pelas IAs, evitando que comandos maliciosos influenciem decisões judiciais. Ele também ressalta que a velocidade da adoção da tecnologia não foi acompanhada de treinamentos e reorganizações estruturais adequadas.
O juiz federal Rafael Leite enfatiza a existência de uma guerra entre atacantes e defensores dos sistemas, com avanços em ferramentas para identificar e neutralizar o chamado “envenenamento” da IA, como o sistema Galileu no TRT4.
O futuro da inteligência artificial no Judiciário
Apesar dos riscos evidentes, juristas e magistrados não são pessimistas quanto ao uso da inteligência artificial na Justiça. Acreditam que com supervisão humana eficiente e processos meticulosos de segurança, a injeção de comandos maliciosos poderá ser controlada.
Rafael Leite lembra que o uso da IA visa beneficiar o cidadão, acelerando análises e garantindo que nenhum documento importante fique sem ser notado. Ainda assim, o debate sobre o equilíbrio entre inovação e segurança é urgente e fundamental para garantir a confiança nas decisões judiciais.
Esses casos revelam que, apesar das ferramentas avançadas, o controle humano permanece essencial para assegurar um Judiciário justo e confiável diante da rápida transformação digital.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
