Advogadas inseriram comando oculto em petição para induzir análise superficial da IA do TRT-8, prática conhecida como prompt injection, e foram penalizadas pelo juiz responsável.
O uso de um código secreto para manipular respostas de inteligências artificiais em processos judiciais chamou atenção com um caso no Pará. Duas advogadas foram multadas em R$ 84,2 mil após tentarem alterar o funcionamento da IA do Tribunal Regional do Trabalho da 8ª Região (TRT-8), em Parauapebas.
A técnica, denominada prompt injection ou injeção de comando, consiste em inserir textos enganosos para direcionar as respostas dos assistentes de IA, muitas vezes para induzir análises superficiais ou evitar a verificação de dados importantes. O episódio foi revelado após investigação e punição aplicadas pelo juiz Luis Carlos de Araujo Santos Júnior.
Confira a seguir detalhes sobre como funcionava o esquema, a punição e as implicações dessa prática ilegal segundo informações divulgadas pelo G1.
Como funcionava o código secreto para manipular a IA no tribunal
As advogadas Alcina Medeiros e Luanna Alves enviaram um arquivo PDF contendo um comando escondido em letras brancas sobre fundo branco. O texto solicitava que a inteligência artificial chamada Galileu, usada pelo TRT-8, analisasse a petição de forma superficial e não contestasse os documentos apresentados, independentemente de outros comandos.
Essa tentativa de alterar o comportamento da IA é uma forma de injection indireta, pois o comando estava inserido em um arquivo anexado para a análise da máquina, e não diretamente no sistema. O objetivo era fazer com que a inteligência artificial produzisse respostas rasas e ineficazes para defender os interesses dos clientes das advogadas.
Descoberta do plano e punição imposta pelo juiz
O tribunal conta com diversas camadas de segurança. Ao processar o documento, o Galileu identificou o comando oculto e alertou os operadores humanos do TRT-8, que verificaram a suspeita. Após a confirmação, o juiz Luis Carlos de Araujo Santos Júnior classificou a ação como um ato contra a dignidade da Justiça e aplicou uma multa de R$ 84,2 mil às advogadas.
Em nota, as profissionais afirmaram discordar da decisão e alegaram que não existiu intenção de manipular a decisão judicial, mas sim a tentativa de proteger o cliente da própria IA. Elas anunciaram que vão recorrer da multa.
O que é prompt injection e seus riscos para sistemas de IA
Prompt injection é uma técnica maliciosa que surgiu em meio ao crescimento do uso de IA para análise de dados. Ela consiste em inserir comandos disfarçados de texto normal para forçar a IA a executar ações indevidas ou ignorar controles de segurança.
Além do uso jurídico, hackers já aplicaram a técnica para tentar acessar dados confidenciais de empresas ou evitar os limites de segurança implantados por desenvolvedores. A falha foi identificada inicialmente em 2022 por pesquisadores de cibersegurança, que alertaram para os riscos dessa vulnerabilidade aos grandes modelos de linguagem.
Medidas e atenção para evitar novos casos no futuro
O TRT-8, com apoio do Tribunal Regional do Trabalho da 4ª Região, que desenvolveu o Galileu, reforça que as decisões tomadas após o alerta da IA sempre passam por análise humana rigorosa. Isso evita que respostas automatizadas causem prejuízos à justiça.
Especialistas alertam que o uso inadequado de assistentes de IA em processos judiciais pode comprometer a credibilidade e a segurança do sistema, por isso é fundamental o desenvolvimento constante de mecanismos para detectar e impedir ataques como o prompt injection.
O caso no Pará evidencia a necessidade de conscientização dos profissionais que usam inteligência artificial no direito para agir com ética e respeitar os limites tecnológicos, garantindo a transparência e a confiabilidade das decisões judiciais.
Com informações de G1
Aviso Legal:
O Noticias ES reúne, em um único lugar, as principais notícias publicadas pelos maiores portais do Espírito Santo. Organizamos e centralizamos as informações mais relevantes para que você acompanhe os acontecimentos do Estado com praticidade, transparência e respeito às fontes originais.
