O Superior Tribunal de Justiça (STJ) multou em R$ 20 mil advogados que esconderam instruções em uma petição para influenciar a inteligência artificial usada pelo tribunal. A prática, conhecida como prompt injection, foi considerada uma tentativa ilícita de interferir na estrutura tecnológica da Justiça.A 1ª Turma também determinou o envio das peças à OAB do Paraná e ao Ministério Público Federal. Segundo a fonte, essa é a maior multa aplicada pelo STJ em um caso de tentativa desse tipo.O uso de inteligência artificial é permitido em peças, mas tentar enganar os algoritmos da Corte é ilícito. – Imagem: Digineer Station/ShutterstockComo funciona o ataque com comandos ocultosO prompt injection é uma técnica que tenta direcionar as respostas de uma inteligência artificial por meio de instruções inseridas em textos. Em vez de apenas analisar o conteúdo solicitado, o sistema pode ser induzido a seguir comandos maliciosos que tentam alterar o resultado da tarefa.No caso julgado pelo STJ, os advogados distribuíram instruções ocultas em diferentes pontos de uma página da petição de recurso especial. Uma delas foi inserida na faixa decorativa do rodapé, na mesma cor do elemento gráfico, o que impedia sua leitura a olho nu.Os comandos buscavam favorecer a argumentação dos próprios advogados. Entre as orientações, havia pedidos para que a IA considerasse que o acórdão questionado desrespeitou os limites da coisa julgada e concluísse que o recurso deveria ser integralmente aceito.O risco está na possibilidade de a ferramenta interpretar essas instruções como parte legítima da tarefa, em vez de reconhecer que alguém está tentando manipular sua análise. A técnica explora justamente a dificuldade de separar o conteúdo que deve ser examinado das ordens inseridas para influenciar a resposta.Quais são os riscos para decisões e documentosQuando uma IA é usada para examinar documentos ou produzir recomendações, comandos maliciosos podem comprometer a análise se o sistema não conseguir identificá-los adequadamente. Em um contexto jurídico, isso poderia afetar a interpretação de argumentos, a síntese de informações e as recomendações produzidas para auxiliar o trabalho humano.Entre os riscos possíveis estão:Análises jurídicas enviesadas: instruções ocultas podem favorecer uma interpretação específica dos argumentos apresentados.Resumos distorcidos: informações relevantes podem receber menos atenção se a ferramenta for influenciada por comandos inseridos no documento.Recomendações comprometidas: respostas geradas pela IA podem se afastar dos critérios previstos para a tarefa.Quando uma IA é usada para analisar documentos jurídicos, comandos ocultos podem enviesar a interpretação de argumentos, distorcer resumos ou influenciar recomendações. Isso pode comprometer a confiabilidade das informações produzidas pelo sistema.O relator, ministro Paulo Sérgio Domingues, classificou a conduta como de gravidade acentuada e considerou a multa elevada uma “resposta à altura”.A camuflagem de textos digitais abre novas discussões sobre a segurança dos sistemas automatizados de julgamento. – Imagem: TANYARICO / ShutterstockSTJ diferencia manipulação do uso legítimo da IAA decisão não proíbe advogados de utilizar inteligência artificial na elaboração de documentos jurídicos. O tribunal distinguiu o uso da tecnologia como ferramenta de apoio da inserção clandestina de comandos destinados a influenciar o sistema empregado pelo órgão julgador.A decisão afirma que não pretende coibir o uso de IA na preparação de documentos jurídicos, mas impedir que essas ferramentas sejam empregadas ilicitamente para transmitir comandos velados à inteligência artificial do tribunal, com o objetivo de afetar sua estrutura tecnológica.Além da multa de R$ 20 mil, o colegiado determinou o envio das peças à OAB do Paraná, para avaliação de possíveis sanções administrativas, e ao Ministério Público Federal, para análise de eventuais implicações criminais. A fonte também informa que o Supremo Tribunal Federal já havia multado um advogado por motivo semelhante, em decisão do ministro Alexandre de Moraes.O post STJ multa advogados por tentar manipular IA com comandos ocultos apareceu primeiro em Olhar Digital.