A Suprema Corte do Novo México aplicou uma multa e declarou em desacato um advogado de defesa que usou o ChatGPT para elaborar um recurso de apelação criminal.O programa da OpenAI inventou depoimentos policiais e criou testemunhas fictícias para um processo de assassinato. A punição ocorreu depois que o profissional apresentou o material ao tribunal sem verificar a precisão das informações.Inteligência artificial criou depoimentos falsos e chegou a descrever roupas de um atirador inexistente. – Imagem: Mijansk786/ShutterstockDepoimentos falsos e testemunhas inventadasO caso envolve a apelação de Oscar Renee Sandoval, condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Ao assumir o recurso, o advogado Stephen Aarons alimentou o ChatGPT com uma transcrição gerada por computador e outros materiais do julgamento, esperando obter um resumo confiável.Leia mais:OpenAI suspende novas assinaturas do ChatGPT Pro após enorme demanda pelo AstraOpenAI pede regras obrigatórias de segurança para IA nos EUAIA cria ataque que pode hackear celulares sem nenhum cliqueO resultado incluiu declarações que nunca foram feitas e testemunhas que jamais existiram. Entre os exemplos apontados pela Suprema Corte estava uma afirmação de que o atirador vestia calça escura e camisa branca.A corte afirmou que o recurso continha “falso testemunho de testemunhas totalmente inventadas”.A Suprema Corte aplicou a Aarons uma multa de US$ 5 mil e informou que encaminhará o caso a um órgão disciplinar da advocacia para investigação. Os ministros também afirmaram que o advogado demonstrou falta de arrependimento e preocupação insuficiente com seu cliente.Advogado diz que não conhecia as “alucinações” da IADurante uma audiência em 21 de agosto, Aarons disse que havia alimentado o ChatGPT com os materiais do processo porque acreditava que a ferramenta produziria um resumo “à prova de falhas”. Ele afirmou não compreender até que ponto a inteligência artificial poderia inventar informações.Em declaração à Reuters, o advogado reconheceu o erro e disse esperar que o conselho disciplinar considere que não houve intenção de enganar o tribunal:“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto.”A juíza C. Shannon Bacon demonstrou incredulidade diante da explicação e questionou o advogado sobre seu conhecimento a respeito das falhas da inteligência artificial.“Advogado, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo?”Casos anteriores: Dezenas de advogados já foram punidos por apresentar documentos em que a IA inventou citações de processos ou interpretou incorretamente a legislação.Gravidade do caso: O recurso de Aarons foi além desses erros ao incluir testemunhos fictícios em uma apelação criminal.Andamento do processo: A apelação de Sandoval continua pendente e, em 2 de setembro, passou a ser conduzida pela defensora pública Kim Chavez Cook.Advogado alegou erro involuntário e afirmou não conhecer a capacidade da IA de fabricar dados. – Imagem: Layse Ventura via Gemini / Olhar DigitalDecisão reforça alerta para o setorA punição se soma a uma sequência de casos em que tribunais estaduais e federais dos Estados Unidos sancionaram advogados por apresentar documentos produzidos por inteligência artificial sem verificar adequadamente o conteúdo. O caso de Aarons chama atenção porque as informações inventadas não se limitaram a referências jurídicas: chegaram a incluir depoimentos e testemunhas inexistentes em um processo criminal.A OpenAI não respondeu imediatamente ao pedido de comentário da Reuters. A apelação de Sandoval continua em andamento.O post ChatGPT inventa testemunhas e depoimentos em recurso e advogado é punido apareceu primeiro em Olhar Digital.