Juiz robô? Tribunal argentino anula sentença com citações falsas de IA

O dia em que o ChatGPT virou juiz (e errou feio)

Imagine um juiz que, em vez de estudar jurisprudência, pede para uma IA escrever a sentença. Parece ficção científica, mas aconteceu na Argentina. Um tribunal anulou uma decisão porque o magistrado incluiu citações jurídicas que simplesmente não existiam – foram inventadas por um modelo de linguagem.

O caso, repercutido pelo IAPP Daily Dashboard, expõe um problema crescente: a IA pode ser uma ferramenta incrível, mas também uma máquina de mentir com confiança. E no Direito, confiança é tudo.

O que aconteceu no tribunal argentino?

Um juiz de primeira instância usou um sistema de IA (provavelmente um modelo como o GPT) para redigir parte de uma sentença. O problema? As citações de leis e precedentes estavam erradas – algumas eram completamente fictícias. Quando o caso foi para apelação, o tribunal superior percebeu a fraude e anulou a decisão.

O tribunal deixou claro: “A IA pode ser usada como auxílio, mas não substitui a verificação humana das fontes.” Parece óbvio, mas o caso mostra que até juízes podem cair na armadilha de confiar cegamente na tecnologia.

Por que isso é um marco?

Esta é uma das primeiras decisões judiciais no mundo a anular uma sentença por uso indevido de IA. O precedente argentino pode influenciar outros países, especialmente na América Latina, onde a digitalização do Judiciário avança rápido.

Para advogados, o recado é claro: verificar fontes é obrigação ética, não opcional. Usar IA para redigir petições ou sentenças sem checar os resultados é negligência profissional. Como diz o velho ditado: confie, mas verifique. Com IA, verifique duas vezes.

O lado cômico (e preocupante)

É quase irônico: a IA, que promete revolucionar o Direito, está criando um novo tipo de erro – o “alucinação jurídica”. É como pedir para um assistente virtual pesquisar a lei e ele inventar uma “Lei do Chocolate Obrigatório”. Engraçado? Só se não for sua sentença.

Mas a situação também revela um problema cultural: a pressa em adotar tecnologia sem treinamento adequado. Juízes e advogados precisam entender que IA não é oráculo, é calculadora de probabilidades. E calculadoras também erram – especialmente quando alimentadas com dados ruins.

Lições práticas para evitar o próximo caso

• Nunca confie cegamente em citações geradas por IA: sempre verifique a fonte original. Se a IA citar uma lei, vá até o diário oficial e confira.
• Documente o uso de IA: se você usou IA para redigir um documento, informe nos autos. Transparência evita surpresas.
• Invista em treinamento: não adianta ter a melhor ferramenta se ninguém sabe usar. Cursos de ética digital são essenciais.
• Cobre responsabilidade dos tribunais: se o Judiciário vai usar IA, que seja com protocolos claros de verificação.

O futuro da IA no Direito

Casos como o argentino não vão parar o avanço da IA nos tribunais – e nem deveriam. A tecnologia pode acelerar pesquisas, reduzir custos e até melhorar a consistência das decisões. Mas o preço é a vigilância constante.

O maior risco não é a IA substituir juízes, mas sim os juízes terceirizarem o raciocínio jurídico para máquinas. Como disse o tribunal argentino: “A IA é uma ferramenta, não um substituto para o juiz.” No fim, a responsabilidade pela decisão é sempre humana.

Então, da próxima vez que você pedir para o ChatGPT redigir uma petição, lembre-se: ele pode ser rápido, mas não sabe o que é ética. Isso é trabalho seu.