Já existem casos, no Brasil e no exterior, de advogados punidos por citar jurisprudência que simplesmente não existe, gerada por uma IA que respondeu com total confiança a uma pergunta que não sabia responder. O termo técnico para isso é alucinação, e entender por que ela acontece é essencial para qualquer advogado que usa inteligência artificial no dia a dia.
O que é alucinação em IA
Alucinação é quando um modelo de linguagem gera uma informação que parece plausível e é apresentada com segurança, mas que é falsa, inventada ou não corresponde a nada real. Isso pode ser um número de processo que não existe, uma súmula que nunca foi editada, um artigo de lei com um texto diferente do original, ou uma citação atribuída a um autor que nunca escreveu aquilo.
O problema não é um "bug" isolado. É uma consequência de como esses modelos funcionam.
Por que os modelos de linguagem alucinam
Um modelo como o GPT ou o Claude não tem, por padrão, uma base de dados de leis e decisões judiciais que ele consulta antes de responder. Ele funciona prevendo, palavra por palavra, qual é o próximo token (fragmento de texto) mais provável, com base em padrões estatísticos aprendidos durante o treinamento.
Isso significa que quando você pergunta "qual jurisprudência do STJ trata de X", o modelo não busca a resposta em lugar nenhum. Ele gera a sequência de palavras que estatisticamente mais se parece com a resposta esperada, no formato correto de uma citação jurídica: número de processo, relator, ementa. Se o modelo tiver visto muitos exemplos parecidos no treinamento, o resultado pode até estar correto por coincidência. Mas ele não tem como saber, e nem verificar, se o processo daquele número realmente existe ou se aquela decisão foi realmente proferida daquela forma.
Em outras palavras: o modelo não está mentindo, porque mentir exige saber a verdade e dizer o contrário. Ele está gerando o texto mais provável, e "provável" não é o mesmo que "verdadeiro".
Por que isso é especialmente grave no Direito
Em outras áreas, uma alucinação pode gerar um texto estranho ou impreciso. No Direito, uma alucinação pode virar uma petição protocolada com jurisprudência inexistente, o que gera consequências concretas:
- Risco de litigância de má-fé, ainda que involuntária, com possível aplicação de multa
- Constrangimento perante o juízo e a parte contrária
- Enfraquecimento da fundamentação real da peça, que fica sustentada em algo que não existe
- Risco de violação de deveres éticos da profissão, já que cabe ao advogado verificar o que assina
O problema fica ainda mais sério porque o texto alucinado costuma ter a forma exata de uma citação real: número de processo plausível, nome de relator existente, ementa com linguagem técnica correta. Não parece errado. É isso que torna o erro difícil de pegar numa revisão rápida.
Como o JuspIA evita esse problema
O JuspIA não gera fundamentação jurídica "do nada", direto da memória estatística do modelo. Antes de redigir uma peça, o sistema busca legislação e jurisprudência reais nas bases de dados dos tribunais e usa esse material como referência para a fundamentação.
Isso é diferente de simplesmente pedir para um chat genérico "escreva uma petição sobre X": o resultado é fundamentado em decisões e dispositivos legais que realmente existem, com número de processo e fonte que podem ser conferidos, em vez de uma citação gerada por previsão estatística de texto.
Nenhuma ferramenta de IA elimina 100% o risco de erro. A diferença está na origem da informação: buscar em uma base real de legislação e jurisprudência reduz drasticamente a chance de alucinação, comparado a modelos que geram citações "de memória".
Como se proteger, de qualquer forma
Mesmo com uma ferramenta que busca fontes reais, alguns hábitos continuam sendo responsabilidade do advogado:
Sempre confira a fonte antes de protocolar. Clique no link da decisão ou do dispositivo citado e confirme que o teor corresponde ao que está na peça.
Desconfie de citações "perfeitas demais" vindas de chats genéricos. Se uma ferramenta de IA sem busca em base de dados te der uma jurisprudência exatamente no ponto que você precisava, vale conferir com mais atenção, não menos.
Use ferramentas que mostram a fonte, não só o resultado. Uma citação sem link verificável para o inteiro teor é um sinal de alerta.
Se você quiser entender como localizar jurisprudência real e verificável para fundamentar suas peças, veja o guia como buscar jurisprudência online.
Perguntas frequentes
Alucinação em IA é a mesma coisa que um erro de digitação ou de formatação?
Não. Erros de formatação são falhas superficiais e fáceis de identificar. Alucinação é a geração de conteúdo factualmente falso, mas com aparência de correto, o que a torna mais difícil de detectar numa revisão rápida.
Ferramentas de IA jurídica nunca alucinam?
Nenhuma ferramenta elimina o risco por completo. Mas ferramentas que buscam em bases reais de legislação e jurisprudência antes de gerar o texto, em vez de responder direto da memória do modelo, reduzem muito esse risco.
Por que às vezes a citação alucinada parece tão real?
Porque o modelo foi treinado com milhões de exemplos reais de citações jurídicas e aprendeu o padrão exato de como elas são formatadas. Ele reproduz esse padrão com precisão, mesmo quando o conteúdo específico é inventado.
Isso significa que devo evitar usar IA na advocacia?
Não. Significa usar ferramentas que buscam fontes verificáveis e manter o hábito de conferir toda fundamentação antes de assinar e protocolar, exatamente como já se faz ao revisar o trabalho de um estagiário ou associado.