Pontos-chave
Uso indevido de IA gerou citações jurídicas falsas
Advogados do escritório Morgan & Morgan utilizaram IA para preparar petições, resultando em nove casos jurídicos completamente inventados citados em processo contra o Walmart.Reação e medidas da firma de advocacia
Após alerta de juiz federal, a firma enviou um e-mail reforçando a necessidade de verificação rigorosa das citações geradas por IA e implementou um checkbox para conscientizar advogados sobre os riscos.Riscos do uso imprudente de IA no Direito
Ferramentas como ChatGPT podem 'mentir' com confiança, gerando erros graves em áreas que exigem precisão, como o Direito, evidenciando que IA não substitui a responsabilidade humana.Imagine estar no meio de um processo contra o Walmart, o maior varejista do planeta, e descobrir que as citações jurídicas no seu processo… simplesmente não existem.
Foi exatamente isso que aconteceu com o escritório de advocacia Morgan & Morgan, um dos maiores dos Estados Unidos, que levou uma bronca pública depois que dois de seus advogados usaram uma ferramenta de IA para preparar petições e acabaram citando nove casos totalmente inventados.
O alerta veio de um juiz federal em Wyoming, que detectou os erros em documentos apresentados em janeiro. A resposta da firma? Um e-mail urgente enviado para mais de mil advogados da empresa, lembrando que o uso de IA não está proibido, mas que cada citação precisa ser verificada.
“Se você usar IA para encontrar jurisprudência, verifique cada caso individualmente”, dizia o aviso. “A integridade do seu trabalho depende disso.”
Os advogados culpados tentaram se justificar, dizendo que usaram uma IA interna. Mas isso não colou. O juiz ainda estuda aplicar sanções pelo erro.
Segundo o reitor da faculdade de Direito da Universidade de Suffolk, Andrew Perlman, o problema não é usar IA, mas sim usá-la mal. “Usar ChatGPT ou qualquer ferramenta sem checar o que ela diz é pura incompetência”, cravou ele em entrevista à Reuters.
O timing não poderia ser pior: o processo em questão acusa o Walmart de vender um hoverboard que teria causado um incêndio e destruído a casa de um cliente. E agora os advogados que deveriam representar a vítima acabaram virando o centro da vergonha.
Esse não é um caso isolado. Nos últimos dois anos, pelo menos sete casos similares de uso imprudente de IA por advogados já foram registrados.
A razão? Ferramentas como ChatGPT “mentem” com extrema confiança e essa combinação de precisão aparente e falsidade real é um prato cheio para erros grotescos. Ainda mais em profissões que exigem exatidão, como o Direito.
Para evitar novas gafes, a Morgan & Morgan implementou um checkbox na sua IA interna: os advogados precisam clicar dizendo que entendem os riscos antes de usar a ferramenta. Uma solução simbólica, mas talvez melhor que nada.
O caso serve de alerta: IA pode até prometer eficiência, mas não substitui responsabilidade. E quando o erro aparece no tribunal, não tem Ctrl + Z que salve.