Uma promotora sênior do Serviço de Acusação da Coroa (CPS) no Reino Unido citou um precedente legal completamente imaginário em um caso de alto perfil, reacendendo o debate sobre os perigos da inteligência artificial no sistema de justiça. O erro, que veio à tona em documentos judiciais, ocorreu durante uma disputa sobre a acusação de uma criança por estupro.
Ravinder Dhillon, a promotora em questão, representava o CPS e fez referência a um caso que simplesmente não existia. A explicação para o uso dessa citação foi considerada “insatisfatória” por juízes e um “erro grave” por especialistas em IA e direito. Entende-se que a referência foi gerada por uma resposta de IA durante uma pesquisa na internet.
O Contexto dos Erros de IA na Justiça
Este incidente não é isolado; ele se soma a dezenas de outros casos em que erros relacionados à IA têm afetado procedimentos judiciais este ano. A maioria desses erros tem sido observada em situações onde pessoas sem qualificação jurídica se representam, frequentemente em tribunais trabalhistas. No entanto, este é apenas o segundo caso conhecido envolvendo o próprio CPS, a principal agência pública de acusações criminais na Inglaterra e no País de Gales.
Em fevereiro, o CPS já havia admitido que um de seus advogados, atuando em um caso de extradição, citou autoridades legais inexistentes, também provavelmente devido à IA. Naquela ocasião, o CPS concluiu que o “risco de recorrência era baixo”, uma avaliação que agora parece otimista diante do novo incidente.
No caso mais recente, advogados do menino, que tinha 11 anos na época do suposto crime, contestavam a decisão do CPS de processá-lo. Eles alegaram que os promotores não consideraram as representações de assistentes sociais, trabalhadores juvenis e um psicólogo forense. Dhillon, uma promotora sênior na unidade de estupro e crimes sexuais graves do CPS, argumentou a favor da acusação da criança e apresentou uma referência detalhada a um caso que ela chamou de “CPS – R v J [2024] EWCA Crim 3529”, que se provou inexistente.
A decisão de prosseguir com o caso foi tomada por Dhillon em abril e confirmada pelo promotor-chefe. Somente em outubro, Dhillon admitiu que a citação inexistente foi um erro, afirmando que se referia a uma decisão completamente diferente – desta vez real – feita 15 anos antes. Brian Flanagan, professor associado de direito na Maynooth University, que investiga o uso de IA por juízes, classificou o ocorrido como uma “falha grave” e questionou as normas de confiança no direito, onde autoridades são tratadas como algo precioso e não podem ser inventadas.
Implicações e Respostas do Sistema Legal
O Tribunal Superior afirmou que a referência do CPS a um caso fictício não afetou o resultado do desafio do menino à decisão de continuar com sua acusação. O caso está programado para ir a julgamento nos tribunais juvenis ainda esta semana.
Em junho de 2025, o Tribunal Superior já havia respondido às alucinações de IA em casos que abrangem desde habitação até bancos, pedindo ao Bar Council e à Law Society que considerassem medidas urgentes para conter o problema. Dame Victoria Sharp, então presidente da divisão King’s Bench, alertou para as “sérias implicações para a administração da justiça e a confiança pública no sistema de justiça se a inteligência artificial for mal utilizada” e indicou que advogados que usarem mal a IA poderiam enfrentar sanções, desde advertências públicas até processos por desacato e encaminhamento à polícia.
Questionado sobre o incidente, o CPS declarou que possui uma política rigorosa de IA que “limita seu uso para que não seja utilizada para tomar decisões legais e deve haver verificações humanas para garantir a precisão”. Um porta-voz do CPS disse que “um erro ocorreu ao realizar pesquisa jurídica usando a internet” e que, assim que identificado, foi corrigido e uma revisão interna foi realizada para entender como aconteceu e verificar se outros casos foram afetados. A revisão rápida resultou no compartilhamento de aprendizados, incluindo a necessidade de citar jurisprudência de fontes legais confiáveis. Entende-se que a pesquisa na internet entregou um resumo de IA que continha os detalhes do caso fictício.
Este último incidente eleva para 101 o número de entradas em um rastreador do Reino Unido mantido pelo advogado Matthew Lee, que cobre erros confirmados, suspeitos e contestados relacionados à IA, bem como citações falsas. Ele sugere que os casos identificados podem ser apenas a “ponta do iceberg”, já que muitas decisões de tribunais inferiores nunca são publicadas. Lee também alertou para os riscos de privacidade e confidencialidade associados ao uso de IA pelo CPS, dada a natureza altamente sensível das informações que ele lida, e destacou que a IA está criando trabalho adicional para advogados, que precisam gastar tempo verificando a autenticidade das autoridades legais que aparecem em documentos de casos onde a IA pode ter sido usada em sua preparação.
O que isso muda para você
Para os profissionais brasileiros, especialmente aqueles do direito, este caso serve como um alerta crucial. A tentação de usar ferramentas de IA para acelerar pesquisas e análises é grande, mas a dependência excessiva e a falta de verificação humana podem levar a erros graves, como a citação de precedentes inexistentes. A reputação profissional e a integridade dos processos judiciais estão em jogo.
É fundamental que advogados, promotores e outros operadores do direito no Brasil adotem uma postura de ceticismo e rigor ao utilizar IA. A tecnologia deve ser uma ferramenta de apoio, não um substituto para a diligência e o conhecimento humano. O próximo passo concreto é implementar protocolos de verificação robustos para qualquer informação gerada por IA, garantindo que todas as fontes sejam duplamente checadas em bases de dados confiáveis e oficiais antes de serem apresentadas em qualquer contexto legal.

