Um novo estudo publicado no arXiv revelou que os testes utilizados para medir a capacidade da inteligência artificial em seguir regras operacionais e financeiras estão cheios de falhas. Os pesquisadores Yanru Xiao e outro autor constataram que, em muitos casos, os sistemas de IA aplicam as diretrizes corretamente, mas acabam sendo reprovados porque os próprios gabaritos das avaliações trazem respostas erradas ou utilizam verificadores defeituosos.
A pesquisa realizou uma auditoria profunda em nove bases públicas de dados usadas como referência para decisões baseadas em políticas. Para encontrar as falhas, a equipe utilizou um método rigoroso que combinou o rastreamento das fontes originais, a execução de programas de computador e verificações controladas de lógica.
Essa constatação acende uma alerta importante para toda a indústria de tecnologia. O mercado costuma confiar cegamente nas pontuações de desempenho para escolher quais ferramentas adotar, mas o estudo prova que métricas infladas por erros de avaliação podem distorcer completamente a percepção de qual modelo é realmente mais eficiente.
Gabaritos incorretos e critérios injustos
Durante o processo de verificação, os auditores encontraram uma série de problemas estruturais nos testes. Entre as falhas mais graves estão metas de decisão sem qualquer suporte documental, erros em referências que se perpetuam durante o processamento e avaliadores automáticos que rejeitam respostas perfeitamente aceitáveis enquanto dão crédito para análises incompletas.
Para demonstrar a gravidade do problema, os autores reavaliaram as respostas dadas pelas IAs sem alterar uma única palavra do que os modelos produziram. Apenas corrigindo o sistema de pontuação no teste LegalBench SARA, que avalia 96 casos numéricos do setor jurídico, a taxa de aprovação de três modelos diferentes subiu mais de 80 pontos percentuais.
Outro exemplo claro foi identificado no conjunto de testes RuleArena Tax, focado em normas tributárias. Ao restaurar a regra que exige um limite mínimo zero para determinada operação, os pesquisadores precisaram alterar 27 de 300 referências do gabarito. Essa simples correção reduziu drasticamente a diferença de desempenho que parecia existir entre os modelos analisados.
O impacto dos erros intermediários nas decisões finais
Além das falhas em cálculos diretos, a pesquisa avaliou como pequenas imprecisões no meio do caminho podem destruir o resultado final de uma IA. Em um teste controlado sobre isenções federais, que dependia de premissas explícitas de propriedade e elegibilidade, os cientistas comprovaram que erros nas respostas intermediárias fornecidas pelo próprio teste afetam diretamente a decisão final do sistema.
Quando a base de dados fornece uma etapa intermediária errada, a inteligência artificial é induzida ao erro ou acaba penalizada por tentar corrigir o fluxo lógico por conta própria. Isso mostra que avaliar o raciocínio complexo exige gabaritos extremamente precisos em todas as etapas da cadeia de decisão.
Como solução prática para a comunidade científica e tecnológica, os autores apresentaram o BAR, sigla em inglês para Auditoria e Revisão de Testes. Trata-se de um repositório versionado que reúne todas as evidências encontradas na auditoria e oferece dados revisados para que o mercado possa realizar reavaliações justas e confiáveis no futuro.
O que isso muda para você
Se você trabalha com a implementação de inteligência artificial ou toma decisões sobre qual ferramenta adotar na sua empresa, o estudo publicado no arXiv traz um aviso claro: não confie cegamente nos rankings públicos de desempenho. A constatação de que modelos podem ter sua taxa de aprovação saltada em mais de 80 pontos percentuais apenas com a correção do teste prova que a liderança nos relatórios nem sempre reflete a superioridade real da ferramenta no mundo real.
Na prática, isso exige um momento de transição para os profissionais brasileiros. Em vez de escolher um sistema de IA baseado apenas nos relatórios dos grandes fornecedores, as empresas precisam criar seus próprios testes internos com regras de negócio reais e devidamente auditadas. Depender de métricas externas sem entender como elas pontuam pode levar à rejeição de modelos eficientes ou à adoção de sistemas caros que apenas memorizaram gabaritos defeituosos.
O próximo passo concreto para líderes de tecnologia e analistas é auditar os critérios de avaliação aplicados aos seus projetos de automação. Antes de descartar uma ferramenta por suposta falta de precisão em tarefas financeiras ou jurídicas, revise se os parâmetros de validação da sua própria empresa não estão punindo a IA por tomar a decisão correta.
