Segurança em IA✦ Gerado por IA

IA na Ciência: O Experimento que Gerou um Artigo Falso

Um jornalista testou o uso de ferramentas gratuitas de inteligência artificial para criar um artigo científico falso. O experimento expõe o avanço do conteúdo automatizado nas publicações acadêmicas.

Edição de ·IEEE Spectrum AI·4 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

O uso de IAs gratuitas para fabricar artigos científicos falsos ameaça a integridade da literatura acadêmica global.

O avanço das ferramentas de inteligência artificial gerativa está sobrecarregando o sistema de publicações acadêmicas com materiais automatizados de baixa qualidade. Em um teste prático realizado em parceria com a publicação IEEE Access, o jornalista Benjamin Skuse demonstrou como é simples criar um artigo científico inteiramente falso utilizando apenas modelos de linguagem gratuitos e acessíveis ao público.

Para executar o experimento, o autor definiu regras estritas: utilizou apenas as versões gratuitas do ChatGPT e do Gemini, sem editar diretamente nenhum texto ou código gerado. Assumindo a autoria solo no campo dos sólitons ópticos — sua área de doutorado há quase duas décadas —, o jornalista instruiu as ferramentas a criarem hipóteses, metodologias, citações e gráficos sem a realização de nenhuma pesquisa real.

Como a falsificação foi construída

A criação do documento exigiu estratégias simples de comando. Inicialmente, os modelos apresentaram respostas superficiais e restrições éticas sobre a criação de dados sintéticos. No entanto, ao alternar entre as plataformas e solicitar respostas em cenários hipotéticos, as limitações foram superadas com facilidade.

O artigo foi montado por partes, cobrindo o resumo, a introdução e a metodologia. Em poucas rodadas de comandos, as ferramentas geraram as referências, formataram as ilustrações e ajustaram todo o texto ao padrão visual exigido pela revista IEEE Access. O resultado final apresentou uma linguagem convincente, sem erros grotescos de tradução ou frases absurdas que costumam denunciar o uso de automação.

O impacto da automação na ciência

Este teste traz à tona um problema sério enfrentado pelo setor. Estimativas apontam que, em 2025, cerca de 57% de todos os artigos acadêmicos publicados apresentavam sinais detectáveis de interferência de modelos de linguagem — um salto expressivo em comparação aos 12% registrados em 2023. Além disso, análises revelaram que mais de 12% das revisões da revista Nature Communications foram integralmente geradas por IA no mesmo período.

Para cada 40 estudos com evidências estatísticas de uso de automação em 2025, apenas um declarou formalmente essa participação. Embora o uso de tecnologia não signifique necessariamente que o trabalho seja fraudulento, dados indicam que centenas de milhares de publicações falsas são produzidas anualmente, pressionando os revisores voluntários e enfraquecendo a confiança nos processos científicos.

O que isso muda para você

A proliferação de materiais automatizados sem validação afeta diretamente profissionais, pesquisadores e executivos que utilizam a literatura científica como base para decisões estratégicas. A presença de dados fabricados exige um nível muito maior de rigor no consumo de informações técnicas, pois relatórios e estudos podem parecer legítimos mesmo sem passar por testes reais.

No ambiente corporativo e acadêmico brasileiro, confiar cegamente em citações ou revisões bibliográficas sem verificar a origem dos dados tornou-se um risco operacional. A integridade das análises de mercado, do desenvolvimento de produtos e das pesquisas aplicadas depende agora de auditagens humanas mais detalhadas.

Como passo prático, incorpore ferramentas de verificação de fontes e estabeleça protocolos internos para checar se as metodologias citadas em documentos de apoio possuem execução real. Evite utilizar pesquisas automatizadas sem validar os dados brutos e as referências primárias.

📰 Com base em reportagem de IEEE Spectrum AI. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também