Segurança em IA✦ Gerado por IA

IA e a Luta Contra Frentes Falsas: Protegendo a Informação

A OpenAI baniu redes de influência da Rússia e do Irã que usavam inteligência artificial para manipular narrativas globais. As operações usavam identidades falsas e visavam atingir veículos de imprensa reais.

Edição de ·OpenAI Blog·4 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

Operações de influência que usam IA para infiltrar conteúdos na mídia tradicional possuem maior alcance do que aquelas restritas às redes sociais.

A OpenAI anunciou o bloqueio de duas grandes operações de influência disfarçadas que utilizavam seus modelos de inteligência artificial generativa. Vindas da Rússia e do Irã, as campanhas combinavam técnicas tradicionais com a automação de IA para espalhar narrativas geopolíticas estratégicas. Em vez de apenas publicar em redes sociais, os grupos tentavam infiltrar conteúdos diretamente em veículos de imprensa reais e veículos regionais.

A revelação faz parte do acompanhamento de segurança da OpenAI, que nos últimos dois anos e meio já expôs 30 operações cobertas de influência. Segundo a empresa, o uso de IA permite que esses agentes ganhem escala, maior fluência linguística e capacidade editorial. Isso facilita a enganação de editores e jornalistas desavisados em diferentes partes do mundo, tornando as campanhas significativamente mais eficazes do que no passado.

Como funcionavam as operações da Rússia e do Irã

A operação de origem russa, batizada de Dark Clark, focou suas ações na América Latina. O grupo operava contas no ChatGPT a partir da Rússia para criar conteúdos voltados a minar a reputação da Ucrânia na região. Além disso, a campanha buscou influenciar cenários políticos locais em países como Argentina e Bolívia. O grupo controlava um suposto centro de pesquisas na região, chamado Centro de Pesquisas Sociais, por meio da persona falsa Mia Clark.

Já a operação iraniana, chamada de Bogus Bylines, mantinha um grupo de sete personas de jornalistas falsos. Essas identidades eram usadas para oferecer artigos opinativos de longo texto para pequenos e médios veículos de notícias ao redor do mundo. Além dos artigos, o grupo criava comentários em lote para redes sociais, focando em temas ligados ao conflito entre Estados Unidos e Irã.

Curiosamente, a maior parte do uso do ChatGPT pela rede russa foi voltada para a criação de relatórios internos sobre suas próprias atividades. Os operadores usavam métodos questionáveis para exagerar a eficácia de suas ações para seus superiores. Ambas as campanhas demonstraram um formato sofisticado de fachada, recriando táticas do passado com o suporte da tecnologia atual.

O alcance inédito e o impacto na mídia tradicional

Para medir o alcance dessas campanhas, a OpenAI utiliza uma escala de interrupção que vai do nível 1 ao 6. A operação russa Dark Clark foi classificada como Categoria 5. Essa foi a primeira vez que uma operação desse nível de gravidade foi interrompida e divulgada desde que a OpenAI começou a publicar esses relatórios de transparência. A operação iraniana alcançou a Categoria 4.

O fator determinante para essa classificação alta foi a capacidade dos grupos de emplacar conteúdos na mídia tradicional. A análise da OpenAI aponta um padrão claro nas 30 operações monitoradas: as campanhas que tentam inserir textos em veículos de comunicação reais possuem um potencial de alcance e impacto muito maior do que aquelas que dependem apenas de redes sociais.

A divulgação responsável e pública dessas operações é a principal ferramenta para neutralizá-las. Historicamente, campanhas baseadas em identidades falsas perdem a utilidade e encerram suas atividades assim que são expostas ao público e aos pesquisadores de segurança.

O que isso muda para você

A sofisticação dessas operações mostra que a manipulação de informação com inteligência artificial não é um risco futuro, mas uma realidade presente. Para profissionais de comunicação, jornalistas e criadores de conteúdo no Brasil, o alerta é imediato. A facilidade para gerar textos longos e articulados exige um processo de checagem de fontes e de verificação de identidade muito mais rigoroso antes de publicar colaboradores externos ou fontes desconhecidas.

Para o mercado corporativo e leitores em geral, o cenário reforça a necessidade de desenvolver um olhar crítico sobre a procedência do consumo de notícias. Centros de pesquisa, think tanks e analistas independentes que surgem no ambiente digital podem ser fachadas estruturadas para influenciar a opinião pública em temas sensíveis de economia e política.

O passo prático para qualquer profissional é estabelecer protocolos claros de validação de informação no dia a dia. Isso inclui checar o histórico de autores, verificar a autenticidade de organizações citadas e duvidar de abordagens não solicitadas com artigos prontos, por mais bem escritos e alinhados que pareçam ser.

📰 Com base em reportagem de OpenAI Blog. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também