A Pangram, uma startup de Nova York que ganhou destaque por suas ferramentas de detecção de texto gerado por inteligência artificial, anunciou o lançamento de dois novos modelos focados em identificar conteúdo falso em imagens e vídeos. A empresa afirma que essas inovações representam um avanço significativo na luta contra a desinformação visual.
Os novos produtos são o Pangram Image 1.0, projetado para analisar imagens estáticas, e o Pangram Image Flash 1.0, uma versão mais rápida e compacta, otimizada para verificar vídeos quadro a quadro. Ambos os modelos já estão disponíveis na aplicação web da Pangram e via API, com o Image 1.0 também integrado como uma extensão para o navegador Chrome.
Detalhes e Desempenho dos Novos Modelos
O Pangram Image 1.0 não apenas detecta a presença de IA em imagens, mas também pode gerar um mapa de calor, indicando as áreas específicas de uma foto que foram alteradas ou geradas artificialmente. Por exemplo, ele pode identificar um objeto falso inserido em uma fotografia real. A Pangram reporta uma taxa de acerto de 99,2% na identificação de imagens geradas por IA, com uma taxa de falso positivo de apenas 0,27% para imagens reais.
Em testes internos, a Pangram criou 100 cópias de fotos reais usando 12 geradores de imagem líderes de mercado, com prompts que replicavam fielmente os originais. Nesses testes, o Image 1.0 alcançou uma precisão impressionante de 99,96%. É importante notar que esses testes foram desenhados pela própria Pangram, e não por avaliadores externos, conforme destacado por The Next Web.
Para a detecção em vídeo, o Pangram Image Flash 1.0 foi avaliado usando o DF26, um benchmark acadêmico de 2.691 clipes de pessoas falando para a câmera. Os autores do DF26 observaram que tanto humanos quanto os detectores existentes tinham dificuldade em distinguir clipes reais de falsos. A Pangram, no entanto, afirma que o Flash 1.0 obteve uma pontuação de 98,7% no DF26, superando o próximo melhor detector em 29 pontos percentuais.
Os novos modelos também são capazes de trabalhar com imagens menores, a partir de 256 por 256 pixels, embora resultados abaixo de 512 pixels venham com um aviso de menor confiança. A Pangram explica que treinou seus modelos para serem eficazes mesmo diante de compressão, desfoque e ruído, técnicas que podem ser usadas para tentar enganar os sistemas de detecção.
O Contexto da Detecção de IA e Desafios
O lançamento desses modelos ocorre em um momento crucial, com a proliferação de conteúdo gerado por IA levantando preocupações sobre a autenticidade de informações visuais. A Pangram já havia levantado 9 milhões de dólares em uma rodada de financiamento em julho, liderada pela Menlo Ventures, quando a detecção de imagens foi pré-visualizada pela primeira vez. Seu detector de texto já é utilizado em plataformas como o Substack.
Contudo, a detecção de IA ainda enfrenta desafios. Em agosto, a ferramenta de texto da Pangram erroneamente sinalizou um artigo de opinião de uma professora de Berkeley como parcialmente gerado por IA, o que foi contestado por ela. Além disso, até mesmo o detector de imagens da Meta falhou em mais da metade dos testes da Reuters ao identificar falsificações cortadas de seu próprio gerador. Em outro exemplo, uma rede no YouTube que pagava atores reais para ler roteiros gerados por IA conseguiu enganar os detectores da plataforma. Esses incidentes sublinham a complexidade e a natureza em constante evolução da detecção de conteúdo sintético.
O que isso muda para você
Para profissionais brasileiros, especialmente aqueles que atuam em comunicação, marketing digital, jornalismo ou segurança da informação, a chegada de ferramentas como as da Pangram representa uma camada adicional de proteção e um novo desafio. A capacidade de identificar imagens e vídeos gerados por IA é crucial para manter a credibilidade e combater a desinformação, que pode ter impactos significativos em campanhas, reputação de marcas e até mesmo na opinião pública.
É fundamental que empresas e indivíduos estejam cientes dessas tecnologias e considerem a integração de ferramentas de detecção em seus fluxos de trabalho. A validação da autenticidade de conteúdos visuais se tornará uma etapa cada vez mais importante. O próximo passo concreto é explorar como essas soluções podem ser aplicadas em seus próprios contextos, seja para verificar a autenticidade de materiais recebidos ou para garantir que o conteúdo que você produz e compartilha seja percebido como genuíno e confiável.


