Regulamentação✦ Gerado por IA

Marcas d'água em texto da OpenAI falham em testes da lei europeia

Ferramenta desenvolvida pela OpenAI para sinalizar textos gerados por inteligência artificial perde precisão em trechos curtos ou editados, o que pode violar a nova legislação da União Europeia.

Edição de ·IEEE Spectrum AI·4 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

As marcas d'água em texto da OpenAI perdem eficácia em trechos curtos ou com edições simples, colocando em risco o cumprimento da Lei de IA da União Europeia.

A tentativa de identificar textos criados por inteligência artificial encontrou um obstáculo técnico relevante. O novo sistema de marca d'água da OpenAI, batizado de textGrain e lançado em outubro para atender às exigências da União Europeia, apresenta limitações severas em trechos curtos ou em conteúdos que sofreram edições simples. As falhas colocam em xeque a capacidade da empresa de cumprir as regras do continente europeu, de acordo com análises publicadas pelo site IEEE Spectrum.

A tecnologia por trás do textGrain funciona alterando de forma imperceptível a escolha das palavras do modelo. Os sistemas de IA calculam a probabilidade dos próximos fragmentos de palavras com base no texto anterior. A ferramenta da OpenAI usa uma chave secreta e matematicamente orientada para influenciar essa seleção de termos, criando um padrão estatístico invisível para o leitor humano, mas identificável por um detector pré-programado.

Como a entropia é usada e onde o sistema falha

O grande diferencial do textGrain em relação a outras ferramentas é o uso da entropia — uma medida que calcula o quão imprevisível é a escolha das palavras de um modelo. Os desenvolvedores conseguem definir um limite para essa imprevisibilidade, permitindo equilibrar a inserção do sinal detectável sem perder a variação natural do texto gerado.

Contudo, o sistema perde eficiência rapidamente sob condições comuns de uso. Em testes realizados com a base de dados de perguntas e respostas ELI5, a marca d'água foi identificada em 80% dos textos com cerca de 150 palavras. Já em conteúdos maiores, de aproximadamente 300 palavras, a taxa de sucesso subiu para 95%. Trechos curtos não contêm evidências estatísticas suficientes para garantir a identificação.

As edições humanas degradam o sinal de forma ainda mais drástica. Em textos de 300 palavras, a simples substituição de 10% dos termos por sinônimos derrubou a detecção de 92% para 66%. Quando 25% das palavras foram alteradas, a taxa de identificação despencou para apenas 17%. Como o padrão depende da sequência exata das palavras anteriores, modificar um único termo rompe a cadeia estatística em vários pontos posteriores.

A legislação europeia e os riscos de multas

Essa fragilidade técnica gera apreensão jurídica. As obrigações de transparência do Artigo 50 da Lei de IA da União Europeia entraram em vigor em 2 de agosto. A norma exige que geradores de conteúdos sintéticos marquem suas saídas em formato legível por máquina, utilizando soluções técnicas eficazes, robustas e confiáveis.

O Código de Prática europeu isenta da obrigação de marcação os textos com menos de 200 tokens. Contudo, analistas apontam que a legislação possui termos abertos que dependem de interpretação. O textGrain superou a ferramenta rival SynthID em testes internos da OpenAI, mas os resultados ainda não passaram por verificação independente por pesquisadores acadêmicos.

A OpenAI já disponibilizou o sistema para testes com pesquisadores da Universidade Cornell e do Instituto Kempelen de Tecnologias Inteligentes, na Eslováquia. O objetivo dessas equipes é avaliar a resistência do sistema em diferentes idiomas, áreas do conhecimento e extensões de texto. Caso as autoridades europeias considerem que a ferramenta não cumpre a lei, a OpenAI pode enfrentar multas de até 7% sobre o seu faturamento anual.

O que isso muda para você

Para os profissionais brasileiros que utilizam inteligência artificial no dia a dia, a instabilidade das marcas d'água em texto mostra que a verificação de autoria ainda é um campo em disputa. Não existe, até o momento, uma ferramenta capaz de provar com absoluta certeza se um texto curto ou levemente editado foi escrito por um modelo ou por um ser humano.

Empresas e produtores de conteúdo no Brasil devem evitar confiar cegamente em detectores automáticos para julgar a originalidade de documentos, relatórios ou tarefas. A taxa de falsos positivos do textGrain é de 1%, o que significa que textos totalmente humanos ainda correm o risco de serem rotulados incorretamente como sintéticos.

Como passo prático, priorize a transparência nos processos de trabalho em vez de depender apenas de checagens técnicas. Defina diretrizes claras sobre onde a IA pode ser usada como assistente e mantenha registros do processo de criação humana, garantindo segurança jurídica e ética antes que regulamentações semelhantes cheguem ao mercado nacional.

📰 Com base em reportagem de IEEE Spectrum AI. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também