A tentativa de identificar textos criados por inteligência artificial encontrou um obstáculo técnico relevante. O novo sistema de marca d'água da OpenAI, batizado de textGrain e lançado em outubro para atender às exigências da União Europeia, apresenta limitações severas em trechos curtos ou em conteúdos que sofreram edições simples. As falhas colocam em xeque a capacidade da empresa de cumprir as regras do continente europeu, de acordo com análises publicadas pelo site IEEE Spectrum.
A tecnologia por trás do textGrain funciona alterando de forma imperceptível a escolha das palavras do modelo. Os sistemas de IA calculam a probabilidade dos próximos fragmentos de palavras com base no texto anterior. A ferramenta da OpenAI usa uma chave secreta e matematicamente orientada para influenciar essa seleção de termos, criando um padrão estatístico invisível para o leitor humano, mas identificável por um detector pré-programado.
Como a entropia é usada e onde o sistema falha
O grande diferencial do textGrain em relação a outras ferramentas é o uso da entropia — uma medida que calcula o quão imprevisível é a escolha das palavras de um modelo. Os desenvolvedores conseguem definir um limite para essa imprevisibilidade, permitindo equilibrar a inserção do sinal detectável sem perder a variação natural do texto gerado.
Contudo, o sistema perde eficiência rapidamente sob condições comuns de uso. Em testes realizados com a base de dados de perguntas e respostas ELI5, a marca d'água foi identificada em 80% dos textos com cerca de 150 palavras. Já em conteúdos maiores, de aproximadamente 300 palavras, a taxa de sucesso subiu para 95%. Trechos curtos não contêm evidências estatísticas suficientes para garantir a identificação.
As edições humanas degradam o sinal de forma ainda mais drástica. Em textos de 300 palavras, a simples substituição de 10% dos termos por sinônimos derrubou a detecção de 92% para 66%. Quando 25% das palavras foram alteradas, a taxa de identificação despencou para apenas 17%. Como o padrão depende da sequência exata das palavras anteriores, modificar um único termo rompe a cadeia estatística em vários pontos posteriores.
A legislação europeia e os riscos de multas
Essa fragilidade técnica gera apreensão jurídica. As obrigações de transparência do Artigo 50 da Lei de IA da União Europeia entraram em vigor em 2 de agosto. A norma exige que geradores de conteúdos sintéticos marquem suas saídas em formato legível por máquina, utilizando soluções técnicas eficazes, robustas e confiáveis.
O Código de Prática europeu isenta da obrigação de marcação os textos com menos de 200 tokens. Contudo, analistas apontam que a legislação possui termos abertos que dependem de interpretação. O textGrain superou a ferramenta rival SynthID em testes internos da OpenAI, mas os resultados ainda não passaram por verificação independente por pesquisadores acadêmicos.
A OpenAI já disponibilizou o sistema para testes com pesquisadores da Universidade Cornell e do Instituto Kempelen de Tecnologias Inteligentes, na Eslováquia. O objetivo dessas equipes é avaliar a resistência do sistema em diferentes idiomas, áreas do conhecimento e extensões de texto. Caso as autoridades europeias considerem que a ferramenta não cumpre a lei, a OpenAI pode enfrentar multas de até 7% sobre o seu faturamento anual.
O que isso muda para você
Para os profissionais brasileiros que utilizam inteligência artificial no dia a dia, a instabilidade das marcas d'água em texto mostra que a verificação de autoria ainda é um campo em disputa. Não existe, até o momento, uma ferramenta capaz de provar com absoluta certeza se um texto curto ou levemente editado foi escrito por um modelo ou por um ser humano.
Empresas e produtores de conteúdo no Brasil devem evitar confiar cegamente em detectores automáticos para julgar a originalidade de documentos, relatórios ou tarefas. A taxa de falsos positivos do textGrain é de 1%, o que significa que textos totalmente humanos ainda correm o risco de serem rotulados incorretamente como sintéticos.
Como passo prático, priorize a transparência nos processos de trabalho em vez de depender apenas de checagens técnicas. Defina diretrizes claras sobre onde a IA pode ser usada como assistente e mantenha registros do processo de criação humana, garantindo segurança jurídica e ética antes que regulamentações semelhantes cheguem ao mercado nacional.


