Em um movimento significativo para a governança da inteligência artificial, empresas líderes do setor, incluindo OpenAI, Anthropic e Microsoft, assinaram uma nova declaração focada na segurança de modelos avançados de IA. O chamado “Apelo de Paris para a Segurança e Proteção da IA” foi formalizado em 9 de novembro de 2026, durante um encontro no Palácio do Eliseu, em Paris, liderado pelo presidente francês Emmanuel Macron.
A iniciativa reuniu cerca de 50 participantes, entre chefes de estado, executivos de laboratórios de IA e especialistas, muitos deles conectados por vídeo. O objetivo central é enfrentar os “riscos reais para a segurança coletiva” que a rápida evolução da IA apresenta, conforme destacou Macron. A declaração foi anunciada no dia de abertura do Fórum da Paz de Paris, onde a IA foi um dos temas centrais.
Compromissos e Controvérsias
Os signatários, que incluem também Mistral, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI e Synthesia, comprometeram-se com uma série de medidas. Entre elas, o desenvolvimento de mecanismos de segurança que permitam o desligamento de modelos de IA, mesmo durante o treinamento ou uso interno. Além disso, as empresas deverão fornecer informações mais claras sobre as capacidades e limitações de seus sistemas, permitindo que especialistas independentes qualificados os testem quando apropriado.
A declaração também propõe uma abordagem compartilhada para avaliar e gerenciar os riscos da IA de fronteira, abrangendo desde usos maliciosos, como ciberataques e desenvolvimento de armas, até a possibilidade de sistemas de IA agirem de forma autônoma ou fora do controle humano. Resultados de testes não sensíveis seriam publicados em um formato comum, e haverá canais seguros para denúncias de preocupações.
Seis países – França, Canadá, Finlândia, Noruega, Holanda e Bahrein – também assinaram a declaração. No entanto, grandes players como Google, Meta, China e os Estados Unidos (apesar da participação do Secretário do Tesouro Scott Bessent) não estão entre os signatários, o que levanta questões sobre a abrangência global do acordo.
Lacunas e o Futuro da Regulamentação
Apesar dos compromissos, o Apelo de Paris já enfrenta críticas. A organização francesa de segurança em IA CeSIA, que também assinou a declaração, argumenta que o documento possui lacunas importantes. A principal delas é a ausência de limites de risco comuns para decidir se um modelo deve ser desenvolvido ou lançado. A CeSIA também aponta que não há garantia de que testadores independentes ou governos terão acesso irrestrito aos sistemas necessários para avaliações completas.
Charbel-Raphaël Ségerie, diretor executivo da CeSIA, defende que as decisões sobre a suspensão de modelos com riscos elevados devem ser prerrogativa das autoridades públicas, e que os desenvolvedores precisam de obrigações mais claras e prazos definidos para cumpri-las. A declaração, embora aberta a novos signatários, não estabelece prazos e o framework de testes compartilhados ainda precisa ser desenvolvido.
Este movimento segue outras iniciativas globais, como a lançada por Noruega e Finlândia em setembro, que a França posteriormente aderiu, e se baseia em compromissos anteriores de segurança de IA feitos em Seul e discussões no G7 em Evian. A busca por uma governança robusta da IA é um tema crescente na agenda internacional.
O que isso muda para você
Para profissionais brasileiros que atuam com inteligência artificial, a assinatura do Apelo de Paris sinaliza uma crescente pressão global por responsabilidade e transparência no desenvolvimento de IA. Mesmo que o Brasil não seja signatário direto, as práticas de segurança e os padrões de avaliação propostos por essas grandes empresas e países tendem a influenciar o mercado e as expectativas regulatórias em todo o mundo.
Isso significa que a atenção à segurança, à explicabilidade dos modelos e à mitigação de riscos não é mais um diferencial, mas uma necessidade. Profissionais e empresas devem começar a incorporar mecanismos de desligamento, documentação clara das capacidades e limitações de seus sistemas, e considerar auditorias independentes, mesmo que informais, para se alinhar às tendências globais e preparar-se para futuras regulamentações.
O próximo passo concreto é monitorar de perto o desenvolvimento do framework de testes compartilhados e as discussões sobre limites de risco. Comece a revisar seus próprios processos de desenvolvimento de IA, buscando formas de aumentar a transparência e a capacidade de controle sobre seus modelos, antecipando as demandas por uma IA mais segura e responsável.

