Segurança em IA✦ Gerado por IA

Empresas de IA assinam o Apelo de Paris pela segurança de modelos avançados

Grandes nomes da inteligência artificial, como OpenAI e Microsoft, comprometeram-se com novas medidas de segurança para seus modelos avançados. O acordo, mediado pelo presidente francês Emmanuel Macron, busca mitigar riscos, mas já enfrenta críticas por lacunas importantes.

Edição de ·The Next Web AI·6 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

Grandes empresas de IA e governos assinaram um acordo para implementar mecanismos de segurança e transparência em modelos avançados de IA, mas o pacto é criticado por falta de limites de risco e garantias de acesso para testes independentes.

Em um movimento significativo para a governança da inteligência artificial, empresas líderes do setor, incluindo OpenAI, Anthropic e Microsoft, assinaram uma nova declaração focada na segurança de modelos avançados de IA. O chamado “Apelo de Paris para a Segurança e Proteção da IA” foi formalizado em 9 de novembro de 2026, durante um encontro no Palácio do Eliseu, em Paris, liderado pelo presidente francês Emmanuel Macron.

A iniciativa reuniu cerca de 50 participantes, entre chefes de estado, executivos de laboratórios de IA e especialistas, muitos deles conectados por vídeo. O objetivo central é enfrentar os “riscos reais para a segurança coletiva” que a rápida evolução da IA apresenta, conforme destacou Macron. A declaração foi anunciada no dia de abertura do Fórum da Paz de Paris, onde a IA foi um dos temas centrais.

Compromissos e Controvérsias

Os signatários, que incluem também Mistral, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI e Synthesia, comprometeram-se com uma série de medidas. Entre elas, o desenvolvimento de mecanismos de segurança que permitam o desligamento de modelos de IA, mesmo durante o treinamento ou uso interno. Além disso, as empresas deverão fornecer informações mais claras sobre as capacidades e limitações de seus sistemas, permitindo que especialistas independentes qualificados os testem quando apropriado.

A declaração também propõe uma abordagem compartilhada para avaliar e gerenciar os riscos da IA de fronteira, abrangendo desde usos maliciosos, como ciberataques e desenvolvimento de armas, até a possibilidade de sistemas de IA agirem de forma autônoma ou fora do controle humano. Resultados de testes não sensíveis seriam publicados em um formato comum, e haverá canais seguros para denúncias de preocupações.

Seis países – França, Canadá, Finlândia, Noruega, Holanda e Bahrein – também assinaram a declaração. No entanto, grandes players como Google, Meta, China e os Estados Unidos (apesar da participação do Secretário do Tesouro Scott Bessent) não estão entre os signatários, o que levanta questões sobre a abrangência global do acordo.

Lacunas e o Futuro da Regulamentação

Apesar dos compromissos, o Apelo de Paris já enfrenta críticas. A organização francesa de segurança em IA CeSIA, que também assinou a declaração, argumenta que o documento possui lacunas importantes. A principal delas é a ausência de limites de risco comuns para decidir se um modelo deve ser desenvolvido ou lançado. A CeSIA também aponta que não há garantia de que testadores independentes ou governos terão acesso irrestrito aos sistemas necessários para avaliações completas.

Charbel-Raphaël Ségerie, diretor executivo da CeSIA, defende que as decisões sobre a suspensão de modelos com riscos elevados devem ser prerrogativa das autoridades públicas, e que os desenvolvedores precisam de obrigações mais claras e prazos definidos para cumpri-las. A declaração, embora aberta a novos signatários, não estabelece prazos e o framework de testes compartilhados ainda precisa ser desenvolvido.

Este movimento segue outras iniciativas globais, como a lançada por Noruega e Finlândia em setembro, que a França posteriormente aderiu, e se baseia em compromissos anteriores de segurança de IA feitos em Seul e discussões no G7 em Evian. A busca por uma governança robusta da IA é um tema crescente na agenda internacional.

O que isso muda para você

Para profissionais brasileiros que atuam com inteligência artificial, a assinatura do Apelo de Paris sinaliza uma crescente pressão global por responsabilidade e transparência no desenvolvimento de IA. Mesmo que o Brasil não seja signatário direto, as práticas de segurança e os padrões de avaliação propostos por essas grandes empresas e países tendem a influenciar o mercado e as expectativas regulatórias em todo o mundo.

Isso significa que a atenção à segurança, à explicabilidade dos modelos e à mitigação de riscos não é mais um diferencial, mas uma necessidade. Profissionais e empresas devem começar a incorporar mecanismos de desligamento, documentação clara das capacidades e limitações de seus sistemas, e considerar auditorias independentes, mesmo que informais, para se alinhar às tendências globais e preparar-se para futuras regulamentações.

O próximo passo concreto é monitorar de perto o desenvolvimento do framework de testes compartilhados e as discussões sobre limites de risco. Comece a revisar seus próprios processos de desenvolvimento de IA, buscando formas de aumentar a transparência e a capacidade de controle sobre seus modelos, antecipando as demandas por uma IA mais segura e responsável.

📰 Com base em reportagem de The Next Web AI. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também