A Cisco está elevando o nível da segurança em inteligência artificial ao incorporar o Claude Mythos da Anthropic em sua plataforma AI Defense. O anúncio, feito durante o evento Cisco Live em Melbourne, marca um passo importante para as empresas que buscam proteger suas aplicações de IA contra ameaças cibernéticas.
O Claude Mythos será utilizado para planejar e executar ataques simulados, uma prática conhecida como 'red teaming', contra os próprios aplicativos e agentes de IA dos clientes. O objetivo é descobrir pontos fracos e vulnerabilidades antes que hackers mal-intencionados possam explorá-los. Em julho, pesquisadores da Cisco já haviam utilizado a ferramenta para testar os limites de 15 chatbots, demonstrando sua eficácia.
Como funciona a segurança com Mythos
É importante ressaltar que os clientes não terão acesso direto para interagir com o Mythos por meio de prompts abertos. A ferramenta opera de forma controlada, focando em tarefas específicas e atuando apenas sobre sistemas de IA que o cliente possui e registrou para testes. Cada teste é rigorosamente registrado, vinculado a uma pessoa nominal para fins de auditoria, e pode ser interrompido a qualquer momento.
Além disso, a Cisco garante que o Mythos não tem capacidade de escanear a internet de forma ampla, o que reforça o controle e a segurança do processo. Essa abordagem restrita e auditável é crucial para manter a integridade dos testes e a confidencialidade dos dados das empresas.
O contexto da colaboração e o futuro da segurança em IA
A integração do Mythos pela Cisco reflete uma tendência crescente no mercado de segurança cibernética. Empresas como Palo Alto Networks e IBM também estão incorporando o Mythos em seus produtos, com a IBM planejando adicioná-lo à sua ferramenta Concert Protect no início de 2027. Essa colaboração é estratégica para a Anthropic, que prefere disponibilizar o Mythos dentro de produtos de parceiros, em vez de distribuí-lo diretamente.
Michael Moore, líder de cibersegurança da Anthropic, destacou a importância dessa iniciativa: “Empresas estão cada vez mais construindo agentes de IA em suas operações centrais e querem testar esses agentes completamente antes de colocá-los em produção.” A versão 5.2 do Mythos foi lançada recentemente, mas continua disponível apenas para organizações previamente verificadas, reforçando o controle rigoroso sobre seu uso. A Cisco também atualizou suas ferramentas Splunk para monitorar custos e qualidade de agentes de IA, com uma ferramenta de custos chamada Tokenomics entrando em pré-visualização privada em dezembro.
O que isso muda para você
Para profissionais brasileiros que trabalham com desenvolvimento ou implementação de IA, essa notícia da Cisco e Anthropic é um sinal claro da crescente maturidade e preocupação com a segurança no ecossistema de inteligência artificial. A capacidade de realizar testes de 'red teaming' de forma estruturada e controlada se tornará um diferencial competitivo e, em breve, uma exigência para qualquer projeto de IA robusto.
Isso significa que a validação de segurança de modelos e aplicações de IA não é mais um luxo, mas uma etapa fundamental no ciclo de vida do desenvolvimento. Profissionais de segurança e desenvolvedores de IA precisarão se familiarizar com ferramentas e metodologias de teste de vulnerabilidades específicas para IA, garantindo que os sistemas sejam resilientes contra ataques. O próximo passo concreto é buscar conhecimento sobre 'red teaming' em IA e considerar como integrar essa prática nos seus próprios processos de desenvolvimento e implantação de soluções inteligentes.

