Segurança em IA✦ Gerado por IA

Cisco integra Claude Mythos da Anthropic para reforçar segurança de IA

A Cisco anunciou a adição do Claude Mythos da Anthropic à sua ferramenta AI Defense, visando fortalecer a segurança de aplicações de inteligência artificial. Essa integração permitirá que empresas testem suas próprias IAs contra ataques simulados, identificando vulnerabilidades antes que cibercriminosos as explorem.

Edição de ·The Next Web AI·4 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

A Cisco está utilizando o Claude Mythos da Anthropic para realizar testes de segurança avançados em sistemas de IA, fortalecendo a defesa contra ataques cibernéticos.

A Cisco está elevando o nível da segurança em inteligência artificial ao incorporar o Claude Mythos da Anthropic em sua plataforma AI Defense. O anúncio, feito durante o evento Cisco Live em Melbourne, marca um passo importante para as empresas que buscam proteger suas aplicações de IA contra ameaças cibernéticas.

O Claude Mythos será utilizado para planejar e executar ataques simulados, uma prática conhecida como 'red teaming', contra os próprios aplicativos e agentes de IA dos clientes. O objetivo é descobrir pontos fracos e vulnerabilidades antes que hackers mal-intencionados possam explorá-los. Em julho, pesquisadores da Cisco já haviam utilizado a ferramenta para testar os limites de 15 chatbots, demonstrando sua eficácia.

Como funciona a segurança com Mythos

É importante ressaltar que os clientes não terão acesso direto para interagir com o Mythos por meio de prompts abertos. A ferramenta opera de forma controlada, focando em tarefas específicas e atuando apenas sobre sistemas de IA que o cliente possui e registrou para testes. Cada teste é rigorosamente registrado, vinculado a uma pessoa nominal para fins de auditoria, e pode ser interrompido a qualquer momento.

Além disso, a Cisco garante que o Mythos não tem capacidade de escanear a internet de forma ampla, o que reforça o controle e a segurança do processo. Essa abordagem restrita e auditável é crucial para manter a integridade dos testes e a confidencialidade dos dados das empresas.

O contexto da colaboração e o futuro da segurança em IA

A integração do Mythos pela Cisco reflete uma tendência crescente no mercado de segurança cibernética. Empresas como Palo Alto Networks e IBM também estão incorporando o Mythos em seus produtos, com a IBM planejando adicioná-lo à sua ferramenta Concert Protect no início de 2027. Essa colaboração é estratégica para a Anthropic, que prefere disponibilizar o Mythos dentro de produtos de parceiros, em vez de distribuí-lo diretamente.

Michael Moore, líder de cibersegurança da Anthropic, destacou a importância dessa iniciativa: “Empresas estão cada vez mais construindo agentes de IA em suas operações centrais e querem testar esses agentes completamente antes de colocá-los em produção.” A versão 5.2 do Mythos foi lançada recentemente, mas continua disponível apenas para organizações previamente verificadas, reforçando o controle rigoroso sobre seu uso. A Cisco também atualizou suas ferramentas Splunk para monitorar custos e qualidade de agentes de IA, com uma ferramenta de custos chamada Tokenomics entrando em pré-visualização privada em dezembro.

O que isso muda para você

Para profissionais brasileiros que trabalham com desenvolvimento ou implementação de IA, essa notícia da Cisco e Anthropic é um sinal claro da crescente maturidade e preocupação com a segurança no ecossistema de inteligência artificial. A capacidade de realizar testes de 'red teaming' de forma estruturada e controlada se tornará um diferencial competitivo e, em breve, uma exigência para qualquer projeto de IA robusto.

Isso significa que a validação de segurança de modelos e aplicações de IA não é mais um luxo, mas uma etapa fundamental no ciclo de vida do desenvolvimento. Profissionais de segurança e desenvolvedores de IA precisarão se familiarizar com ferramentas e metodologias de teste de vulnerabilidades específicas para IA, garantindo que os sistemas sejam resilientes contra ataques. O próximo passo concreto é buscar conhecimento sobre 'red teaming' em IA e considerar como integrar essa prática nos seus próprios processos de desenvolvimento e implantação de soluções inteligentes.

📰 Com base em reportagem de The Next Web AI. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também