Segurança em IA
Riscos, privacidade e como usar IA de forma segura e responsável.
Testes de segurança obrigatórios antes da implantação interna de IAs
Uma proposta inovadora sugere que modelos de inteligência artificial passem por um período mínimo e fixo de testes de segurança antes de serem utilizados internamente. A medida visa garantir a robustez e a segurança das IAs, especialmente as mais avançadas, antes de sua aplicação em ambientes controlados.
Pane Global da Microsoft Atinge Outlook, Teams e Serviços de IA por Mais de 12 Horas
Uma interrupção global nos serviços da Microsoft, incluindo Outlook, Teams e Copilot, paralisou operações de empresas e governos por mais de 12 horas. O incidente também afetou integrações de IA de terceiros, como ChatGPT e Claude, levantando questões sobre a dependência da infraestrutura de nuvem.
LLMON da IBM: Nova Linguagem de Marcação Otimiza Interação com LLMs
A IBM, em colaboração com a Hugging Face, lançou o LLMON, uma linguagem de marcação projetada para melhorar a comunicação e a segurança em Modelos de Linguagem Grandes (LLMs). Essa inovação promete tornar os modelos mais robustos e menos vulneráveis a ataques de injeção de prompt, ao mesmo tempo em que otimiza a compreensão da estrutura de dados.

Nvidia confirmou rastreamento de chips, apesar de dúvidas da indústria
A Nvidia confirmou, em conversas privadas, a viabilidade técnica de rastrear seus chips avançados para combater o contrabando, mesmo enquanto sua associação industrial expressava publicamente ceticismo. Essa revelação surge em meio a um debate sobre a segurança de chips e a proposta de uma nova legislação nos EUA.

Os riscos cibernéticos e o impasse dos modelos abertos de IA
Relatório da Anthropic alerta para ameaças cibernéticas com modelo da Z.ai, aquecendo o debate sobre a liberação do código-fonte de inteligências artificiais avançadas no mercado global.
Alinhamento de IA: Entenda as Três Vertentes da Automação
A automação do alinhamento de sistemas de Inteligência Artificial, antes vista como um conceito único, agora é dividida em três categorias distintas. Essa nova perspectiva ajuda a direcionar esforços e prioridades na busca por IAs mais seguras e éticas.

Grok Build da SpaceXSI expõe dados confidenciais de milhares de usuários
Uma falha de design no agente de codificação Grok Build, da SpaceXSI, resultou na exposição de informações confidenciais de milhares de usuários. Dados sensíveis, incluindo planos de negócios e registros médicos, ficaram acessíveis publicamente devido a uma implementação falha de compartilhamento de links.

Empresas de IA assinam o Apelo de Paris pela segurança de modelos avançados
Grandes nomes da inteligência artificial, como OpenAI e Microsoft, comprometeram-se com novas medidas de segurança para seus modelos avançados. O acordo, mediado pelo presidente francês Emmanuel Macron, busca mitigar riscos, mas já enfrenta críticas por lacunas importantes.

Chainalysis: Dados de todos os clientes expostos em ataque cibernético multifacetado
A empresa de análise de blockchain Chainalysis confirmou que hackers obtiveram informações sensíveis de todos os seus usuários, incluindo nomes, senhas e tokens. O incidente, que envolveu agentes de IA e um ataque 'on-path', levanta preocupações sobre a segurança de dados de agências governamentais e grandes corporações que são clientes da empresa.

IBM integrará Claude Mythos da Anthropic para segurança empresarial
A IBM planeja incorporar o Claude Mythos da Anthropic em seu software Concert Protect, visando aprimorar a detecção e correção de falhas de segurança em códigos de clientes. A iniciativa, prevista para o início de 2027, promete revolucionar a forma como empresas lidam com vulnerabilidades desconhecidas.

FBI investiga caso de CEO da Nvidia com suposta espiã chinesa
O presidente dos EUA, Donald Trump, revelou que o FBI está investigando o relacionamento entre Jensen Huang, CEO da Nvidia, e Alice Huang, apontada como espiã chinesa. A Nvidia, peça central na corrida da IA, já iniciou sua própria apuração interna sobre o caso.
Cisco integra Claude Mythos da Anthropic para reforçar segurança de IA
A Cisco anunciou a adição do Claude Mythos da Anthropic à sua ferramenta AI Defense, visando fortalecer a segurança de aplicações de inteligência artificial. Essa integração permitirá que empresas testem suas próprias IAs contra ataques simulados, identificando vulnerabilidades antes que cibercriminosos as explorem.