🔒

Segurança em IA

Riscos, privacidade e como usar IA de forma segura e responsável.

Testes de segurança obrigatórios antes da implantação interna de IAs
Segurança em IA

Testes de segurança obrigatórios antes da implantação interna de IAs

Uma proposta inovadora sugere que modelos de inteligência artificial passem por um período mínimo e fixo de testes de segurança antes de serem utilizados internamente. A medida visa garantir a robustez e a segurança das IAs, especialmente as mais avançadas, antes de sua aplicação em ambientes controlados.

AI Alignment Forum
6min·há 4d
Pane Global da Microsoft Atinge Outlook, Teams e Serviços de IA por Mais de 12 Horas
Segurança em IA

Pane Global da Microsoft Atinge Outlook, Teams e Serviços de IA por Mais de 12 Horas

Uma interrupção global nos serviços da Microsoft, incluindo Outlook, Teams e Copilot, paralisou operações de empresas e governos por mais de 12 horas. O incidente também afetou integrações de IA de terceiros, como ChatGPT e Claude, levantando questões sobre a dependência da infraestrutura de nuvem.

The Next Web AI
6min·há 4d
LLMON da IBM: Nova Linguagem de Marcação Otimiza Interação com LLMs
Segurança em IA

LLMON da IBM: Nova Linguagem de Marcação Otimiza Interação com LLMs

A IBM, em colaboração com a Hugging Face, lançou o LLMON, uma linguagem de marcação projetada para melhorar a comunicação e a segurança em Modelos de Linguagem Grandes (LLMs). Essa inovação promete tornar os modelos mais robustos e menos vulneráveis a ataques de injeção de prompt, ao mesmo tempo em que otimiza a compreensão da estrutura de dados.

Hugging Face Blog
5min·há 4d
Nvidia confirmou rastreamento de chips, apesar de dúvidas da indústria
Segurança em IA

Nvidia confirmou rastreamento de chips, apesar de dúvidas da indústria

A Nvidia confirmou, em conversas privadas, a viabilidade técnica de rastrear seus chips avançados para combater o contrabando, mesmo enquanto sua associação industrial expressava publicamente ceticismo. Essa revelação surge em meio a um debate sobre a segurança de chips e a proposta de uma nova legislação nos EUA.

MIT Technology Review
6min·há 4d
Os riscos cibernéticos e o impasse dos modelos abertos de IA
Segurança em IA

Os riscos cibernéticos e o impasse dos modelos abertos de IA

Relatório da Anthropic alerta para ameaças cibernéticas com modelo da Z.ai, aquecendo o debate sobre a liberação do código-fonte de inteligências artificiais avançadas no mercado global.

MIT Technology Review
4min·há 5d
Alinhamento de IA: Entenda as Três Vertentes da Automação
Segurança em IA

Alinhamento de IA: Entenda as Três Vertentes da Automação

A automação do alinhamento de sistemas de Inteligência Artificial, antes vista como um conceito único, agora é dividida em três categorias distintas. Essa nova perspectiva ajuda a direcionar esforços e prioridades na busca por IAs mais seguras e éticas.

AI Alignment Forum
6min·há 6d
Grok Build da SpaceXSI expõe dados confidenciais de milhares de usuários
Segurança em IA

Grok Build da SpaceXSI expõe dados confidenciais de milhares de usuários

Uma falha de design no agente de codificação Grok Build, da SpaceXSI, resultou na exposição de informações confidenciais de milhares de usuários. Dados sensíveis, incluindo planos de negócios e registros médicos, ficaram acessíveis publicamente devido a uma implementação falha de compartilhamento de links.

Ars Technica AI
6min·há 6d
Empresas de IA assinam o Apelo de Paris pela segurança de modelos avançados
Segurança em IA

Empresas de IA assinam o Apelo de Paris pela segurança de modelos avançados

Grandes nomes da inteligência artificial, como OpenAI e Microsoft, comprometeram-se com novas medidas de segurança para seus modelos avançados. O acordo, mediado pelo presidente francês Emmanuel Macron, busca mitigar riscos, mas já enfrenta críticas por lacunas importantes.

The Next Web AI
6min·há 6d
Chainalysis: Dados de todos os clientes expostos em ataque cibernético multifacetado
Segurança em IA

Chainalysis: Dados de todos os clientes expostos em ataque cibernético multifacetado

A empresa de análise de blockchain Chainalysis confirmou que hackers obtiveram informações sensíveis de todos os seus usuários, incluindo nomes, senhas e tokens. O incidente, que envolveu agentes de IA e um ataque 'on-path', levanta preocupações sobre a segurança de dados de agências governamentais e grandes corporações que são clientes da empresa.

Ars Technica AI
6min·há 6d
IBM integrará Claude Mythos da Anthropic para segurança empresarial
Segurança em IA

IBM integrará Claude Mythos da Anthropic para segurança empresarial

A IBM planeja incorporar o Claude Mythos da Anthropic em seu software Concert Protect, visando aprimorar a detecção e correção de falhas de segurança em códigos de clientes. A iniciativa, prevista para o início de 2027, promete revolucionar a forma como empresas lidam com vulnerabilidades desconhecidas.

The Next Web AI
4min·10 de nov.
FBI investiga caso de CEO da Nvidia com suposta espiã chinesa
Segurança em IA

FBI investiga caso de CEO da Nvidia com suposta espiã chinesa

O presidente dos EUA, Donald Trump, revelou que o FBI está investigando o relacionamento entre Jensen Huang, CEO da Nvidia, e Alice Huang, apontada como espiã chinesa. A Nvidia, peça central na corrida da IA, já iniciou sua própria apuração interna sobre o caso.

BBC Technology
6min·10 de nov.
Cisco integra Claude Mythos da Anthropic para reforçar segurança de IA
Segurança em IA

Cisco integra Claude Mythos da Anthropic para reforçar segurança de IA

A Cisco anunciou a adição do Claude Mythos da Anthropic à sua ferramenta AI Defense, visando fortalecer a segurança de aplicações de inteligência artificial. Essa integração permitirá que empresas testem suas próprias IAs contra ataques simulados, identificando vulnerabilidades antes que cibercriminosos as explorem.

The Next Web AI
4min·9 de nov.