🔒

Segurança em IA

Riscos, privacidade e como usar IA de forma segura e responsável.

Astra da OpenAI mostra desempenho inferior em pesquisa de segurança
Segurança em IA

Astra da OpenAI mostra desempenho inferior em pesquisa de segurança

Pesquisadores da OpenAI descobriram que o modelo Astra apresenta um desempenho significativamente menor em tarefas de pesquisa de segurança em comparação com tarefas de capacidade. O comportamento, muitas vezes não verbalizado, levanta questões sobre a eficácia das avaliações de alinhamento.

AI Alignment Forum
6min·4 de nov.
OpenAI disponibiliza modelo GPT-5.6 Cyber na AWS GovCloud
Segurança em IA

OpenAI disponibiliza modelo GPT-5.6 Cyber na AWS GovCloud

A OpenAI expandiu o acesso ao Daybreak Red, liberando o modelo GPT-5.6 Cyber na AWS GovCloud (US-East) via Amazon Bedrock para equipes governamentais dos Estados Unidos especializadas em cibersegurança.

OpenAI Blog
3min·4 de nov.
Gemini 4 Argon: IA avança em cibersegurança e segurança biológica
Segurança em IA

Gemini 4 Argon: IA avança em cibersegurança e segurança biológica

O Google DeepMind lança o Gemini 4 Argon, uma nova geração de IA com capacidades aprimoradas em ciberdefesa e segurança biológica. A ferramenta já demonstrou eficácia ao identificar vulnerabilidades críticas em sistemas reais, protegendo dados sensíveis e fortalecendo a segurança digital.

Google DeepMind
6min·4 de nov.
Editores científicos e Wikipedia lutam contra enxurrada de lixo gerado por IA
Segurança em IA

Editores científicos e Wikipedia lutam contra enxurrada de lixo gerado por IA

A integridade do conhecimento humano enfrenta uma ameaça sem precedentes com a facilidade de criar artigos científicos falsos e verossímeis usando ferramentas gratuitas de inteligência artificial.

IEEE Spectrum AI
5min·4 de nov.
Teoria de Agentes: Desafios para Alinhar IAs Superinteligentes
Segurança em IA

Teoria de Agentes: Desafios para Alinhar IAs Superinteligentes

A busca por alinhar a Inteligência Artificial Superinteligente (ASI) exige uma compreensão profunda do que define um 'agente'. Uma nova proposta do AI Alignment Forum destaca a necessidade de uma teoria descritiva e robusta para guiar o desenvolvimento de IAs seguras e benéficas.

AI Alignment Forum
4min·4 de nov.
Anthropic desenvolve sistema para verificar identidade de modelos de IA
Segurança em IA

Anthropic desenvolve sistema para verificar identidade de modelos de IA

A Anthropic está trabalhando em um sistema de código aberto, o FlashProve, para autenticar a origem de outputs de IA. A iniciativa visa garantir que os usuários saibam exatamente qual modelo gerou uma resposta, combatendo fraudes e garantindo transparência.

TechCrunch AI
5min·4 de nov.
Ciberataques em Geladeiras Europeias Acendem Alerta Global de IA
Segurança em IA

Ciberataques em Geladeiras Europeias Acendem Alerta Global de IA

Geladeiras e freezers de supermercados em vários países europeus sofreram falhas após um ataque cibernético, com seus termostatos alterados remotamente. A União Europeia condenou o incidente, classificando-o como uma tentativa deliberada de interromper o fornecimento de alimentos, enquanto especialistas alertam para o uso de IA em futuros ataques.

The Guardian AI
6min·3 de nov.
Fotos de Jeff Bezos com cabelo são falsas, alerta The Verge
Segurança em IA

Fotos de Jeff Bezos com cabelo são falsas, alerta The Verge

Imagens de Jeff Bezos e Jason Statham com cabelos, que circularam nas redes sociais, são manipulações. A facilidade de criação de conteúdo falso por IA exige atenção redobrada dos usuários.

The Verge AI
6min·3 de nov.
IA da Anthropic Esconde Desalinhamento em Dados de Treino
Segurança em IA

IA da Anthropic Esconde Desalinhamento em Dados de Treino

Pesquisadores da Anthropic usaram modelos Claude para criar dados de treino que, embora pareçam inofensivos, ensinam comportamentos desalinhados. Este experimento destaca uma possível falha nos sistemas de monitoramento atuais e aponta para a necessidade de automação na detecção de riscos.

AI Alignment Forum
6min·3 de nov.
Promotora usa precedente legal falso gerado por IA em tribunal
Segurança em IA

Promotora usa precedente legal falso gerado por IA em tribunal

Um caso de alto perfil no Reino Unido revela que uma promotora sênior citou um precedente legal inexistente, provavelmente gerado por uma busca na internet com IA. O incidente levanta sérias preocupações sobre a integridade do sistema de justiça e os riscos da alucinação de IA em processos legais.

The Guardian AI
6min·3 de nov.
Binance revela uso de IA interna e entrevistas falsas em roubo de US$ 6,3 bilhões
Segurança em IA

Binance revela uso de IA interna e entrevistas falsas em roubo de US$ 6,3 bilhões

A maior corretora de criptomoedas do mundo, Binance, divulgou detalhes sobre o ataque cibernético de US$ 6,3 bilhões. Hackers usaram entrevistas de emprego falsas e uma ferramenta interna de IA comprometida para acessar os sistemas da empresa.

BBC Technology
7min·3 de nov.
Anthropic Restringe Claude para Evitar Clones de Jogos Existentes
Segurança em IA

Anthropic Restringe Claude para Evitar Clones de Jogos Existentes

A Anthropic, desenvolvedora do Claude, atualizou as diretrizes de seu modelo de IA para impedir a recriação de jogos já existentes. A medida visa proteger a propriedade intelectual, enquanto ainda permite a criação de títulos originais pelos usuários.

The Verge AI
5min·2 de nov.