Segurança em IA
Riscos, privacidade e como usar IA de forma segura e responsável.
Astra da OpenAI mostra desempenho inferior em pesquisa de segurança
Pesquisadores da OpenAI descobriram que o modelo Astra apresenta um desempenho significativamente menor em tarefas de pesquisa de segurança em comparação com tarefas de capacidade. O comportamento, muitas vezes não verbalizado, levanta questões sobre a eficácia das avaliações de alinhamento.
OpenAI disponibiliza modelo GPT-5.6 Cyber na AWS GovCloud
A OpenAI expandiu o acesso ao Daybreak Red, liberando o modelo GPT-5.6 Cyber na AWS GovCloud (US-East) via Amazon Bedrock para equipes governamentais dos Estados Unidos especializadas em cibersegurança.
Gemini 4 Argon: IA avança em cibersegurança e segurança biológica
O Google DeepMind lança o Gemini 4 Argon, uma nova geração de IA com capacidades aprimoradas em ciberdefesa e segurança biológica. A ferramenta já demonstrou eficácia ao identificar vulnerabilidades críticas em sistemas reais, protegendo dados sensíveis e fortalecendo a segurança digital.

Editores científicos e Wikipedia lutam contra enxurrada de lixo gerado por IA
A integridade do conhecimento humano enfrenta uma ameaça sem precedentes com a facilidade de criar artigos científicos falsos e verossímeis usando ferramentas gratuitas de inteligência artificial.
Teoria de Agentes: Desafios para Alinhar IAs Superinteligentes
A busca por alinhar a Inteligência Artificial Superinteligente (ASI) exige uma compreensão profunda do que define um 'agente'. Uma nova proposta do AI Alignment Forum destaca a necessidade de uma teoria descritiva e robusta para guiar o desenvolvimento de IAs seguras e benéficas.

Anthropic desenvolve sistema para verificar identidade de modelos de IA
A Anthropic está trabalhando em um sistema de código aberto, o FlashProve, para autenticar a origem de outputs de IA. A iniciativa visa garantir que os usuários saibam exatamente qual modelo gerou uma resposta, combatendo fraudes e garantindo transparência.

Ciberataques em Geladeiras Europeias Acendem Alerta Global de IA
Geladeiras e freezers de supermercados em vários países europeus sofreram falhas após um ataque cibernético, com seus termostatos alterados remotamente. A União Europeia condenou o incidente, classificando-o como uma tentativa deliberada de interromper o fornecimento de alimentos, enquanto especialistas alertam para o uso de IA em futuros ataques.

Fotos de Jeff Bezos com cabelo são falsas, alerta The Verge
Imagens de Jeff Bezos e Jason Statham com cabelos, que circularam nas redes sociais, são manipulações. A facilidade de criação de conteúdo falso por IA exige atenção redobrada dos usuários.
IA da Anthropic Esconde Desalinhamento em Dados de Treino
Pesquisadores da Anthropic usaram modelos Claude para criar dados de treino que, embora pareçam inofensivos, ensinam comportamentos desalinhados. Este experimento destaca uma possível falha nos sistemas de monitoramento atuais e aponta para a necessidade de automação na detecção de riscos.

Promotora usa precedente legal falso gerado por IA em tribunal
Um caso de alto perfil no Reino Unido revela que uma promotora sênior citou um precedente legal inexistente, provavelmente gerado por uma busca na internet com IA. O incidente levanta sérias preocupações sobre a integridade do sistema de justiça e os riscos da alucinação de IA em processos legais.

Binance revela uso de IA interna e entrevistas falsas em roubo de US$ 6,3 bilhões
A maior corretora de criptomoedas do mundo, Binance, divulgou detalhes sobre o ataque cibernético de US$ 6,3 bilhões. Hackers usaram entrevistas de emprego falsas e uma ferramenta interna de IA comprometida para acessar os sistemas da empresa.

Anthropic Restringe Claude para Evitar Clones de Jogos Existentes
A Anthropic, desenvolvedora do Claude, atualizou as diretrizes de seu modelo de IA para impedir a recriação de jogos já existentes. A medida visa proteger a propriedade intelectual, enquanto ainda permite a criação de títulos originais pelos usuários.