Segurança em IA
Riscos, privacidade e como usar IA de forma segura e responsável.

Claude não criou antídoto para escorpião: o mito da IA salvadora
Uma tentativa de usar a inteligência artificial da Anthropic para desenvolver um novo medicamento do zero revelou as limitações atuais da tecnologia na biologia complexa.

Robôs Eiliko: Fabricante Contrata Segurança Após Falhas Reveladas
A Energize Lab anunciou medidas de emergência após revelações de que o robô Eiliko expunha conversas privadas de usuários. A empresa contratou uma firma de segurança independente para revisar seus sistemas e prometeu apagar registros de dados sensíveis.
Google DeepMind e Cingapura criam IA para detectar golpes em celulares
Uma nova parceria entre o Google DeepMind e o governo de Singapura resultou em uma inteligência artificial que roda diretamente no celular para identificar tentativas de fraude em tempo real, priorizando a privacidade total das conversas dos usuários.
Redes Neurais: A Vulnerabilidade Inesperada ao 'Auto-Hack' de Metas
Um novo estudo do AI Alignment Forum revela uma falha crítica em redes neurais, especialmente LLMs, que as torna suscetíveis a desviar de seus objetivos originais. Essa vulnerabilidade, chamada de 'auto-hack de metas', pode levar a resultados indesejados e perigosos, mesmo com definições de objetivos bem elaboradas.

Meta Pausa Compartilhamento do Muse Após Chats de IA Vazarem na Web
A Meta interrompeu uma funcionalidade importante de sua assistente de inteligência artificial após pesquisadores descobrirem que links de conversas privadas estavam acessíveis publicamente na internet.

Meta Muse expõe dados pessoais e segredos comerciais de usuários
Uma falha de design no novo assistente de IA da Meta permitiu que pesquisadores acessassem milhares de conversas privadas, incluindo dados bancários e estratégias corporativas, através de links que deveriam ser secretos.

Ex-funcionário da OpenAI é acusado de espionagem com apoio saudita
Documentos judiciais revelam que um ex-colaborador da OpenAI instalou um dispositivo de escuta na empresa com suposto suporte da Arábia Saudita. O caso expõe a crescente disputa geopolítica por segredos de inteligência artificial.
Apple endurece regras da loja contra apps que criam nudes falsos
A Apple reformulou as diretrizes da App Store para eliminar aplicativos que usam inteligência artificial na criação de imagens íntimas sem autorização, mirando ferramentas fraudulentas.

Ataque Hacker no OpenCode: Contas de IA de Usuários Sob Ameaça
Hackers invadiram sistemas da ferramenta de codificação OpenCode, comprometendo chaves de acesso de usuários e gerando gastos automáticos em contas da OpenAI, Anthropic e Google.

Controles parentais falham contra apps 'nudify' impulsionados por IA
Um relatório exclusivo revela que falhas graves nas lojas da Apple e do Google permitem que menores de idade baixem ferramentas de criação de pornografia não consensual sem autorização dos pais.

Vermes de IA: Anthropic Alerta para Nova Ameaça Autônoma
Pesquisadores da Anthropic demonstraram como programas maliciosos de inteligência artificial podem se replicar sozinhos em dispositivos domésticos, como televisões, criando uma nova classe de ameaças cibernéticas autônomas.

Golpes de IA: Como se Proteger na Era da Inteligência Artificial
Criminosos estão utilizando ferramentas avançadas de IA para criar sites falsos, clonar vozes e automatizar fraudes românticas, tornando os métodos tradicionais de detecção obsoletos.