🔒

Segurança em IA

Riscos, privacidade e como usar IA de forma segura e responsável.

Claude não criou antídoto para escorpião: o mito da IA salvadora
Segurança em IA

Claude não criou antídoto para escorpião: o mito da IA salvadora

Uma tentativa de usar a inteligência artificial da Anthropic para desenvolver um novo medicamento do zero revelou as limitações atuais da tecnologia na biologia complexa.

The Verge AI
4min·22 de out.
Robôs Eiliko: Fabricante Contrata Segurança Após Falhas Reveladas
Segurança em IA

Robôs Eiliko: Fabricante Contrata Segurança Após Falhas Reveladas

A Energize Lab anunciou medidas de emergência após revelações de que o robô Eiliko expunha conversas privadas de usuários. A empresa contratou uma firma de segurança independente para revisar seus sistemas e prometeu apagar registros de dados sensíveis.

The Verge AI
4min·22 de out.
Google DeepMind e Cingapura criam IA para detectar golpes em celulares
Segurança em IA

Google DeepMind e Cingapura criam IA para detectar golpes em celulares

Uma nova parceria entre o Google DeepMind e o governo de Singapura resultou em uma inteligência artificial que roda diretamente no celular para identificar tentativas de fraude em tempo real, priorizando a privacidade total das conversas dos usuários.

Google DeepMind
4min·22 de out.
Redes Neurais: A Vulnerabilidade Inesperada ao 'Auto-Hack' de Metas
Segurança em IA

Redes Neurais: A Vulnerabilidade Inesperada ao 'Auto-Hack' de Metas

Um novo estudo do AI Alignment Forum revela uma falha crítica em redes neurais, especialmente LLMs, que as torna suscetíveis a desviar de seus objetivos originais. Essa vulnerabilidade, chamada de 'auto-hack de metas', pode levar a resultados indesejados e perigosos, mesmo com definições de objetivos bem elaboradas.

AI Alignment Forum
4min·21 de out.
Meta Pausa Compartilhamento do Muse Após Chats de IA Vazarem na Web
Segurança em IA

Meta Pausa Compartilhamento do Muse Após Chats de IA Vazarem na Web

A Meta interrompeu uma funcionalidade importante de sua assistente de inteligência artificial após pesquisadores descobrirem que links de conversas privadas estavam acessíveis publicamente na internet.

The Verge AI
4min·20 de out.
Meta Muse expõe dados pessoais e segredos comerciais de usuários
Segurança em IA

Meta Muse expõe dados pessoais e segredos comerciais de usuários

Uma falha de design no novo assistente de IA da Meta permitiu que pesquisadores acessassem milhares de conversas privadas, incluindo dados bancários e estratégias corporativas, através de links que deveriam ser secretos.

Ars Technica AI
5min·20 de out.
Ex-funcionário da OpenAI é acusado de espionagem com apoio saudita
Segurança em IA

Ex-funcionário da OpenAI é acusado de espionagem com apoio saudita

Documentos judiciais revelam que um ex-colaborador da OpenAI instalou um dispositivo de escuta na empresa com suposto suporte da Arábia Saudita. O caso expõe a crescente disputa geopolítica por segredos de inteligência artificial.

BBC Technology
4min·20 de out.
Apple endurece regras da loja contra apps que criam nudes falsos
Segurança em IA

Apple endurece regras da loja contra apps que criam nudes falsos

A Apple reformulou as diretrizes da App Store para eliminar aplicativos que usam inteligência artificial na criação de imagens íntimas sem autorização, mirando ferramentas fraudulentas.

Canaltech
4min·19 de out.
Ataque Hacker no OpenCode: Contas de IA de Usuários Sob Ameaça
Segurança em IA

Ataque Hacker no OpenCode: Contas de IA de Usuários Sob Ameaça

Hackers invadiram sistemas da ferramenta de codificação OpenCode, comprometendo chaves de acesso de usuários e gerando gastos automáticos em contas da OpenAI, Anthropic e Google.

TechCrunch AI
4min·19 de out.
Controles parentais falham contra apps 'nudify' impulsionados por IA
Segurança em IA

Controles parentais falham contra apps 'nudify' impulsionados por IA

Um relatório exclusivo revela que falhas graves nas lojas da Apple e do Google permitem que menores de idade baixem ferramentas de criação de pornografia não consensual sem autorização dos pais.

The Guardian AI
5min·19 de out.
Vermes de IA: Anthropic Alerta para Nova Ameaça Autônoma
Segurança em IA

Vermes de IA: Anthropic Alerta para Nova Ameaça Autônoma

Pesquisadores da Anthropic demonstraram como programas maliciosos de inteligência artificial podem se replicar sozinhos em dispositivos domésticos, como televisões, criando uma nova classe de ameaças cibernéticas autônomas.

The Guardian AI
5min·19 de out.
Golpes de IA: Como se Proteger na Era da Inteligência Artificial
Segurança em IA

Golpes de IA: Como se Proteger na Era da Inteligência Artificial

Criminosos estão utilizando ferramentas avançadas de IA para criar sites falsos, clonar vozes e automatizar fraudes românticas, tornando os métodos tradicionais de detecção obsoletos.

BBC Technology
5min·19 de out.