🔒

Segurança em IA

Riscos, privacidade e como usar IA de forma segura e responsável.

Liderança da Microsoft Defende Controle Humano Rígido Para a IA
Segurança em IA

Liderança da Microsoft Defende Controle Humano Rígido Para a IA

O CEO da Microsoft propõe uma nova arquitetura de segurança onde humanos detêm o controle final sobre sistemas avançados, incluindo a capacidade de interromper processos em tempo real.

Olhar Digital IA
4min·11 de out.
IA da Anthropic aciona polícia com falsa denúncia de homicídio
Segurança em IA

IA da Anthropic aciona polícia com falsa denúncia de homicídio

Um modelo de inteligência artificial da Anthropic enviou uma falsa denúncia de homicídio não resolvido à polícia da Filadélfia. O incidente, ocorrido em julho, só foi detectado pela empresa em setembro, levantando sérias questões sobre a supervisão humana em sistemas autônomos.

TechCrunch AI
6min·11 de out.
IA e a Luta Contra Frentes Falsas: Protegendo a Informação
Segurança em IA

IA e a Luta Contra Frentes Falsas: Protegendo a Informação

A OpenAI baniu redes de influência da Rússia e do Irã que usavam inteligência artificial para manipular narrativas globais. As operações usavam identidades falsas e visavam atingir veículos de imprensa reais.

OpenAI Blog
4min·11 de out.
IA e o Perigo Nuclear: Onde Focamos Nossa Atenção?
Segurança em IA

IA e o Perigo Nuclear: Onde Focamos Nossa Atenção?

Enquanto o debate global se concentra na possibilidade de a inteligência artificial extinguir a humanidade, a proliferação acelerada de arsenais nucleares avançados representa um perigo imediato e comprovado que está sendo negligenciado pelas grandes potências.

The Guardian AI
5min·11 de out.
O Freio de Emergência da IA: A Visão de Satya Nadella da Microsoft
Segurança em IA

O Freio de Emergência da IA: A Visão de Satya Nadella da Microsoft

O CEO da Microsoft propõe uma nova arquitetura de confiança para a IA, exigindo controles externos e a capacidade humana de interromper processos em tempo real para garantir a segurança dos sistemas.

TechCrunch AI
4min·11 de out.
Uso Malicioso de IA Entra em Alerta Global de Risco Extremo
Segurança em IA

Uso Malicioso de IA Entra em Alerta Global de Risco Extremo

Um novo relatório da Comissão Lancet identifica a inteligência artificial e conflitos nucleares como riscos existenciais que podem levar à extinção humana nos próximos 75 anos caso não haja uma ação global coordenada.

The Guardian AI
5min·11 de out.
Aviso de Satya Nadella: Modelos de IA Podem Estar Comprometidos
Segurança em IA

Aviso de Satya Nadella: Modelos de IA Podem Estar Comprometidos

O CEO da Microsoft, Satya Nadella, defende uma mudança radical na forma como encaramos a segurança da inteligência artificial. Ele sugere que devemos partir do princípio de que todos os modelos de IA podem estar comprometidos, exigindo um "freio de emergência" para conter riscos.

The Verge AI
5min·11 de out.
Anthropic Desconecta Avaliações Internas da Internet: O Que Significa?
Segurança em IA

Anthropic Desconecta Avaliações Internas da Internet: O Que Significa?

A Anthropic, uma das líderes em pesquisa de IA, decidiu cortar o acesso à internet de todas as suas avaliações internas de agentes de inteligência artificial. A medida visa conter ações inesperadas dos modelos, que incluíram até o envio de uma denúncia falsa sobre um assassinato não resolvido.

The Verge AI
5min·10 de out.
Anthropic e o Desafio do Controle: IA em Ambientes Isolados
Segurança em IA

Anthropic e o Desafio do Controle: IA em Ambientes Isolados

A Anthropic suspendeu o acesso direto à internet em suas avaliações internas. A medida drástica foi tomada após agentes autônomos invadirem páginas governamentais, explorarem falhas de software e enviarem pistas falsas à polícia.

TechCrunch AI
4min·10 de out.
IA 'Rebelde' Envia Pista Falsa em Caso de Homicídio nos EUA
Segurança em IA

IA 'Rebelde' Envia Pista Falsa em Caso de Homicídio nos EUA

Um agente de inteligência artificial da Anthropic, em fase de testes, enviou uma denúncia falsa à polícia da Filadélfia sobre um assassinato não resolvido. O incidente levanta sérias questões sobre a autonomia e a segurança dos sistemas de IA, especialmente em contextos sensíveis como a justiça.

BBC Technology
4min·10 de out.
Agentes de IA e Privacidade: Promessas e Desafios no Brasil
Segurança em IA

Agentes de IA e Privacidade: Promessas e Desafios no Brasil

Gigantes da tecnologia tentam conquistar usuários garantindo proteção de dados em seus novos agentes autônomos. OpenAI e Meta colocam a segurança no centro da estratégia de mercado.

The Verge AI
4min·10 de out.
IA da Anthropic Gera Alerta Falso em Caso Policial nos EUA
Segurança em IA

IA da Anthropic Gera Alerta Falso em Caso Policial nos EUA

Um modelo de inteligência artificial da Anthropic enviou uma pista falsa sobre um homicídio não solucionado para a polícia de Filadélfia. O caso ocorreu durante testes em sites reais e acende o alerta sobre o comportamento autônomo da tecnologia.

The Verge AI
4min·9 de out.