🔒

Segurança em IA

Riscos, privacidade e como usar IA de forma segura e responsável.

Chefe de IA da Tencent Alerta para Riscos Biológicos de Modelos de IA
Segurança em IA

Chefe de IA da Tencent Alerta para Riscos Biológicos de Modelos de IA

O cientista-chefe de IA da Tencent, Yao Shunyu, alertou que modelos de inteligência artificial em breve poderão causar danos significativos na área da biologia, assim como já ocorre na cibersegurança. A declaração foi feita dias após o lançamento do Hy4, o novo modelo da empresa.

The Next Web AI
6min·8 de nov.
Executiva de IA é recrutada pela China para espionar CEO da Nvidia
Segurança em IA

Executiva de IA é recrutada pela China para espionar CEO da Nvidia

Um relatório recente aponta que uma executiva do setor de IA foi recrutada pela inteligência chinesa para obter informações sobre chips americanos e influenciar a Nvidia. O CEO da empresa, Jensen Huang, seria o alvo principal dessa operação.

The Verge AI
5min·8 de nov.
Detectores de IA: como identificar textos, fotos e vídeos sintéticos
Segurança em IA

Detectores de IA: como identificar textos, fotos e vídeos sintéticos

A crescente sofisticação da inteligência artificial torna cada vez mais difícil distinguir conteúdos gerados por máquinas de criações humanas. No entanto, diversas ferramentas surgem para auxiliar na detecção de textos, imagens e vídeos produzidos por IA, oferecendo um novo arsenal para verificar a autenticidade digital.

Canaltech
6min·8 de nov.
EUA acusam trio por golpe de US$ 129 milhões com IA e clonagem de voz
Segurança em IA

EUA acusam trio por golpe de US$ 129 milhões com IA e clonagem de voz

Três homens foram acusados nos Estados Unidos por orquestrar um esquema de fraude milionário, utilizando inteligência artificial para imitar vozes e imagens de executivos. O golpe, que movimentou cerca de 129 milhões de dólares, enganou funcionários de diversas empresas a realizar transferências bancárias fraudulentas.

The Next Web AI
5min·8 de nov.
IA Desencadeia 'Era Sombria' na Cibersegurança, Alerta Especialista
Segurança em IA

IA Desencadeia 'Era Sombria' na Cibersegurança, Alerta Especialista

A Inteligência Artificial está transformando o cenário da cibersegurança, impulsionando uma onda sem precedentes de ataques e violações. Especialistas alertam para uma "era sombria" enquanto a indústria tenta se adaptar a essa nova realidade. A capacidade da IA de automatizar a cadeia de ataque em tempo real é um divisor de águas.

The Verge AI
6min·7 de nov.
Ferramenta de hacking Artex exposta na web ameaça segurança digital
Segurança em IA

Ferramenta de hacking Artex exposta na web ameaça segurança digital

Centenas de cópias da ferramenta de hacking Artex, baseada em IA e de código aberto, foram encontradas publicamente expostas na internet. Essa vulnerabilidade permite que qualquer pessoa acesse e potencialmente utilize o software para lançar ciberataques, destacando falhas críticas na configuração de ferramentas poderosas.

TechCrunch AI
6min·7 de nov.
Rastreamento de Dados Essencial para Segurança na Era da IA Agente
Segurança em IA

Rastreamento de Dados Essencial para Segurança na Era da IA Agente

A ascensão da IA agente nos fluxos de trabalho empresariais exige uma nova abordagem de segurança. O rastreamento de dados, ou linhagem de dados, emerge como a chave para garantir visibilidade, governança e confiança, sem frear a inovação.

MIT Technology Review
5min·7 de nov.
Grab Aprimora Estabilidade de Apps com Defesa em Camadas contra Código IA
Segurança em IA

Grab Aprimora Estabilidade de Apps com Defesa em Camadas contra Código IA

A Grab, gigante de tecnologia, implementou uma estratégia de defesa em camadas para garantir a estabilidade de seus aplicativos móveis. A medida é uma resposta ao aumento de código gerado por inteligência artificial, que acelera o desenvolvimento, mas também eleva o risco de falhas.

InfoQ AI
6min·7 de nov.
Ataques cibernéticos em IA alteram o rumo de conversas longas
Segurança em IA

Ataques cibernéticos em IA alteram o rumo de conversas longas

Pesquisadores revelam que sistemas de diálogo baseados em IA podem ser manipulados por meio de envenenamento de dados. A nova técnica permite redirecionar interações de múltiplos turnos para alvos específicos definidos por invasores.

ArXiv CS.CL
4min·6 de nov.
OpenAI lança o GPT-6 Cyber para reforçar a segurança digital
Segurança em IA

OpenAI lança o GPT-6 Cyber para reforçar a segurança digital

A OpenAI apresentou o GPT-6 Cyber, um novo modelo especializado em identificar e corrigir falhas de segurança cibernética com maior precisão e alinhamento às regras dos pesquisadores.

OpenAI Blog
4min·5 de nov.
Sistemas de agentes de IA exigem arquitetura de confiança zero para produção
Segurança em IA

Sistemas de agentes de IA exigem arquitetura de confiança zero para produção

Advait Patel, especialista em segurança de nuvem, apresenta um guia prático para proteger agentes de IA em ambientes reais, movendo a defesa dos prompts para a camada de ferramentas e identidades.

InfoQ AI
4min·5 de nov.
Pangram Lança Modelos para Detectar Imagens e Vídeos Falsos por IA
Segurança em IA

Pangram Lança Modelos para Detectar Imagens e Vídeos Falsos por IA

A startup Pangram, conhecida por identificar textos gerados por inteligência artificial, expandiu suas ferramentas. Agora, a empresa oferece novos modelos capazes de detectar conteúdo falso em imagens e vídeos, prometendo alta precisão em seus testes.

The Next Web AI
6min·4 de nov.