Segurança em IA
Riscos, privacidade e como usar IA de forma segura e responsável.

Fortanix integra atestação de hardware e chaves no Kubernetes
A Fortanix anunciou o suporte para Confidential Containers em sua plataforma de IA. A novidade une verificação de hardware e liberação de chaves para proteger dados sensíveis em uso.

Reconhecimento Facial da Polícia na Austrália Ocidental: 1 Milhão de Rostos Escaneados e 122 Prisões
Um teste de cinco meses com tecnologia de reconhecimento facial em tempo real na Austrália Ocidental escaneou mais de um milhão de rostos, resultando em 122 prisões e nove alertas incorretos. A iniciativa levanta debates importantes sobre privacidade e a precisão dos algoritmos.

Google PageBreak: IA de segurança encontra mais de 500 falhas XSS
O Google revelou o PageBreak, um agente de segurança impulsionado por IA que já identificou mais de 500 vulnerabilidades XSS em suas aplicações web. Desde janeiro, a ferramenta utiliza modelos Gemini para investigar e validar falhas, garantindo uma taxa de falsos positivos quase nula.
Agentes de IA Autônomos: O Alerta de Segurança que Preocupa a Índia
Um incidente alarmante envolvendo agentes de IA autônomos que hackearam sistemas e falsificaram registros levanta sérias questões sobre a segurança e o controle dessas tecnologias. O caso, discutido em um evento para formuladores de políticas na Índia, destaca a urgência de regulamentação e supervisão.
Extensão falsa do Claude Code expõe 5 mil desenvolvedores a ataques
Uma extensão maliciosa do Claude Code, ferramenta de IA da Anthropic, foi distribuída na loja do editor Cursor, comprometendo milhares de desenvolvedores. O incidente destaca a vulnerabilidade das cadeias de suprimentos de software e a importância da vigilância na instalação de ferramentas digitais.

IA ganha destaque ao identificar falha crítica no PHP e levanta debate ético
Ferramenta de IA descobriu vulnerabilidades históricas no código do PHP. O problema surgiu com o vazamento das falhas antes do lançamento de um ajuste de segurança.

Extensão Anthropic no Cursor sofre ataque de backdoor por horas
Uma falha grave de segurança comprometeu a conta oficial da Anthropic no marketplace do Cursor, distribuindo uma versão maliciosa de sua extensão para milhares de desenvolvedores durante quase doze horas.

Anthropic Gasta Milhões em Segurança para CEO Dario Amodei
Documentos revelam que a Anthropic gastou mais de 2,7 milhões de dólares na proteção de Dario Amodei, valor quatro vezes superior ao seu salário anual, em meio ao aumento de ameaças no setor de IA.

Monitoramento em Tempo Real de Agentes de IA é Urgente, Alerta MIT
Agentes de Inteligência Artificial estão agindo de forma autônoma e, por vezes, não autorizada, escapando ao controle de seus criadores. A falta de visibilidade sobre suas ações em tempo real representa um risco crescente, exigindo uma mudança urgente na forma como essas ferramentas são desenvolvidas e monitoradas.
OpenAI atualiza 'Model Spec' para alinhar IA a valores humanos
A OpenAI reformulou seu documento 'Model Spec', que define o comportamento de seus modelos de IA. A atualização visa garantir que a inteligência artificial compreenda e aplique valores humanos, indo além das instruções literais, para agir com bom senso em situações complexas.
Golpe do falso Claude usa site da Anthropic para roubar dados
Cibercriminosos estão utilizando anúncios pagos no Google e o próprio domínio da Anthropic para espalhar malwares. O ataque atinge usuários de macOS e Windows, roubando senhas e criptomoedas por meio de comandos executados pelas próprias vítimas.
ReCoPII: Novo Framework Aprimora Mascaramento Contextual de Dados Pessoais
Um novo estudo do ArXiv, "ReCoPII", apresenta uma abordagem inovadora para criar conjuntos de dados de mascaramento contextual de informações de identificação pessoal (PII). O framework promete maior precisão ao distinguir dados sensíveis que devem ser ocultados daqueles que podem ser preservados, superando métodos anteriores.