A polícia da Austrália Ocidental conduziu um programa piloto de cinco meses utilizando tecnologia de reconhecimento facial em tempo real, que escaneou impressionantes 1.380.882 rostos. O teste, que se encerrou recentemente, resultou em 122 prisões e nove alertas classificados como incorretos, segundo o The Guardian AI.
As implantações ocorreram em 100 ocasiões, abrangendo 43 localidades, tanto em áreas metropolitanas quanto regionais. Além das prisões, a tecnologia permitiu que os oficiais interagissem com 146 agressores sexuais registrados e localizassem 10 pessoas para verificações de bem-estar, demonstrando a amplitude de seu uso durante o período de avaliação.
Detalhes e Controvérsias do Programa Piloto
Durante o programa, a polícia utilizou vans de vigilância equipadas com câmeras que escaneavam rostos em áreas públicas designadas. As imagens eram comparadas com uma lista de alertas de bancos de dados policiais. Segundo a polícia, as imagens de pessoas não presentes na lista eram pixelizadas em tempo real e excluídas imediatamente, sem armazenamento, conforme relatado pelo The Guardian AI.
Um dos pontos de maior discussão foi a taxa de erro. A polícia da Austrália Ocidental afirmou que, dos mais de 1,38 milhão de escaneamentos, apenas nove alertas foram incorretos, o que representa uma taxa de erro de 0,00065%. O comissário de polícia, Col Blanch, enfatizou que, nesses casos de falsos positivos, ninguém foi preso e as interações foram semelhantes às que ocorreriam se um humano levantasse suspeitas.
No entanto, defensores das liberdades civis criticaram a forma como a taxa de erro foi apresentada. Bill Rowlings, diretor executivo da Civil Liberties Australia, argumentou que a taxa de incorreção deveria ser calculada com base no número de prisões que resultam em condenações. Ele sugeriu que, se metade das 122 prisões não levasse a condenações, a taxa de erro seria de 50%, questionando a validade dos quase 1,4 milhão de escaneamentos realizados sem suspeita razoável.
Preocupações com Privacidade e Viés Algorítmico
Desde o anúncio do programa piloto, houve uma crescente preocupação com a privacidade e o potencial viés algorítmico. O Gabinete do Comissário de Informação da Austrália Ocidental (OIC WA), órgão independente de privacidade, não esteve envolvido na implementação do teste e alertou sobre os “danos coletivos à privacidade”.
Especialistas apontam que a tecnologia de reconhecimento facial pode afetar desproporcionalmente grupos marginalizados, que já estão super-representados em listas de vigilância policial. Historicamente, algoritmos de reconhecimento facial têm apresentado taxas mais altas de falsos positivos para pessoas com tons de pele mais escuros, levantando questões sobre a equidade e a precisão da ferramenta em diferentes demografias. As vans de vigilância foram removidas do uso público enquanto uma avaliação interna é conduzida para analisar o desempenho da tecnologia e seus impactos na comunidade.
O que isso muda para você
Para os profissionais brasileiros, especialmente aqueles que atuam em tecnologia, direito ou políticas públicas, este caso da Austrália Ocidental serve como um estudo de caso crucial. Ele destaca a tensão entre a segurança pública e os direitos individuais à privacidade, um debate que certamente se intensificará à medida que a IA se torna mais presente em nossas cidades.
É fundamental acompanhar como as regulamentações e as discussões sobre ética em IA evoluem globalmente, pois isso pode influenciar diretamente o desenvolvimento e a implementação de tecnologias similares no Brasil. Profissionais de TI e desenvolvedores devem estar cientes dos vieses algorítmicos e da importância de criar sistemas mais justos e transparentes, enquanto advogados e legisladores precisam se preparar para os desafios legais e éticos que essas inovações trazem.
Um próximo passo concreto é participar ativamente dos debates sobre a regulamentação da IA no Brasil, seja por meio de associações de classe, grupos de estudo ou contribuindo para consultas públicas. Entender as implicações de tecnologias como o reconhecimento facial não é apenas uma questão técnica, mas uma responsabilidade cívica que moldará o futuro da nossa sociedade digital.

