IBM e responsável de IA da Google contra utilização de reconhecimento facial

Uma grande tecnológica disse que não à tecnologia de reconhecimento facial, acusada de ser tendenciosa perante tons de pele. Como estão os sistemas de reconhecimento facial pelo mundo?

 
O Shifter precisa de dinheiro para sobreviver.
Se achas importante o que fazemos, contribui aqui.

Há tecnologias cuja utilização está longe de ser consensual ou universalmente aceite, e o reconhecimento facial é uma delas. Autoridades e empresas usam-na para identificar suspeitos, vítimas e funcionários, comparando as imagens recolhidas por câmaras no local com registos do bilhete de identidade ou de bases de dados internas. Críticos, agora do lado empresarial, apontam que o reconhecimento facial pode enfraquecer o direito à privacidade, reforçar o viés conta a comunidade negra e ser utilizado para fins duvidosos.

Numa carta endereçada ao Congresso norte-americano, Arvind Krishna, director executivo da IBM, refere que vai deixar de oferecer software de reconhecimento e análise facial para propósitos genéricos, e que vai também deixar de investigar e desenvolver essa tecnologia.

A IBM opõe-se firmemente e não tolerará o uso de qualquer tecnologia [de reconhecimento facial], incluindo tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfis raciais, violações de direitos de humanos ou qualquer finalidade que não seja consistente com os nossos valores e Princípios de Confiança e Transparência”, refere Arvind Krishna na carta, endereçada no contexto das manifestações Black Lives Matter. “Acreditamos que agora é o tempo de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser aplicada pelas autoridades policiais do país.”

Segundo o chefe da IBM, indiano naturalizado norte-americano como outros líderes à frente das grandes tecnologias actualmente (como Sundar Pichai, director executivo da Google, e Satya Nadella, da Microsoft), “a tecnologia pode aumentar a transparência e ajudar a polícia a proteger as comunidades, mas não deve promover a discriminação ou a injustiça racial”. Em 2018, a IBM disponibilizou uma base de dados de imagens para ajudar no desenvolvimento de modelos de reconhecimento menos tendenciosos ao nível de raças, tons de pele e etnias; a iniciativa foi mais tarde criticada por usar fotos de utilizadores do Flickr sem o seu consentimento.

Investigadora da Google explica porque acha que a polícia não deve usar reconhecimento facial

Ao New York Times, Timnit Gebru, que lidera a equipa de inteligência artificial da Google, explica porque acredita que o reconhecimento facial é demasiado perigoso para ser usado pelas autoridades policiais. “Colaborei com Joy Buolamwini do MIT Media Lab, que liderou uma investigação na qual se descobriu disparidades muito altas nas taxas de erro , especialmente entre homens de pele mais clara e mulheres de pele mais escura. Em exames de melanoma, imagina que existe uma tecnologia de detecção que não funciona para pessoas com pele mais escura”, disse àquele jornal. O estudo pode ser lido aqui.

Timnit Gebru, uma mulher negra a morar nos EUA, conta que já “enfrentou sérias consequências de racismo” e teme que o reconhecimento facial seja usado contra a comunidade negra. “A polícia de Baltimore durante os protestos de Freddie Gray usou o reconhecimento facial para identificar manifestantes, através de imagens de perfis de redes sociais”, refere. “Outro problema é o chamado viés”, conta. “Se a tua intuição diz que a imagem não se parece com [Jim] Smith, [jogador britânico de futebol], mas o modelo de computador diz que é ele com 99% de precisão, é mais provável que acredites nesse modelo.”

A investigadora conclui: “[O reconhecimento facial] deve ser banido neste momento. Não sei quanto ao futuro.” E acrescenta também um ponto fulcral: “Muitas pessoas [que trabalham] em tecnologia têm a pressa de adoptar uma solução tecnológica sem ouvir quem trabalha com os líderes comunitários, a polícia e outros que propõem soluções para reformar a polícia.”

Em Portugal

Em Portugal, por exemplo, o Laboratório da Polícia Científica, que integra a Polícia Judiciária, usa reconhecimento facial no controlo de estrangeiros nos aeroportos e em investigação criminal, segundo uma reportagem do Diário de Notícias de 2018. Já este ano, o Aeroporto de Lisboa instalou uns pórticos especiais nas chegadas para voos vindos do Reino Unido, Estados Unidos, Canadá e Croácia; através de reconhecimento facial, esses pórticos servem para fazer um controlo automatizado de fronteira, reduzindo as filas de espera e assegurar um processo mais rápido e cómodo. De acordo com o Serviço de Estrangeiros e Fronteiras (SEF), o novo sistema vai permitir o processamento de 700 passageiros por hora e cerca de 30 voos por dia.

Já nas partidas, a VINCI, que gere o Aeroporto de Lisboa e outros espalhados pelo mundo, começou a testar na capital portuguesa um sistema baseado em reconhecimento facial e impressão digital que vai permitir aos passageiros passarem por todas as fases necessárias até ao embarque no avião sem terem de fazer paragens ou mostrar documentação.

Uma pesquisa feita pelo portal base.gov.pt por “reconhecimento facial”, como a que o blogue Tictank fez e o Shifter confirmou, permite encontrar diferentes aquisições desta tecnologia. O Serviço de Estrangeiros e Fronteiras (SEF) adquiriu desde 2009 licenças de um software de reconhecimento facial à Vision-Box por mais de 16 mil euros, a Câmara da Lousã contratou a empresa Idonic para gerir assiduidades por 5 mil euros em 2016; nesse mesmo ano, o Turismo de Portugal investiu cerca de 340 mil euros em 110 licenças à IBM portuguesa para instalação em casinos (mas em Maio de 2019 ainda não funcionavam).

Já a Câmara de Lisboa, no final de 2019, comprou uma dúzia de terminais de gestão de assiduidade com reconhecimento facial à Actuasys por cerca de 18 mil euros; o mesmo fez a Câmara de Ovar este ano à empresa Acitel por mais de 6 mil euros, a Associação de Paralisia Cerebral de Coimbra por 14 mil e a Câmara de Castelo de Paiva por 19 mil à empresa Projecttime; por fim, o Governo, através da sua Agência Para a Modernização Administrativa, adquiriu à Beyond Emotions “software de reconhecimento facial e detecção de vida” por 110 mil euros, que servirá para desenvolver um método de autenticação na aplicação Chave Móvel Digital, permitindo a qualquer cidadão português aceder a serviços públicos com a sua face.

Uma tecnologia controversa

Fora dos holofotes da regulação, tecnologia de reconhecimento facial tem vindo a evoluir, na última década, a par e passo dos avanços em inteligência artificial, tendo tornado-se ao mesmo tempo também mais acessível. Contudo, como referido no início deste artigo, o reconhecimento facial por mais desenvolvido que esteja pode levantar questões pertinentes do ponto de vista racial e étnico, tornando-se uma tecnologia desadequada do ponto de vista da segurança e das autoridades policiais.

Em Dezembro de 2019, um estudo do Instituto Nacional de Normas e Tecnologia norte-americano descobriu “evidências empíricas” de que a maioria dos algoritmos de reconhecimento facial avaliados são tendenciosos ao nível de idade e etnia. Já em 2018, o Rekognition, a tecnologia da Amazon utilizada pelas autoridades norte-americanas, identificou incorrectamente 28 membros do Congresso numa base de dados de 25 mil registos fotográficos públicos. Já no início deste ano, soube-se que a Clearview AI, uma empresa privada, construiu uma base de dados com mais de 3 mil milhões de imagens de redes sociais e plataformas online, sem consentimento dos utilizadores, e mais de 600 departamentos de polícia dos EUA já usam a sua tecnologia de reconhecimento facial. Também em Janeiro o Facebook foi obrigado a pagar 550 milhões de dólares num caso de mau uso do seu sistema de reconhecimento facial que remonta a 2015.

Recentemente, a organização sem fins lucrativos Electronic Frontier Foundation conseguiu suspender um sistema usado por mais de 30 entidades na região de São Diego, nos EUA. O programa em causa chamava-se Tactical Identification System (TACIDS) e disponibilizou mais de 1300 telemóveis e tablets equipados com software de reconhecimento facial a autoridades locais, estatais e federais; entre 2016 e 2018, os agentes realizaram mais de 65 mil verificações com os equipamentos. Em 2019, na região de São Francisco, o coração tecnológico dos EUA, decidiu proibir a polícia de usar qualquer sistema de reconhecimento facial. Neste mapa é possível saber onde mais é que esta tecnologia foi banida.

Entretanto, na Índia, desenvolve-se um dos maiores programas do mundo de vigilância por reconhecimento facial e na China investe-se nessa área com a ajuda do Banco Mundial.

Se não conseguirmos aumentar o número de patronos, a 2ª edição da revista será a última, e o Shifter como o conheces terminará no final de Dezembro. O teu apoio é fundamental!