IBM abandona biometria facial por discordar de usos da tecnologia

A gigante IBM anunciou nesta segunda-feira (8) que vai abandonar o desenvolvimento e o fornecimento de tecnologia de reconhecimento facial e de softwares de análise de rostos, além de encerrar qualquer pesquisa e desenvolvimento na área. A decisão foi divulgada em uma carta direcionada a alguns congressistas dos Estados Unidos.

O motivo? A companhia discorda de alguns dos usos atuais desses recursos, inclusive o emprego por forças policiais durante protestos. As práticas incluem "vigilância em massa, criação de perfil racial, violações de liberdades e direitos humanos básicos, ou qualquer outro propósito que não seja consistente com nossos valores e os Princípios de Confiança e Transparência", diz a empresa. Clientes com serviços ainda em andamento receberão suporte normalmente.

"Nós acreditamos que agora é a hora de começar um diálogo nacional sobre se e como tecnologias de reconhecimento facial devem ser empregadas por agências de aplicação da lei", diz a carta. A empresa ainda se coloca a disposição para ajudar na "busca por justiça e igualdade racial, focando inicialmente em três áreas políticas: reforma da polícia, uso responsável da tecnologia e maiores oportunidades educacionais e de habilidades". A carta completa pode ser conferida no site da IBM (em inglês).

Hora certa

A IBM já discute há algum tempo as questões éticas de utilização de um sistema artificial de identificação de pessoas, mas a decisão sai em meio a manifestações ao longo dos Estados Unidos pelo assassinato de George Floyd por um policial durante uma abordagem.

Estudos feitos em anos anteriores indicavam que algoritmos treinados com bancos de imagens e ordens humanas tornam-se enviesados e nada neutros com o tempo, o que pode levar a "falsos positivos" e incriminação de pessoas sem qualquer evidência.

Outras empresas têm refletido a respeito do tema para evitar o uso indiscriminado dessa tecnologia. A Microsoft já pediu a governos que regulamentem reconhecimento facial, enquanto o CEO da Google, Sundar Pichai, pediu no início de 2020 que governos da União Europeia restringissem o poder do setor. A Amazon, por outro lado, investe bastante no setor e tem sistemas até capazes de reconhecer medo. No Brasil, já tivemos casos de utilização bem sucedida dessas ferramentas durante o Carnaval, mas ela também já levou a polícia a cometer erros e deter inocentes.