E se São Francisco também limitar o uso comercial do reconhecimento facial?

O uso da tecnologia de reconhecimento facial tornou-se cada vez mais comum na segurança pública, apesar das muitas evidências de falsos positivos. Um estudo do MIT avaliou a exatidão dos algoritmos e encontrou mais falsos positivos entre mulheres e negros. Ele é citado por 10 entre 10 ativistas, que costumam advertir que, sem regras claras, a aplicação da tecnologia pode levar à prisão de inocentes, e à sua rejeição pela população. O maior temor é o de que ela coloque em risco os direitos civis e as liberdades individuais.

Esta semana, a cidade de São Francisco proibiu o uso de reconhecimento facial por seu governo. A decisão não teria nada de surpreendente, não fosse São Francisco a cidade mais obcecada pelo desenvolvimento tecnológico nos Estados Unidos. O decreto, que entra em vigor no próximo mês, só não se aplica às instalações controladas pelo governo federal americano, como o aeroporto internacional da cidade e seu porto.

Em São Francisco as autoridades estão proibidas de usar o reconhecimento facial  para identificar criminosos em eventos públicos de larga escala, como aconteceu em Salvador e no Rio de Janeiro durante o último Carnaval,  ou durante a Champions League, no ano passado, no Estádio Nacional de Gales.

Algumas questões sérias ainda precisam ser respondidas antes que as agências de segurança pública recebam sinal verde. Quais fontes de imagem são confiáveis ​​o suficiente para serem usadas para identificações – carteiras de habilitação? Fotos de identificação? As pessoas podem ser adicionadas ao banco de dados de imagens sem o seu conhecimento ou consentimento? Como o software deve ser testado? Quantos detalhes as agências precisam divulgar ao público sobre o uso da tecnologia?

Em todo o mundo, portanto, as incertezas quanto aos benefícios e os riscos pelo emprego de tecnologias de reconhecimento facial estão impulsionando  uma onda regulatória. No Brasil, por exemplo, a Câmara dos Deputados promoveu uma audiência pública em abril para debater o uso eficaz das ferramentas disponíveis por forças de segurança federais, estaduais e municipais. A intenção dos deputados é elaborar uma lei que ajude a evitar abusos.

Durante a audiência pública, o próprio representante do Gabinete de Segurança Institucional da Presidência da República, Felipe Soares, reconheceu que embora primordial para a identificação de suspeitos de crimes,  pessoas desaparecidas, contrabandistas e fugitivos, "é preciso deixar claro para a sociedade quem vai ser monitorado e por quê. Ou seja, a vigilância deve ser realizada a partir de rigorosos controles que deverão estar em lei".

E não só o uso policial do reconhecimento facial está na berlinda. Preocupa também o fato de algumas ferramentas para reconhecimento facial estarem amplamente disponíveis, serem baratas, e estarem sendo usadas sem muito critério, de forma pouco transparência. Lá nos Estados Unidos, a decisão da cidade de São Francisco reabriu esse debate. Ativistas não só esperam que outras cidades sigam o exemplo de São Francisco, proibindo o uso da tecnologia pela administração pública _ afinal, Brian Hofer, um do autores da portaria aprovada na última terça-feira pelo Conselho de Supervisores de São Francisco, já elaborou outras 26 leis de privacidade para cidades e condados da Califórnia _ como que seja estendida a iniciativas não governamentais, como a de uso de câmeras inteligentes presentes em prédios comerciais, escolas e lojas. "Esses usos vêm com os mesmos riscos de identificação incorreta e discriminação", comentam os ativistas,  mesmo admitindo que uma proibição total no setor privado seja improvável.

"Quando sua narrativa é sobre a 'vigilância do governo', isso tende a ter ressonância poderosa", diz Joseph Jerome, consultor político do Privacy & Data Project at the Center for Democracy and Technology. "Quando você está lidando com o setor privado, começamos a esbarrar em outras questões", como as que surgiram durante a discussão de uma lei de privacidade do estado de Washington que fracassou no início deste ano, segundo Jevan Hutson, pesquisador de políticas de tecnologia da Universidade de Washington.

As que geraram maior embate foram:

• Se as empresas escolherem usar a tecnologia de reconhecimento facial, como devem notificar os clientes?
• Que direitos as pessoas devem ter para recusar o uso de sua imagem e quão fácil deve ser esse processo?
• Os dados podem ser trocados ou vendidos a terceiros?

Os debatedores não conseguiram chegar a um acordo sobre a intensidade das restrições à privacidade.

Joseph Jerome acredita que ainda é muito cedo para dizer o quanto a lei de São Francisco influenciará a regulamentação comercial. "Acho que vai sumarizar o debate que os estados e o governo federal estão tendo em torno do reconhecimento facial, mas se isso levara à ação não está claro", diz ele, lembrando do que aconteceu com o debate sobre os drones há alguns anos atrás. "Muitas cidades locais restringiram seu uso de drones pelas forças de segurança, mas pouco fizeram para regulá-las para fins comerciais", disse.

Na prática, no entanto, restrições a usos comerciais do reconhecimento facial já começaram a aparecer, rebate Jennifer Lynch, diretora de contencioso de vigilância da Electronic Frontier Foundation. Por exemplo, uma lei em Illinois exige que as empresas obtenham o consentimento antes de coletar qualquer tipo de dado biométrico. E um projeto de lei bipartidário, bem mais restritivo, batizado de Commercial Facial Recognition Privacy Act, está atualmente em análise por comissões no Congresso americano.

Laura Noren, especialista em proteção de dados e vice-presidente de privacidade e confiança na Obsidian Security  acredita que as empresas buscarão um parâmetro, como  "limite de precisão",  para que o uso do reconhecimento facial seja autorizado legalmente, sempre que puderem comprovar que o grau de acuracidade do sistema se presta à aplicação proposta.

Nessa linha, ficou famosa a carta enviada a Jeff Bezos por funcionários da Amazon pedindo que o software de reconhecimento facial da empresa, muito bom para uso na Internet, não fosse vendido para clientes governamentais. Os próprios acionistas da Amazon solicitaram à empresa que parasse de vender o Rekognition, ao menos até que pudesse comprovar que ele "não contribuía para violações reais ou potenciais dos direitos humanos".

A proibição da venda da Rekognition para qualquer órgão ligado ao governo americano será analisada na assembléia anual de acionistas da Amazon, marcada para a próxima semana (dia 22 de maio).Tecnicamente, uma votação dos acionistas pela proibição do uso da tecnologia pode reforçar as alegações dos ativistas de que a tecnologia pode "pôr em perigo ou violar a privacidade ou os direitos civis e afetar desproporcionalmente pessoas de cor e imigrantes".

Além da Amazon, outros fornecedores de sistemas de reconhecimento facial têm tentado evitar o uso indevido da tecnologia. Um estudo da IBM recomenda levar em conta a diversidade nos rostos, visto que eles podem diferir em muitos pontos e aumentar a chance de erro. E a Microsoft publicou um documento no qual alerta para todos os riscos envolvidos. A maioria dessas empresas acredita que diretrizes éticas e a autorregulação podem resolver o problema.

Legisladores e empresas como a Microsoft têm pressionado principalmente por regulamentações que, entre outras coisas, exigirão sinalização clara para alertar as pessoas quando ferramentas de reconhecimento facial estiverem sendo usadas em público. No entanto, sem meios de se excluir da vigilância em um espaço público ou privado, exceto para deixar a área, a mera sinalização não oferece às pessoas uma escolha razoável. E sem um meio de sair de um sistema potencialmente tão poderoso, os seres humanos começam a capitular. É por isso que leis sérias e exequíveis, que possam impor restrições à aplicação do reconhecimento facial, são cruciais e essa discussão se tornou tão importante na atual conjuntura do desenvolvimento tecnológico, em que câmeras já são capazes de fotografar pessoas a 45 quilômetros de distância!

Particularmente, acredito que a  tecnologia de reconhecimento facial não deva ser proibida ou condenada por causa de seu potencial uso indevido. Nem autorregulada por seus fornecedores. Em vez disso, deve haver um diálogo aberto, honesto e sincero entre todas as partes envolvidas para garantir que a tecnologia seja aplicada de maneira apropriada e  continuamente aprimorada. Que seu emprego seja antecedido de ações que mitiguem riscos e prováveis malefícios.

Até por que, a opinião pública parece apoiar a tecnologia quando os benefícios são claros!

Até aqui, a maioria das soluções de reconhecimento facial, incluindo as já em uso no Brasil, como as da NEC, IBM, Huawei, Gemalto e Amazon, tem aumentado a confiabilidade e a segurança de sistemas empregados na aprovação de crédito, no processamento de pagamentos e até no controle de imigração nos aeroportos. Nesses casos, o reconhecimento facial agiliza processos, economiza tempo e evita filas.