Americanos dão o primeiro passo para regulamentar a Inteligência Artificial

Esta semana, legisladores norte-americanos apresentaram um novo projeto de lei que já vem sendo considerado como um dos primeiros grandes esforços federais para regulamentar a Inteligência Artificial nos Estados Unidos.  Alguns governos locais fizeram suas próprias tentativas de regulamentar a tomada de decisão automatizada. A Câmara de Nova York tornou-se a primeira legislatura dos EUA a aprovar uma lei de transparência algorítmica em 2017, e o estado de Washington realizou audiências para uma medida semelhante em fevereiro deste ano.

Chamado de Algorithmic Accountability Act, a lei proposta exige que as grandes empresas auditem seus sistemas de Machine Learning quanto a preconceitos e discriminação e tomem medidas corretivas em tempo hábil se tais problemas forem identificados. Outra exigência é a de que essas empresas auditem todos os processos de aprendizado de máquina que envolvam dados confidenciais – incluindo informações de identificação pessoal, biométricas e genéticas – quanto aos riscos de privacidade e segurança.

Seus dispositivos destinam-se sobretudo às grandes empresas com acesso a grandes quantidades de informações.  Traduzindo, empresas que ganham mais de US $ 50 milhões por ano, mantêm informações sobre pelo menos 1 milhão de pessoas ou dispositivos ou agem principalmente como corretores de dados que compram e vendem dados de consumidores.

O poder regulatório será da Comissão Federal de Comércio dos EUA (a FTC),  encarregada também das proteções do consumidor e das regulamentações antitruste.

"Ao exigir que as grandes empresas não façam vista grossa a impactos não intencionais de seus sistemas automatizados, a Algorithmic Accountability Act garante que as tecnologias do século 21 sejam ferramentas de capacitação, em vez de marginalização, ao mesmo tempo que reforçam a segurança e privacidade de todos os consumidores",  disse ao TechCrunch a deputada democrata Yvette Clarke.

O  PL integra uma estratégia maior para levar a supervisão regulatória a qualquer processo e produto de IA no futuro. A intenção é atacar em várias frentes, diz Mutale Nkonde, pesquisador do instituto Data & Society.

Embora os EUA não estejam sozinhos  – o Reino Unido, a França, e a Austrália, entre outros países, também já propuseram ou aprovaram legislações semelhantes para responsabilizar as empresas de tecnologia por seus algoritmos, e a União Europeia acabou de apresentar suas diretrizes iniciais para uma IA Ética – o país tem uma oportunidade única de moldar o impacto global da IA a partir do Vale do Silício.

A ver.

O problema
Uma das muitas maneiras pela quais a IA pode causar danos é permitir que os algoritmos reflitam os vieses humanos. É vital para qualquer pessoa envolvida no treinamento de programas de IA considerar o quão representativos são os dados de treinamento, por exemplo. Algoritmos não se tornam tendenciosos por conta própria – eles aprendem com os dados que usamos para treiná-los.  Os professores Danilo Doneda, Laura Schertel e Carlos Affonso se debruçaram sobre essa questão no artigo "Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal".

Vieses ocultos, difíceis de serem identificados, são os mais problemáticos. Digamos que um banco imaginário tenha removido dados sobre gênero e raça de seu modelo de IA, mas tenha deixado os CEPs . Essa simples informação poderia levar os algoritmos do banco a produzir predições tendenciosas discriminando correntistas em função dos bairros onde moram.

O grupo Partnership on AI tem trabalhado no sentido de evitar que isso aconteça. Outro grupo, denominado EPIC, defende a transparência algorítmica, que pode reduzir o preconceito e ajudar a garantir a justiça na tomada de decisões automatizada.  Tempos atrás, o EPIC instou o Congresso Americano a exigir "Avaliações de Equidade Algorítmica" antes de serem adotadas ferramentas de decisão automatizadas. No ano passado, a EPIC propôs suas Diretrizes Universais para Inteligência Artificial,  endossadas por mais de 250 especialistas e 60 organizações em 40 países, como base para a legislações federais.

Até o Fórum Econômico Mundial (WEF, na sigla em inglês) está preocupado. Quer saber como poderemos ensinar uma máquina a "pensar" eticamente. 

Na opinião do WEF,  três estratégias podem ser adotadas por qualquer um que esteja construindo sistemas de IA: