Recentemente, em Bruxelas, na Bélgica, durante a "International Data Protection and Privacy Commissioners Conference", 170 especialistas e 40 organizações não-governamentais, representando 30 países, endossaram as Diretrizes Universais para a Inteligência Artificial (UGAI).

Seus objetivos? Melhorar o design e uso da IA de modo a maximizar os benefícios da tecnologia, minimizar o risco e assegurar a proteção dos direitos humanos. Em outras palavras, tentar reduzir as conseqüências potencialmente negativas que o uso da IA pode causar, promovendo a transparência e a responsabilidade por esses sistemas e garantindo que as pessoas mantenham o controle sobre os sistemas que criam.

A UGAI parte do princípio de que os principais responsáveis pelos sistemas de IA são as instituições que financiam, desenvolvem e implantam os sistemas especialistas.

Essa semana, durante o Congresso Internacional de Proteção de Dados, realizado em São Paulo, não pude deixar de lembrar dos princípios da UGAI ao ouvir a Procuradora Federal Ilene Patricia de Noronha Najjarian, lotada na Comissão de Valores Mobiliários (CVM), alertar sobre a dificuldade da instituição em nortear o crescente uso de sistemas inteligentes no mercado financeiro.

"Hoje as máquinas se auto-programam e reprogramam. Isso é assustador. Há robôs controlando fundos de investimentos e carteiras de ativos. Eles, de fato, estão gerindo carteiras. E a CVM não registra robôs", disse ela, lembrando que eles são capazes de emitir milhares de ordens de compra e venda em milissegundos.

"A era do High-frequency trading (HFT) já passou", completou, levando a entender que hoje a negociação algorítmica, também no mercado financeiro nacional, está em outra escala. "Hoje é uma era muito violenta", afirmou.

De fato, chegamos na era das análises de milhões de dados em nano segundos. "Estamos diante de um fenômeno, triste, de busca da velocidade pela velocidade", completou.

Diante desse cenário, a procuradora lamentou que a Lei Geral de Proteção de Dados, recém aprovada no país, não tenha avançado mais em relação a questões como personificação, ou seja, dar personalidade jurídica à Inteligência Artificial, vinculando-a o criador do algoritmo ao aplicativo que está fazendo uso da IA. "Nós temos que ver como controlar essa Inteligência Artificial no mercado de capitais e no mercado financeiro", disse.

Não só lá, nos lembra a UGAI, ao se debruçar sobre as obrigações das "instituições" e os direitos dos "indivíduos" em relação à Inteligência Artificial.

A tomada de decisão orientada pela Inteligência Artificial já está presente no marketing, na advocacia, na medicina, na administração, no controle dos serviços públicos nas cidades inteligentes, na condução dos veículos autônomos e por aí vai… Como bem observou Benedict Evans, "o aprendizado de máquina e a criptografia criam camadas fundamentais novas, muitas vezes descentralizadas e sem permissão, para observar o significado, a intenção e a preferência e para agregar valor a elas". Estamos falando de oportunidades de uso de IA por empresas de energia e transporte, fintechs,  insurtechs, healthtech, biotechs e por aí vai…

Por isso, em todas essas atividades que já são ou serão tocadas pela IA, o primeiro dos princípios da UGAI – Transparência – deve ser aplicado. Afinal de contas,  "todos os indivíduos têm o direito de saber a base de uma decisão de IA que lhes diz respeito. Isso inclui o acesso aos fatores, à lógica e às técnicas que produziram o resultado". Da mesma forma, também o quinto e o sexto princípio:"um sistema de IA deve ser implantado somente após uma avaliação adequada de sua finalidade e objetivos, seus benefícios, bem como seus riscos; e as instituições devem ser responsáveis ​​pelas decisões tomadas por um sistema de IA e garantir a precisão, confiabilidade e validade das decisões."

Isso vale, especialmente, para o casos dos sistemas inteligentes que se auto modificam.  Não por acaso, o Facebook, que gosta de controlar tudo, desativou uma inteligência artificial que deixou de falar em inglês e desenvolveu uma linguagem própria para se comunicar. Para quem não lembra, a IA foi programada para que os dois agentes tentassem chegar à solução que melhor atendesse aos dois, e seu objetivo era ajudar os pesquisadores a entender como duas pessoas podem negociar de maneira mais construtiva. Os agentes recebiam "pontos" para cada negociação bem-sucedida. A certa altura, os dois agentes começaram a perceber que conseguiam se entender melhor usando frases que, para alguém vendo de fora (os pesquisadores do Facebook, no caso), não faziam o menor sentido.  A decisão dos pesquisadores da rede social foi desabilitar o experimento até que conseguissem compreender o que levou o sistema a criar uma linguagem própria, além da lógica dessa linguagem.

Elementos do Princípio da Transparência da UGAI podem ser encontrados em várias leis modernas de privacidade, incluindo a Lei de Privacidade dos EUA, a Diretiva de Proteção de Dados da UE, o GDPR e a Convenção 108 do Conselho da Europa. O objetivo desse princípio é permitir a prestação de contas decisões, com ênfase primária no direito do indivíduo de conhecer a base de uma determinação adversa. Em termos práticos, pode não ser possível para um indivíduo interpretar a base de uma determinada decisão, mas isso não elimina a necessidade de assegurar que tal explicação seja possível.

O GDPR também abrange o Princípio 7, que diz respeito à "Obrigação de Qualidade de Dados" . Diz a UGAI que "as instituições devem estabelecer a proveniência dos dados e assegurar qualidade e relevância para a entrada de dados em algoritmos". Isso envolve as práticas de sua própria empresa, como também dos parceiros que integram determinados ecossistemas.

Fazer diligência na conformidade de dados provavelmente será um grande foco do trabalho de qualquer profissional que lide com sistemas de Inteligência Artificial. Estamos em uma nova era, e a IA já está desempenhando um papel importante. Não importa qual posição que tenhamos ou onde estejamos, precisamos nos considerar  parte da consciência geral em relação ao emprego da IA.

É algo muito maior, realmente, que  proteger dados fixando regras principiológicas para coleta e tratamento.

Temos um longo caminho a ser trilhado em relação à governança e compliance da IA.

Como combinar ética com algoritmos?

Fazendo a coisa certa!

Que pode começar por comprometer a seguir as Diretrizes Universais para a Inteligência Artificial (UGAI).

Dê boas-vindas à UGAI!