Comissão Europeia lança diretrizes éticas para a Inteligência Artificial

Ao que tudo indica, está chegando ao fim um cabo de guerra de nove meses entre os responsáveis pela elaboração das diretrizes européias para IA Ética.

A Comissão Europeia publicou nesta segunda-feira suas diretrizes para o desenvolvimento e a implementação de padrões éticos de Inteligência Artificial. O texto não é vinculante, mas deverá servir como um modelo para possíveis regras, assim que os legisladores europeus começarem a elaborá-las.

O documento "Ethics guidelines for thustworthy AI" estabelece que uma IA ética e confiável deve ser transparente, ter supervisão humana e algoritmos seguros e confiáveis, sujeitos a regras de privacidade e proteção de dados.

Entre os principais requisitos estão:

• Intervenção e supervisão humana: os sistemas de IA devem possibilitar sociedades equitativas, apoiando a ação humana e os direitos fundamentais, e não diminuir, limitar ou desorientar a autonomia humana.
• Robustez e segurança: a IA Confiável requer que os algoritmos sejam seguros, confiáveis ​​e robustos o suficiente para lidar com erros ou inconsistências durante todas as fases do ciclo de vida dos sistemas de IA.
• Privacidade e governança de dados: os cidadãos devem ter controle total sobre seus próprios dados, para que não sejam usados ​​para prejudicá-los ou discriminá-los.
• Transparência: a rastreabilidade dos sistemas de IA deve ser assegurada.
• Diversidade, não discriminação e equidade: os sistemas de IA devem considerar toda a gama de habilidades, habilidades e requisitos humanos e garantir a acessibilidade.
• Bem-estar social e ambiental: os sistemas de IA devem ser usados ​​para melhorar a mudança social positiva e aumentar a sustentabilidade e a responsabilidade ecológica.
• Prestação de contas: mecanismos devem ser colocados em prática para garantir a responsabilidade pelos sistemas de IA e seus resultados.

Depois de muito debate, a Comissão está adotando uma abordagem em três fases: (1) estabelecer os requisitos fundamentais para uma IA confiável; (2) lançar uma fase piloto de larga escala para feedback das partes interessadas; e (3) trabalhar na criação de consensos internacionais para uma IA centrada no homem.

Empresas e organizações podem se inscrever para o piloto, previsto para acontecer em junho, após o qual os especialistas analisarão os resultados e a Comissão decidirá sobre as próximas etapas.

Cabo de guerra
Janosch Delcker, correspondente de Inteligência Artificial do site "Politico.eu" tem acompanhado de perto o trabalho do High Level Expert Group on Artificial Intelligence (AI HLEG),  encarregado a elaboração do documento publicado hoje.

O grupo é formado por 52 membros e tem como seu presidente Pekka Ala-Pietilä, empreendedor de tecnologia e ex-presidente da Nokia. A maioria dos membros do AI HLEG é da academia e do mundo corporativo (IBM, Google, SAP, Santander, Bayer, etc). Há também representantes da sociedade civil, e  de alguns outros segmentos. "Desde o início, o tamanho do grupo, juntamente com as diferentes origens de seus membros, representou um desafio", comenta Delcker em um artigo recente.

"Os filósofos reclamaram que havia pouco conhecimento de ética no grupo. Os cientistas da computação achavam que estavam discutindo tecnologia com leigos, alguns dos quais tinham ideias erradas sobre o que a IA é capaz de fazer. E as autoridades do setor reclamaram de outras pessoas que, segundo eles, não tinham uma compreensão básica de como funciona uma economia de mercado", comenta o jornalista.

Ainda assim o grupo trabalhou para chegar a um consenso possível. Um primeiro rascunho foi publicado em dezembro do ano passado. Nele já não constavam palavras como "não-negociável" e  "limites".

"O grupo acabou apagando todas as menções sobre os riscos de longo prazo, que foram cuidadosamente redigidos, do documento porque a indústria temia que o público não pudesse lidar com isso e que isso destruiria os mercados para eles", disse a Delcker o professor de filosofia da Universidade de Mainz, Thomas Metzinger.

Versões preliminares obtidas pelo "Politico.eu" confirmam que aletas sobre os riscos de longo prazo foram gradualmente eliminados, mas outros membros disseram a Delcker que isso tinha menos a ver com preocupações de negócios e mais com dúvidas sobre sua plausibilidade, bem como preocupações legais.

"Discordamos em muitos tópicos – isso foi natural", disse Ala-Pietilä. "No fim conseguimos chegar a uma conclusão e encontrar um terreno comum que fundamenta uma base sólida … para construir as diretrizes de IA Ética que desejamos."

Próximos passos
Interessados em participar do piloto podem se inscrever desde já na European AI Alliance e receber uma notificação quando o teste for iniciado. Também podem interagir com membros do AI HLEG para tirar dúvidas.

O grupo irá apresentar detalhadamente o seu trabalho nesta terça-feira, 9 de abril, durante o terceiro Digital Day promovido em Bruxelas. 

No início de 2020, o AI HLEG analisará as listas de avaliação para os principais requisitos, com base no feedback recebido. Com base nesta revisão, a Comissão Europeia avaliará os resultados e proporá os próximos passos.

Além disso, para garantir o desenvolvimento ético da IA, a Comissão pretende lançar lançar um conjunto de redes de centros de excelência em investigação sobre IA até o Outono de 2019. E  iniciar a criação de redes de centros de inovação digital, além de, juntamente com os Estados Membros e as partes interessadas, iniciar discussões para desenvolver e implementar um modelo de compartilhamento de dados e fazer o melhor uso de espaços de dados comuns.

Por que tudo isso importa para nós?
Historicamente, o Brasil tem se inspirado nas diretivas europeias para proteção de dados. Certamente, os avanços ca Comissão Europeia em relação aos requisitos necessários ao desenvolvimento de uma IA Ética serão considerados na hora de nos debruçarmos sobre essa questão.