E se a Inteligência Artificial puder identificar relações de causa e efeito

Na última semana, a comunidade de pesquisa da Inteligência Artificial se ​​reuniu em New Orleans para a International Conference on Learning Representations (ICLR, "eye-clear"). Este ano, segundo Karen Hao, repórter da MIT Tech Review, as palestras e artigos aceitos trataram de quatro grandes desafios do Deep Learning: fairness, robustness, generalizability, and causality (justiça, robustez, generalização e causalidade).

Karen lembra que os algoritmos de Machine Learning, em seu estado atual, são tendenciosos, suscetíveis a ataques e incrivelmente limitados em sua capacidade de generalizar os padrões encontrados em um conjunto de dados para treinamento. Agora, segundo ela, a comunidade de pesquisa está dedicada a atenuar essas fraquezas. E isso passa por tratar mais da questão da causalidade – um padrão de ouro que os pesquisadores têm perseguido já faz algum tempo.

Explico: o Machine Learning é ótimo para encontrar correlações nos dados, mas ele ainda não consegue lançar luz sobre as causas e os efeitos de diferentes fenômenos em sistemas complexos. O que poderia dar às máquinas habilidades cognitivas de alto nível e habilidades de raciocínio.

Hoje as máquinas ainda não conseguem responder perguntas do tipo "E se?", retrospectivas ou explicativas: "E se eu tivesse agido de forma diferente?" ou "E se meu vôo não tivesse chegado atrasado?". Tais questões não podem ser articuladas, muito menos respondidas por sistemas que operam no modo puramente estatístico, como acontece hoje com a maioria dos sistemas de Machine Learning.

Tanto o Machine quanto o Deep Learning avançaram muito no campo da inteligência analítica, a mais convencional, processual e reproduzível das inteligências humanas. Nada do que a IA faz hoje, incluindo a habilidade de aprender, a capacidade cognitiva, o processamento de linguagem natural, a visão computacional, avançam muito além da inteligência analítica.  Para fazer mais, é preciso superar algumas barreiras, como a questão da causalidade.

O pesquisador Léon Bottou, agora na unidade de pesquisa de Inteligência Artificial do Facebook,  foi um dos que tratou do tema na ICLR 2019, ao  apresentar uma nova maneira de pensar sobre a falta de compreensão das conexões de causa e efeito.

O impacto da causalidade nos modelos de IA também é tema de um artigo recente do cientista da computação e filósofo Judea Pearl, ganhador do Prêmio Turing em 2011 e criador das Redes Bayesianas.

Se você é líder de TI, cientista de dados ou cientista da computação, vale incluir na sua lista de leitura dos livros de Judea Pearl, "The Book of Why: The New Science of Cause and Effect" e  "Causality: Models, Reasoning and Inference".

Mas se não for da área, embora se interesse pelo tema, recomendo ler  o livro "Life 3.0: Being Human in the Age of Artificial Intelligence", de Max Tegmark, professor de Física no MIT, co-fundador do Future of Life Institute. No vídeo (de uma horinha) aí embaixo, ele comenta parte de suas teorias…