IPCA
0.01 Jun.2019
Topo
Blog Porta 23

Blog Porta 23

3 tópicos quentes em ética digital: design, dados e inteligência artificial

Cristina De Luca

2027-05-20T19:14:15

27/05/2019 14h15

De acordo com algumas projeções, as máquinas acionadas por Inteligência Artificial (IA) serão mais inteligentes que os humanos e capazes de projetar máquinas próprias dentro de alguns anos. Na opinião de muitos analistas, esse espectro, às vezes chamado General AI ou "explosão de inteligência", representa uma ameaça maior à humanidade do que um inverno nuclear, uma pandemia ou uma mudança climática.

Até hoje, os arautos do caos se contentaram com petições e cartas abertas assinadas por importantes cientistas. Mas suas recomendações não capturaram a atenção global, nem provocaram um movimento político.

Temos evitado falar sobre o apocalipse da IA. Por quê?

"Porque o desenvolvimento e a pesquisa das tecnologias transformadoras do mundo não foram [e continuam não sendo] cercados por estruturas morais, éticas ou de segurança", escreve Diane Francis, na The American Interest. "Isso aumenta a probabilidade de um desastre ocorrer, seja por prevaricação deliberada ou por acidente. Padrões globais exequíveis existem para tudo, desde engenharia e contabilidade até medicina e energia nuclear. Mas não para a pesquisa, o desenvolvimento de software, a biologia sintética, a engenharia genética, a IA ou os robôs, ainda que países individuais tenham começado a regulamentar essas tecnologias de forma independente", continua.

"As empresas de tecnologia não vão parar antes de se machucarem financeiramente", opina Oliver Reichenstein, fundador da iA, em entrevista à Giorgia Lombardo. "Muitas vezes parece que há uma expectativa de um novo especialista que diga a essas empresas como ser melhor e resolva seus dilemas éticos, logicamente, com um conjunto de regras algorítmicas. E então as corporações poderão decidir quais regras a seguir – ou não. Não faz sentido discutir ética, se, no final, tudo em que você acredita é dinheiro e poder, se tudo o que você está motivado a fazer é direcionado para aumentar sua base de usuários e seu ROI. Somente quando um escândalo acontecem e as empresas padecem financeiramente, elas começam a prometer que vão melhorar", completa.

Na opinião de Francis, se o mundo está a cinco, dez ou 20 anos da "explosão da inteligência" é irrelevante. Não há dúvida de que ela está chegando.

A crítica mais comum é a de que a ruptura é a atual palavra de ordem do Vale do Silício. As startups são otimizadas para abalar indústrias vulneráveis, em vez de avaliar o impacto social, legal e ético resultante desse movimento. O progresso em si é o critério; se segue em uma direção que vale a pena, às vezes é secundário.

Além da Inteligência Artificial, também a Internet das Coisas – a próxima onda de hiperconectividade que incorpora tecnologia em objetos do cotidiano – apresenta um novo conjunto de desafios éticos para a sociedade. Em breve, nossos espaços públicos e residências serão pontilhados com dispositivos conectados que podem ouvir cada palavra nossa ou coletar dados confidenciais sobre nosso peso, nossas vidas sexuais, nossas posses. O benefício pode ser fenomenal – mas o risco de abusos também.

O design é outro ponto de atenção. Oliver Reichenstein é um dos principais expoentes do movimento Digital Design Ethics, conceito que muitos já procuram disseminar e impulsionar.

Como o design digital impacta cada vez mais o modo como vivemos e trabalhamos, há cada vez mais a necessidade de os projetistas considerarem as conseqüências de suas decisões de design. Embora muitos designers e empresas sejam bem-intencionados, há também uma dissonância cognitiva entre boa intenção e subsequente impacto negativo.

Por princípio, o design ético dos sistemas digitais engloba um conjunto incrivelmente amplo de tópicos e disciplinas, extraindo profundamente de fora dos estreitos domínios técnicos tradicionalmente associados aos currículos de ciência da computação . Em um mundo no qual o software pode ser construído para fazer quase qualquer coisa que um programador possa imaginar, a verdadeira questão hoje não é o que podemos construir, mas o que devemos construir.

Na concepção de de Oliver, equipes de design devem exigir altos padrões éticos de si mesmas e de seus colegas. Conversas internas de desenvolvimento de produtos são onde as principais questões éticas são respondidas, intencionalmente ou não. Os designers devem estar ativos nessas conversas, defendendo as necessidades dos usuários, identificando áreas para pesquisas mais profundas e destacando as preocupações éticas, mesmo com o risco de impopularidade de curto prazo.

Os designers também devem se esforçar para dar aos produtos digitais um equilíbrio saudável. E ajudar os usuários a entender o que está acontecendo dentro dos produtos em que confiam. Só então os clientes podem fazer escolhas realmente informadas. De Lu Han, designer do Spotif, compartilha sua visão sobre a importância do Digital Design Ethics em um artigo recente, publicado no site do serviço de streaming.

Em seu novo livro "The AI ​​Advantage", o consultor sênior da Deloitte Analytics, Thomas H. Davenport, descreve três etapas da jornada que as empresas podem adotar para alcançar a plena utilização da IA: a da inteligência assistida, a da inteligência aumentada e a da inteligência autônoma.

A jornada dos estágios de inteligência assistida para aumentada, e depois para a inteligência totalmente autônoma é parte de uma tendência crescente em que as empresas se transformam em "organizações movidas por IA". Essa tendência também se refere a um compromisso sustentado de redesenhar os principais sistemas, processos e estratégias de negócios em torno da IA ​​e suas possibilidades.Seu objetivo final: uma organização alimentada por IA, na qual humanos e máquinas trabalham em conjunto em sistemas digitais projetados para aproveitar os insights baseados em dados.

Uma das questões que mais chama atenção é que, embora seja interessante criar tecnologia que precise de pouca intervenção humana, esse tipo de caixa preta pode ser um terreno fértil para comportamentos desonestos.

Sistemas de alto risco devem ser questionáveis, de modo que um usuário suficientemente motivado possa aprender sobre o que um sistema está fazendo, quais dados está recolhendo e para onde os dados vão. O sucesso das tecnologias conectadas é, em grande parte, baseado na confiança – permitir que os usuários levantem o capô tornará essa confiança mais fácil de ganhar.

Então, o que podemos fazer para tornar o design mais ético?

Bom, em novembro de 2018, John Knight, pesquisador da Aalto University ARTS, propôs 10 práticaas agrupadas no que chamou de Manifesto do Design Digital Ético.

Uma delas é passar a  ter um papel muito específico como guardião de dados pessoais. Não por acaso, o conceito e as abordagem de Privacy by Design (PbD) vêm ganhando força em todo o mundo.

O PbD é complementar à codificação segura, e tão importante quanto. Tecnologias revolucionárias como a IA, os modelos de Machine Learning e os dispositivos conectados à Internet das Coisas (IoT) exigem rigor, método, ferramentas, padrões e revisões regulares.

"Essas revisões são necessárias em todo o processo – desde a pesquisa e a concepção até o design, desenvolvimento, testes, implementação e revisões contínuas – e devem incluir serviços e fontes de dados de terceiros, código-fonte aberto e integração com serviços e produtos existentes", comenta Barbara Lawler, diretora de privacidade e ética de dados da Looker.

Segundo ela, saber onde estão seus dados e por que e com quem estão sendo compartilhados nunca foi tão crítico quanto agora, de uma perspectiva estratégica, operacional e de conformidade. Os dados precisam ser armazenados e gerenciados de maneira que sejam limpos e acessíveis para análise e aprendizado – para realmente resolver problemas de negócios em tempo real de forma mais eficiente, evitando vieses.

De fato, quase todas as questões de ética computacional, não importa quão elevadas ou abstratas, se resumem a três questões: de onde os dados vêm, o que pode ser feito com eles e se ele pode ser coletado ativa ou apenas passivamente.

"Em nosso mundo digital, todas as questões éticas são questões de ética nos dados", comenta o empreendedor Kalev Leetaru, colunista da Forbes.

Não surpreende que um relatório recente do Gartner tenha considerado a Ética e a Privacidade Digitais as principais tendências para 2019.

Mas o que isso significa para as organizações que querem passar de orientadas pela conformidade para a ética? Quais são as grandes coisas que acontecem em torno da privacidade e da ética? Onde estão acontecendo?

Eis aí questões que teremos que nos esforçar para responder de forma adequada!

Daqui para frente, em todo o mundo, debates acalorados sobre o impacto, a direção e as considerações dadas a esses tópicos devem se intensificar. Embora esses debates possam gerar histórias dramáticas na mídia, eles também podem descobrir caminhos que levem à fiscalização dos reguladores.

"A meu ver, um desses caminhos poderia levar a uma conformidade processual mais complexa e restritiva. O outro, e meu caminho preferido, combinaria regulamentos, direitos individuais, senso comum e ética de dados para uma abordagem mais equilibrada do século XXI", afirma Barbara Lawler.

Fecho com ela!

Sobre a autora

Cristina De Luca é jornalista especializada em ambiente de produção multiplataforma. É diretora da ION 89, startup de mídia com foco em transformação digital e disrupção. Foi diretora da área de conteúdo do portal Terra; editora-executiva da área de conteúdo da Globo.com; e editora-executiva da unidade de Novos Meios da Infoglobo, responsável pela criação e implantação do Globo Online. Foi colunista de tecnologia da Rádio CBN e editor-at-large das publicações do grupo IDG no Brasil. Master em Marketing pela PUC do Rio de Janeiro, é ganhadora do Prêmio Comunique-se em 2005, 2010 e 2014 na categoria Jornalista de Tecnologia.

Sobre o blog

Este blog, cujo nome faz referência à porta do protocolo Telnet, que é o protocolo de comunicação por texto sem criptografia, traz as informações mais relevantes sobre a economia digital.