No fim do mês passado, a decisão do Facebook de deixar no ar um vídeo falso da presidente da Câmara dos EUA, Nancy Pelosi, editado para fazê-la parecer sob efeito de alguns drinks a mais, gerou críticas depois que o conteúdo se tornou viral na plataforma. Agora, o próprio Mark Zuckerberg experimenta na pele as regras de suas plataformas para remoção de conteúdo, por conta de um deepfake publicado no Instagram no qual o CEO discursa sobre o imenso poder da rede social.

"Deepfake" é um técnica que faz uso da Inteligência Artificial para manipular imagens reais de alguém – muitas vezes celebridades – para fazê-las parecer dizer algo que nunca disseram.

Esta semana, dois artistas britânicos e uma empresa de publicidade criaram um deepfake do fundador do Facebook. Bill e Daniel Howe, em parceria com a empresa de publicidade Canny, mostram Mark Zuckerberg sentado diante de uma mesa, fazendo um discurso sinistro sobre manipulação de dados. A peça nem é tão convincente assim; a voz é confusa e faz com que Zuckerberg pareça ainda mais robótico do que o normal.

"Imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados, todos os seus segredos, suas vidas, seus futuros", diz Zuckerberg no vídeo. "Devo tudo isso a Specter. Spectre me mostrou que quem controla os dados controla o futuro."

O clipe original é parte de um vídeo de sete minutos de Zuckerberg, de 2017, no qual o CEO descreve a interferência da Rússia no Facebook.

O envio do deepfake para o Instagram foi uma tentativa de testar as ferramentas de moderação da empresa, embora o vídeo tenha sido originalmente produzido para uma exposição de arte no Reino Unido chamada Specter, que tem como objetivo mostrar "como nossos comportamentos são previsíveis e influenciados, tanto online quanto na cabine de votação". Deepfakes de Kim Kardashian e Donald Trump também fazem parte da exposição.

"Vamos tratar esse conteúdo da mesma maneira que tratamos todas as informações erradas no Instagram", têm dito à imprensa os porta-vozes do serviço. "Se os verificadores de fatos de terceiros o classificarem como falso, filtraremos as superfícies de recomendação do Instagram, como as páginas Explorar e as hashtags."

O checador de fatos Lead Stories chamou o vídeo de "arte", e classificou o conteúdo como sátira em um post. Os usuários verão uma etiqueta de aviso de que o vídeo não é real.

Segundo a CNet, esta não é a primeira vez que um vídeo falso de Zuckerberg é criado. Em 2018, o cineasta Andrew Oleck postou um vídeo no Facebook que mostrou o que parece ser Zuckerberg afirmando que estar excluindo a rede social, levando alguns usuários a pensar que era real, de acordo com o Gizmodo . O vídeo, intitulado "Um mundo sem o Facebook", foi visto mais de 32 milhões de vezes, mas atualmente já não está disponível. Versões dele, no entanto, ainda estão no Facebook e no YouTube.

Os artistas e a agência de publicidade juntaram dois assuntos em evidência: as regras de moderação de conteúdo do Facebook e demais serviços de propriedade da plataforma e os deepfakes. Legisladores americanos estão preocupados com o uso de deepfakes na eleição presidencial dos EUA em 2020.  Amanhã, quinta-feira, o Comitê de Inteligência da Câmara deve realizar uma audiência sobre mídia manipulada e " deepfakes ".