App de iPhone e Android usa deepfake para inserir rostos em vídeos

O deepfake chegou ao ponto que todo mundo temia, o de recurso banalizado que até um leigo pode usar. Desta vez a bola está com um app chinês chamado Zao, disponível para iPhone e Android que só precisa de algumas fotos do usuários para colocar seus rostos em atores de vídeos e filmes.

• SRI desenvolvendo tecnologia contra DeepFakes
• Casa Branca divulga vídeo manipulado e decreta fim da verdade (que nunca existiu) na Internet

O Zao é um app restrito ao território chinês e até o momento, não está disponível nem na App Store ou na Google Play Store de outros países (vale lembrar que a loja do Google não está presente na China). No entanto, é possível conseguir o arquivo .apk para Android na internet, embora o aplicativo exija um número de telefone chinês para instalação.

A proposta do app é bastante simples, você só precisa enviar uma ou mais fotos e o Zao mapeia o seu rosto em uma cena, usando a tecnologia deepfake para isso. A ferramenta, que surgiu no fim de 2017 usa aprendizado de máquina e algoritmos inclusive do Google, como o Tensor Flow, para posicionar o rosto de uma pessoa no corpo de outra, sincronizando expressões faciais, movimento dos lábios, tudo.

Desnecessário dizer que o primeiro uso do deepfake foi para pr0n, com diversos exemplos de atrizes, cantoras e personalidades famosas mapeadas em cenas de vídeos adultos. A reação foi imediata, o Reddit baniu toda a qualquer referência ao recurso, bem como Twitter, Discord, Facebook e cia. limitada. Ainda que ele possa ser usado de outras formas, essencialmente o deepfake é visto hoje como uma ferramenta de Revenge Pron, com estudos inclusive sendo conduzidos para criminalizar seu uso.

Só que por mais que tentem impedir o deepfake de ser usado, a Caixa de Pandora foi aberta e não tem mais volta. De lá para cá ele só foi refinado e começaram a surgir soluções automatizadas, que dispensavam conhecimento prévio em programação e desenvolvimento; o usuário só precisa alimentar o programa com suas fotos, escolher um vídeo e o programa faz todo o trabalho pesado.

O Zao é o ápice da banalização do deepfake, ao disponibiliza-lo em celulares e ao alcance de qualquer um. O aplicativo é de fácil operação e, como não poderia ser diferente, se tornou uma febre na China. O desenvolvedor de jogos Allan Xia testou o app em duas ocasiões, mapeando seu rosto em Game of Thrones e em filmes estrelados por Leonardo DiCaprio.

Neste segundo caso, Xia diz que só precisou de uma foto sua e o Zao fez tudo em apenas 8 segundos.

Só que nem tudo é festa: a MoMo, desenvolvedora responsável pelo app exigia na primeira versão que os usuários enviassem suas fotos para seus servidores, com o uso do Zao estipulando uma "licença gratuita, irrevogável, permanente e intransferível" das mesmas. Em suma, o conteúdo gerado e as fotos dos usuários passavam a ser propriedade da empresa, que poderia usa-los como quisesse.

A reação foi a esperada: os usuários detonaram a avaliação do Zao na página da App Store, que acabou com uma nota geral de 1,9 de 5; a política de privacidade desde então foi revista, com a MoMo se comprometendo a não usar as fotos dos usuários a a deleta-las de seus servidores, caso o usuário o faça no app.

Caso parecido aconteceu com o FaceApp, aplicativo que envelhece as pessoas, graças à sua política de privacidade vaga e que permitiria em tese à desenvolvedora usar as imagens dos usuários como desejasse. Por causa disso e pela falta de posição de Apple e Google em não oferecerem Termos de Uso do app em português, o Procon-SP multou ambas empresas em até R$ 10 milhões.

Como o deepfake é muito mal visto no ocidente, as chances do Zao chegar por aqui são mínimas, mas nunca se sabe.

Com informações: The Verge.