Internet fecha o cerco em torno dos vídeos pr0n falsos de celebridades

A onda dos vídeos pr0n falsos de celebridades explodiu nos últimos dois meses, desde que um usuário do Reddit chamado deepfakes apresentou uma ferramenta que utiliza IA e redes neurais para mapear o rosto de uma pessoa e sincroniza-lo com o de outra, inserindo de forma bastante convincente um indivíduo em um vídeo em tempo real em situações irreais. E desnecessário dizer, ela foi massivamente utilizada para a criação de material educativo falso.

A prática de trocar um rosto por outro não é novidade, desde antes do Photoshop fazemos isso mas quando o negócio é vídeo, a qualidade nunca foi lá grande coisa. O que o software de deepfakes faz é utilizar algoritmos e aprendizado de máquina de modo a aprimorar cada vez mais suas habilidade de mapeamento, recortando o rosto de uma pessoa e colando sobre outra, apresentando um resultado se não perfeito, ao menos minimamente convincente. A baixa qualidade dos vídeos, que dependem de uma máquina razoável para a renderização ajuda a maquiar as imperfeições e o resultado engana muita gente. Segundo o próprio deepfakes, ele utilizou bibliotecas públicas como o TensorFlow do Google, de aprendizado de máquina e o Keras, de redes neurais e deep learning.

O processo original era complexo e manual, mas não demorou para outro usuário disponibilizar um app que automatiza todo o procedimento, deixando a criação de pr0ns falsos ao alcance de qualquer um. A internet então deitou e rolou, focando principalmente em criar vídeos adultos de atrizes de Hollywood e cantoras como Gal Gadot, Emma Watson, Daisy Ridley, Ariana Grande e Taylor Swift, e até a Michelle Obama entrou na roda.

Várias outras criações começaram a pipocar fora do eixo pr0n, e uma das mais populares e nefastas é a promessa de inserir o ator Nicolas Cage em todos os filmes já feitos:


Usersub — Nick Cage DeepFakes Movie Compilation

Claro que por se tratar de uma ferramenta nova não há leis específicas para o compartilhamento desse tipo de material, mas há um entendimento de que criar um vídeo adulto falso se enquadra como Revenge Pr0n, compartilhamento de material pornográfico não consensual e que os responsáveis, tanto deepfakes e outros desenvolvedores como a comunidade deveriam ser punidos no rigor da Lei. Foi o que o Discord fez, ao banir um grupo que compartilhava tais vídeos em sua plataforma.

Só que de uma semana para cá outros serviços e plataformas começaram a fazer o mesmo. O primeiro foi o Reddit, que baniu a comunidade inteira e passou a deletar todos os vídeos hospedados que tenham relação com a ferramenta de deepfakes, pr0n ou não (incluindo as brincadeiras com Nicolas Cage). O motivo, acredita-se é que além de Revenge Pr0n, tais obras possuem direitos autorais e na impossibilidade de punir os criadores, os processinhos de estúdios e indivíduos afetados começarão a chegar para os serviços e isso ninguém quer.

A seguir foi a fez do Gfycat, uma plataforma que hospeda GIFs começar a deletar em massa as animações relacionadas às obras pr0n do software; o Pornhub, um dos maiores sites pr0n que existe também deixou claro que tal qual o Discord, entende que os vídeos são Revenge Pr0n e que isso infringe seus Termos de Serviço, logo não irá tolerar tais obras em suas paragens.

O mais recente a entrar na briga foi o Twitter: não só a conta My Deepfakes, umas das principais ligadas ao software foi suspensa como a rede social passou a deletar sem dó todos os vídeos pr0n falsos. A posição oficial é que tal conteúdo é proibido por se enquadrar como  Revenge Pr0n e logo viola os Termos de Serviço, e que os usuários que compartilharem tais vídeos serão punidos com a suspensão de suas contas.

Como as plataformas estão fechando o cerco, deepfakes e agregados já estão se organizando para compartilhar suas obras em plataformas fechadas próprias (sem links; Google is your friend), mostrando que a perseguição a princípio só fará com que a distribuição mude, mas o material continuará sendo produzido. Claro, até os processinhos começarem a ser despachados e/ou as leis para criminalizar tal prática sejam elaboradas, o que não deve demorar.

Relacionados: , , , , , , , , , , , , , , ,

Autor: Ronaldo Gogoni

Profissional de TI auto-didata, blogueiro que acha que é jornalista e careca por opção. Autor do Meio Bit e Portal Deviante, podcaster/membro fundador/Mestre Ancião do SciCast e host/podcaster do Sala da Justiça.

Compartilhar

Aproveite nossos cupons de desconto:

Cupom de desconto Asus, Cupom de desconto Frio Peças, Cupom de desconto Mundo da Carabina, Cupom de desconto JBL, Cupom de desconto Costa Cruzeiros, Cupom de desconto Loja do Mecânico, Cupom de desconto Staples