Para o Discord, vídeos adultos falsos de celebridades criados por IA são Revenge Pr0n

Em dezembro a internet entrou em pânico quando um usuário do Reddit chamado “deepfakes” apresentou uma ferramenta maquiavélica, para dizer o mínimo: um software que faz uso de uma rede neural treinada para mapear o rosto de uma pessoa na cabeça de outra, e criar vídeos adequando a face inserida a todos os movimentos da fonte, quaisquer que sejam. E sem nenhuma surpresa o fez apresentando como uma evolução das antigas montagens pr0n de celebridades.

O sujeito originalmente criou uma série de vídeos para demonstrar a tecnologia, todos pr0n utilizando diversas atrizes de Hollywood em situações que nada condizem com suas carreiras, mas a técnica em si era complicada demais para leigos fazerem uso livremente da ferramenta: todo o procedimento era manual e é preciso ter um PC com uma GPU decente, no mínimo uma GTX 1050 da nVidia para realizar a renderização, além do fato de que a resolução final é bem baixa. Ainda assim, os resultados enganam muita gente.

Só que um outro usuário, não contente lançou neste mês uma interface amigável na forma de um app dedicado, que automatiza todo o processo e tira da mão do usuário a trabalheira para criar as “obras”, dispensando conhecimentos extensos em desenvolvimento e/ou programação. Ou melhor traduzindo, agora qualquer um com uma máquina minimamente decente é capaz de criar vídeos pr0n de qualquer pessoa que quiser.

Abaixo, um exemplo com o rosto da atriz Daisy Ridley no corpo de outra pessoa feito já com o app:

Já outro usuário sobrepôs o rosto do ator Bruno Ganz, que interpretou Adolf Hitler no filme A Queda sobre a cara do presidente argentino Mauricio Macri:


Z3ROCOOL22 — Adolf Hitler “Downfall Movie” to Mauricio Macri. (Faceswap Deeplearning)

A questão é como classificar tais obras. Há quem entenda que criar um vídeo falso de uma pessoa em uma situação constrangedora, no caso material adulto se enquadre como Revenge Pr0n e os responsáveis (criadores dos vídeos e mantenedores do software) devem ser processados como prevê a Lei nesses casos, mas como é um material primariamente falso e tal coisa sempre existiu na internet, muitos não vêem problema com isso. Só que o algoritmo de deepfakes é muito mais poderoso que uma foto photoshopada e pode muito bem enganar incautos.

É o que a Discord Inc., a companhia responsável pelo software homônimo para chat de texto, áudio e vídeo voltado gamers que deseja destronar o Skype entende. Na semana passada a empresa foi contactada pelo Business Insider sobre a existência de um servidor chamado “deepfakes”, dedicado ao compartilhamento dos vídeos pr0n falsos criados pelos usuários do software. A plataforma, que tem sérias dificuldades em sanitizar sua base instalada de usuários, graças à grande quantidade de grupos defensores de discursos de ódio foi um pouco mais pró-ativa desta vez, aniquilando o servidor citando violação dos Termos de Serviço, especificamente enquadrando o material como “pornografia não consensual”.

Agora que a Caixa de Pandora foi aberta é impossível voltar atrás, usuários sendo usuários não vão se limitar a fazer vídeos falsos de celebridades, mas também de pessoas comuns e não apenas em criações pr0n, usando a tecnologia para o mal de modo a prejudicar pessoas das mais diversas formas. A atitude do Discord, ainda que isolada pode levar a um entendimento comum que a simples criação desses vídeos falsos é uma violação da privacidade dos envolvidos e por isso, é Revenge Pr0n, tornando tanto os desenvolvedores quanto os usuários em criminosos e sujeitos à mão pesada da justiça, o que sendo sincero não deve demorar a acontecer.

O único porém é que isso não inibirá a criação de tais vídeos, pelo contrário.

Fonte: Business Insider.

Relacionados: , , , , , , , , ,

Autor: Ronaldo Gogoni

Profissional de TI auto-didata, blogueiro que acha que é jornalista e careca por opção. Autor do Meio Bit e Portal Deviante, podcaster/membro fundador/Mestre Ancião do SciCast e host/podcaster do Sala da Justiça.

Compartilhar

Aproveite nossos cupons de desconto:

Cupom de desconto Asus, Cupom de desconto Frio Peças, Cupom de desconto Mundo da Carabina, Cupom de desconto JBL, Cupom de desconto Costa Cruzeiros, Cupom de desconto Loja do Mecânico, Cupom de desconto Staples