Meio Bit » Internet » Alemanha usa IA para caçar conteúdo pr0n no Twitter

Alemanha usa IA para caçar conteúdo pr0n no Twitter

Autoridades alemãs usam IAs para vasculhar Twitter e outros sites atrás de conteúdos pr0n, que menores podem acessar livremente

51 semanas atrás

O Twitter segue a máxima de que a Internet é para Pr0n, e mesmo a atual gestão não parece propensa (por enquanto) a restringir a publicação de conteúdo adulto na plataforma. Isso, claro, incomoda reguladores devido à facilidade de acesso por qualquer um, o que obviamente inclui menores de idade.

No passado, a Austrália propôs implementar reconhecimento facial para liberar sites pr0n, e o Reino Unido levantou a possibilidade de barrar tudo por padrão, deixando por conta do usuário solicitar o acesso. Não conseguiu implementar, óbvio, mas até chegar a essa conclusão, o governo torrou muita grana dos contribuintes.

App do Twitter no iPhone (Crédito: Ronaldo Gogoni/Meio Bit)

App do Twitter no iPhone (Crédito: Ronaldo Gogoni/Meio Bit)

A Alemanha agora deu um passo além, ao ir atrás dos usuários que compartilham material erótico na net, com pacote completo, multa, processo e até possibilidade de prisão. A parte interessante, as autoridades locais estão usando IAs para vasculhar sites e redes sociais, no que o Twitter é o alvo preferencial.

There is no pr0n fun in Germany

Tim e Julian Blesh, um casal de alemães que nos últimos 6 anos, publicavam com regularidade conteúdos de sua vida sexual no Twitter, paralelamente às suas vidas profissionais, foram surpreendidos ao serem contatados pela polícia de Berlim, no que eles foram incriminados por "compartilhar conteúdo pornográfico na internet de forma ilegal". A acusação era bem vaga, mas segundo um investigador, a situação não era um erro.

Na Alemanha, a criação e compartilhamento de conteúdo pr0n não é proibida, mas, por outro lado, todos os responsáveis são obrigados a fazerem por onde para bloquear o acesso a menores de idade, que não podem, em hipótese alguma, abrir um perfil do Twitter, um blog ou um site, erótico ou não, e dar de cara com A Vida Como Ela É, independente se estes estavam procurando por isso, ou não.

O caso dos Belsh não é exceção. Nas últimas semanas, as autoridades alemãs começaram a despachar intimações para modelos e criadores de conteúdo adulto na internet que estão no país, informando-os que, como suas plataformas de escolha (o Twitter, por exemplo) permitem que jovens acessem pr0n facilmente, bastando mentir que são adultos, a responsabilidade está sendo imputada também aos usuários, por não serem pró-ativos.

No caso dos Blesh, Tim disse ao site WIRED que conforme o investigador que lhes explicou a situação, a polícia possuía capturas de tela do perfil do casal no Twitter, e que identificou "a ausência de medidas" para impedir que menores vissem as fotos e vídeos que eles publicam. Eles agora enfrentam um processo que pode lhes render uma multa que segundo eles, pode chegar a "milhares de euros".

Anneke Plass, porta-voz e diretora de comunicações da Autoridade de Mídia de Berlim e Brandeburgo, explica que em dezembro de 2022, o órgão identificou 32 perfis de usuários que compartilharam pr0n de forma ilegal na net, e em março de 2023, mais 104 usuários foram rastreados. Todos foram enviados para a promotoria, que agora começou a despachar as autuações.

A empreitada se baseia em ações da Comissão para a Proteção de Menores na Mídia, que endossa a responsabilização de plataformas e usuários que compartilham pr0n em aberto na Alemanha. Em suma, você pode postar nudes na net no país, mas de nenhuma maneira pode deixar brechas que permitam menores acessarem as fotos.

Não na Alemanha (Crédito: Reprodução/acervo internet)

Não na Alemanha (Crédito: Reprodução/acervo internet)

Twitter vasculhado por IA

Como usuários estão sendo abordados difere bastante. Segundo Tim Blesh, pelo menos 10 perfis de conteúdo pr0n gay foram ou intimados diretamente pela polícia, ou receberam notificações do Twitter, dizendo que eles "infringiram leis" alemãs, e que teriam suas contas encerradas. Anneke Plass diz que os processos em sua maioria se resolvem com uma multa de 300 euros (~R$ 1692,36, cotação de 27/03/2023), mas a legislação prevê também e/ou uma pena de seis meses a um ano de prisão.

Mas como a polícia está encontrando esses usuários? As autoridades alemãs estão fazendo de uma IA chamada KIVI, desenvolvida especificamente para varrer o conteúdo de redes como Twitter, TikTok, YouTube, Telegram e mais, focando-se especificamente em postagens públicas. Se encontra um match com conteúdos considerados pr0n, e não identifica restrições de acesso voltadas a menores, o perfil é marcado para autuação.

Não é esta a primeira vez em que órgãos e autoridades alemães tentam atacar o usuário, como uma alternativa por não conseguirem bater de frente com Google, Twitter e cia. ltda. A diferença é que no caso de quase uma década atrás, a intimação se deu por que usuários acessavam pr0n em sites extra-oficiais, que compartilhavam (o fazem até hoje) conteúdo de sites fechados, sem cobrar nada.

O buraco envolvendo a Autoridade de Mídia de Berlim e Brandeburgo é mais embaixo. A organização vem sendo acusada de implementar uma agenda conservadora na Alemanha, incluindo tentativas de bloquear o DNS de sites pr0n, e forçar verificação de idade goela abaixo dos mesmos, tal qual os britânicos tentaram fazer.

Isso fica mais evidente ao analisar o caso da pesquisadora Madita Oeming, que usa seu perfil no Twitter como plataforma para promover educação sexual, especificamente focando no mercado comercial pr0n. Ela diz que recebeu duas notificações das autoridades alemãs em fevereiro de 2022, citando 20 "tweets problemáticos" que deveriam ser deletados, apenas como exemplo.

No fim, Oeming deu cabo de mais de 2 mil de suas postagens, e cita que a segunda carta a aconselhava a "contratar um profissional de proteção a menores", basicamente dizendo que seu perfil era uma ameaça a jovens, ainda que puramente acadêmico. A pesquisadora nunca postou nada explicitamente pr0n.

TikTok e Telegram proíbem o compartilhamento e postagem de material adulto em seus Termos de Serviço, mas todo mundo usa mesmo assim; já o Twitter nunca descreveu nada a respeito desse assunto, embora pratique o shadowbanning (redução de visibilidade, incluindo sumir com resultados nas buscas por nome do perfil) de contas que compartilham pr0n.

Asa Akira lendo um livro, because of reasons (Crédito: Reprodução/MindGeek)

Asa Akira lendo um livro, because of reasons (Crédito: Reprodução/MindGeek)

Resumindo, pode postar, mas saiba que não terá tanto alcance. Em geral, só quem sabe o username exato consegue encontrar essas contas, mas por não limitarem o acesso (por exemplo, trancar as contas e só liberarem o follow a usuários devidamente identificados - manualmente - como adultos), as autoridades alemãs consideram as autuações justificadas.

Claro que o curso mais correto seria a polícia bater na porta do Twitter, mas aí dá mais trabalho, até porque a rede social não mais possui representação na Europa, um dos vários motivos que levaram os reguladores europeus a ficarem ainda mais fulos com Elon Musk.

A ação da polícia e da Autoridade de Mídia de Berlim e Brandeburgo está tendo o resultado esperado: usuários que incrementam sua renda vendendo conteúdos pr0n no Twitter estão apagando contas e postagens, outros trancaram os perfis, com medo que até suas curtidas possam ser usadas contra eles.

Alguns paralisaram inclusive a publicação de materiais em sites fechados, como OnlyFans e outros, por medo de estarem sendo monitorados constantemente. E considerando que as intimações são vagas ao extremo, e a ação da polícia, é compreensível as pessoas estarem incertas sobre o que virá a seguir.

Fotne: WIRED

Leia mais sobre: , , .

relacionados


Comentários