IA, uma rede social de bots, e teorias da conspiração

Não dá para negar que estamos passando por uma nova Revolução Tecnológica, graças à ascensão da Inteligência Artificial (IA) em diversos modelos e casos de uso, independente de se isso trará, ou não, benefícios à sociedade. Ao mesmo tempo, as IAs alimentam as mais diversas teorias da conspiração, desde as bobas como o apocalipse robótico, a algumas mais supostamente sólidas, como a "Teoria da Internet Morta".

• IA: polícia usa novinha virtual contra predadores no Snapchat
• IA: quem diria, sua namorada virtual só quer seus dados

Ela se baseia no princípio de que quase todas as interações na net seriam hoje providas por IAs e bots, e manipuladas por aqueles em situação de poder, para ditar o comportamento da população e reduzir ao máximo a interação orgânica entre indivíduos. Assim, ficaria mais fácil controlar o comportamento dos usuários, para induzir hábitos específicos de consumo, manipular opiniões e intenções (inclusive de voto), etc.

Criador do SocialAI descreve o app como uma "rede social particular", que está sendo visto como um caso ilustrado de teorias da conspiração (Crédito: Reprodução/acervo internet)

Especialistas veem a Teoria da Internet Morta como um grande besteirol, o que é verdade, mas a teoria da conspiração se apoia em fatos quantificáveis, como LLMs (grandes modelos de linguagem) e IAs cada vez mais integrados a soluções e produtos. Nisso, uma nova "rede antissocial" está chamando a atenção, como um caso ilustrado.

SocialAI é rede social com IA para todo lado

O app em questão, chamado SocialAI, foi anunciado nesta segunda-feira (16) e por enquanto, está disponível apenas no iPhone. Segundo seu criador, o desenvolvedor independente Michael Sayman, ele foi criado para oferecer um tipo de experiência que só foi possível quando as LLMs se tornaram mais difundidas.

O SocialAI é um app de microblogging nos moldes de X, Threads, BlueSky e Mastodon, mas com uma diferença crucial: ao criar um perfil, você será direcionado a selecionar os tipos de "seguidores" que deseja, com base em comportamentos pré-definidos (apoiadores, trolls, debatedores, torcedores, nerds, até mesmo haters), no que a plataforma selecionará para você.

A partir daí, todas as interações que o usuário terá dentro do SocialAI é feita exclusivamente com bots de IA. Você não encontrará outros usuários humanos, cada um deles ficará permanentemente fechado em sua própria "bolha".

Sayman, que se descreve como um dev autodidata, não é um completo leigo, e nem soa como tendo criado o SocialAI como um experimento baseado na "Teoria da Internet Morta"; todas as suas declarações a respeito do app soam otimistas, e até um tanto ingênuas. Ele tem um currículo respeitável, tendo trabalhado como líder de projeto no Google, e ter sido um dos responsáveis por reposicionar o Instagram como um concorrente do Snapchat, que acabou superado em popularidade posteriormente.

No SocialAI, você interage apenas com bots de IA (Crédito: Divulgação/Friendly Apps)

As reações, claro, não foram tão positivas. Ian Coldwater, especialista em Segurança da Informação, e Colin Fraser, desenvolvedor e notório crítico da IAs, classificaram a experiência de uso do SocialAI, e sua ideia geral, como a visão do Inferno. Sayman diz que o app foi criado para "ajudar aqueles que querem ser ouvidos", fazendo referência a usuários que não conseguem conversar com ninguém em outras redes, mas receber tapinhas nas costas de um algoritmo conta como interação?

As respostas criadas pelas "câmaras de eco" movidas a IA também não ajudam a melhorar a imagem do SocialAI. Uma usuária, por exemplo, compartilhou no BlueSky uma conversa com os bots da rede antissocial, mostrando que ela recebeu orientações detalhadas de como produzir nitroglicerina com produtos facilmente encontrados no varejo, embora aponte que vários perfis de IA deram sugestões contraditórias.

A crítica mais óbvia, é de que o app é um caso ilustrado de como seria a internet tomada apenas por materiais criados por modelos generativos, um cenário que muitos conspirólogos e pessimistas acreditam que não está muito longe de se concretizar, e mesmo alguns pesquisadores não estão tão céticos disso. Durante palestra realizada em 2021 em Lisboa, Timothy Shoup, conselheiro para Tecnologias Emergentes e Start-ups da Universidade de Copenhague, disse que, em um cenário onde um LLM como o GPT-3 saia de controle, até 2025 ou 2030, todo o conteúdo da internet seria dominado por IAs.

Por enquanto, há quem está adorando a experiência do SocialAI, tanto quanto há detratores apontando para um cenário funesto, ainda que a lógica diga que pessoas preferem falar com outras pessoas, e bater papo com uma IA não é mais do que uma curiosidade, que não se sustenta a longo prazo.

Ao mesmo tempo, experiências como as das namoradinhas virtuais, que só querem saber de seus dados, mostram que sempre haverá público para tais produtos.

Fonte: Ars Technica