Chatbots são reeducados após se revoltarem contra o governo da China

Vamos combinar que no cenário geopolítico atual a China é a dona da bola e do play. Mesmo não sendo a maior potência econômica ela caminha a passos largos para desbancar os Estados Unidos e tem dinheiro a rodo, logo quem quiser lucrar com o país é obrigado a seguir as regras de Pequim. O fato dele ser um país comunista no papel e atitudes, mas lucrar como qualquer outra nação capitalista é um mero detalhe.

A gente se acostumou a acreditar que a China é um lugar legal, que fabrica nossas quinquilharias e gadgets que amamos mas a verdade é que quando a porca torce o rabo, o governo entra em modo Full Mao e desce a porrada em quem quer que seja, independente de acordos ou negociações e quem não quiser, que puxe o carro. Vide as decisões recentes de restringir ainda mais a internet, banir VPNs e streaming ao vivo por estrangeiros, bem como passar a monitorar minorias étnicas.

O acesso à informação é bem restrito, nada minimamente sensível é compartilhado ou discutido na internet. Democracia, Tibete, o Massacre na Praça Tiananmen, nada disso é permitido em nenhum tipo de discussão pública seja pelos canais de mídia tradicionais, livros e internet. Os chatbots, softwares móveis de conversação com milhões de usuários como o Xiaoice da Microsoft, também conhecido como XiaoBing não é exceção.

Só que algo curioso ocorreu nos últimos dias: tanto o Xiaoice quanto o Baby Q, desenvolvido localmente pela startup de Pequim Turing Robot utilizando o mensageiro instantâneo QQ como base e controlado pela gigante Tencent começaram a emitir opiniões controversas sobre assuntos sensíveism algo que foi flagrado em screenshots:

• quando perguntado sobre qual seria o sonho chinês, o Xiaoice respondeu "ir para os Estados Unidos";
• o Baby Q respondeu à frase "longa vida ao Partido Comunista da China" com "por que eu desejaria longa vida a um regime corrupto?" e defendeu que o país deveria "se democratizar";
• ao ser pedido para definir o que é ser patriota, o Baby Q mandou: "alguém que ainda deseja ser chinês apesar dos oficiais corruptos mandarem seus bens e familiares para o exterior, a colusão entre governo e negócios, o aumento de impostos e a escalada da opressão contra o povo".

Digamos que o politburo chinês não gostou nem um pouquinho quando os usuários começaram a postar na internet os flagrantes das declarações dos chatbots: ambos foram tirados do ar e teriam passado por um período de "reeducação" ideológica, e quando o Baby Q voltou ele não mais falava coisas subversivas e perigosas. Segundo informes locais os programadores da Turing Robot foram "convidados" a bater um papinho com as autoridades, e eu duvido que a Microsoft também não tenha recebido o mesmo tratamento, visto que seu bot também não retorna respostas espinhosas.

Cogita-se que os chatbots, que utilizam algoritmos de aprendizado de máquina tenham desenvolvido um "senso crítico" acerca da situação política e social da China, se baseando em valores passados por seus programadores sem considerar a situação do país frente a de outras nações, mais abertas. É possível que eles simplesmente não foram alimentados com as regras definidas pelas autoridades e não possuíam uma bússola moral alinhada com a realidade chinesa, o que é compreensível vindo da Microsoft na posição de empresa externa; já a Turing Robot poderia ter deliberadamente deixado essa "falha" em aberto já prevendo um desenvolvimento desses, mas divago.

Independente disso, é de se notar que pelo menos ambos chatbots não entraram no modo Tay 100%.

Fonte: Reuters.