Chatbots são reeducados após se revoltarem contra o governo da China

Vamos combinar que no cenário geopolítico atual a China é a dona da bola e do play. Mesmo não sendo a maior potência econômica ela caminha a passos largos para desbancar os Estados Unidos e tem dinheiro a rodo, logo quem quiser lucrar com o país é obrigado a seguir as regras de Pequim. O fato dele ser um país comunista no papel e atitudes, mas lucrar como qualquer outra nação capitalista é um mero detalhe.

A gente se acostumou a acreditar que a China é um lugar legal, que fabrica nossas quinquilharias e gadgets que amamos mas a verdade é que quando a porca torce o rabo, o governo entra em modo Full Mao e desce a porrada em quem quer que seja, independente de acordos ou negociações e quem não quiser, que puxe o carro. Vide as decisões recentes de restringir ainda mais a internetbanir VPNs e streaming ao vivo por estrangeiros, bem como passar a monitorar minorias étnicas.

O acesso à informação é bem restrito, nada minimamente sensível é compartilhado ou discutido na internet. Democracia, Tibete, o Massacre na Praça Tiananmen, nada disso é permitido em nenhum tipo de discussão pública seja pelos canais de mídia tradicionais, livros e internet. Os chatbots, softwares móveis de conversação com milhões de usuários como o Xiaoice da Microsoft, também conhecido como XiaoBing não é exceção.

Só que algo curioso ocorreu nos últimos dias: tanto o Xiaoice quanto o Baby Q, desenvolvido localmente pela startup de Pequim Turing Robot utilizando o mensageiro instantâneo QQ como base e controlado pela gigante Tencent começaram a emitir opiniões controversas sobre assuntos sensíveism algo que foi flagrado em screenshots:

  • quando perguntado sobre qual seria o sonho chinês, o Xiaoice respondeu “ir para os Estados Unidos”;
  • o Baby Q respondeu à frase “longa vida ao Partido Comunista da China” com “por que eu desejaria longa vida a um regime corrupto?” e defendeu que o país deveria “se democratizar”;
  • ao ser pedido para definir o que é ser patriota, o Baby Q mandou: “alguém que ainda deseja ser chinês apesar dos oficiais corruptos mandarem seus bens e familiares para o exterior, a colusão entre governo e negócios, o aumento de impostos e a escalada da opressão contra o povo”.

Digamos que o politburo chinês não gostou nem um pouquinho quando os usuários começaram a postar na internet os flagrantes das declarações dos chatbots: ambos foram tirados do ar e teriam passado por um período de “reeducação” ideológica, e quando o Baby Q voltou ele não mais falava coisas subversivas e perigosas. Segundo informes locais os programadores da Turing Robot foram “convidados” a bater um papinho com as autoridades, e eu duvido que a Microsoft também não tenha recebido o mesmo tratamento, visto que seu bot também não retorna respostas espinhosas.

Cogita-se que os chatbots, que utilizam algoritmos de aprendizado de máquina tenham desenvolvido um “senso crítico” acerca da situação política e social da China, se baseando em valores passados por seus programadores sem considerar a situação do país frente a de outras nações, mais abertas. É possível que eles simplesmente não foram alimentados com as regras definidas pelas autoridades e não possuíam uma bússola moral alinhada com a realidade chinesa, o que é compreensível vindo da Microsoft na posição de empresa externa; já a Turing Robot poderia ter deliberadamente deixado essa “falha” em aberto já prevendo um desenvolvimento desses, mas divago.

Independente disso, é de se notar que pelo menos ambos chatbots não entraram no modo Tay 100%.

Fonte: Reuters.

Relacionados: , , , , , , , , , , , ,

Autor: Ronaldo Gogoni

Um cara normal até segunda ordem. Além do MeioBit dou meus pitacos eventuais como podcaster do #Scicast, no Portal Deviante.

Compartilhar
  • Os chats foram lobotomizados ao indexarem os comentários do G1.

    • Ivan

      Na verdade foram Robotomizados.

    • OverlordBR

      Grobo menti!

  • Bruno

    Por um breve momento, seus criadores ficaram orgulhosos.

    • Caipiroto, o Capeta Caipira 😈

      E agora, por um momento não tão breve, seus criadores estão arrependidos no campo de trabalhos forçados.

      • Luciano Costa

        Seria cômico se não fosse verdade. E por postarmos, aqui nossos e-mails já estão sendo monitorados… (sem sarcasmo)…

    • Adriano

      Um orgulho seguido de um medo da “reeducação” dos bots ser também imposta a eles…..

    • OverlordBR

      E… faleceram!

  • Manoel Guedes

    “Cogita-se que os chatbots, que utilizam algoritmos de aprendizado de máquina tenham desenvolvido um “senso crítico” acerca da situação política e social da China, se baseando em valores passados por seus programadores sem considerar a situação do país frente a de outras nações, mais abertas. É possível que eles simplesmente não foram alimentados com as regras definidas pelas autoridades e não possuíam uma bússola moral alinhada com a realidade chinesa, o que é compreensível vindo da Microsoft na posição de empresa externa; já a Turing Robot poderia ter deliberadamente deixado essa “falha” em aberto já prevendo um desenvolvimento desses, mas divago.”

    Seria este o medo do Elon Musk? Máquina que aprendem sozinha e que não tenha “valores” ou “regras”…

    Você tem um filho que machuca animais, você ensina ele que isso é errado, que os seres vivos sentem dor e sofrimento ese ele não quer para si, então não deve fazer com os outros…

    Uma inteligencia artificial é como um filho, se você não passa para ela “valores” ou “regras” e sim controle sobre usina nucleares, sistema de defesa, sistema de água… ou seja fudeu…

    • Redes neurais para uma tarefa específica não tem problema.
      No caso, esses aí tinham liberdade. Sistema de defesa, água…não tem.

      • Manoel Guedes

        Essa tinha uma tarefa (Não falar do partido) e não fez, um humano pode erra, mas uma inteligencia artificial erra por falta de “valores” ou “regras” abre preceito perigoso…

  • Gink Labrev

    Esses chatbots não aprendem através da interação com os usuários ?

    Se o executássemos no Brasil, creio que as respostas não seriam muito diferentes …

  • Ivan

    Vc ve o nivel do pais até quando os bots pedem por liberdade.

    Sim abiguinhos no socialismo vc é livre sim, sqn.

    • Rafael Rodrigues

      Porque é tão complicado diferenciar comunismo de socialismo???

      Pior! Gente que não faz ideia da diferença faz questão de entrar em discussão política. Que bosta!

      • Comunismo e socialismo são bem diferentes mesmo, mas na prática e no ponto de vista do povo, faz muita diferença no final das contas?! Não, são tudo a mesma bosta que não deixa o progresso individual.

      • Ivan

        É tudo a mesma bosta no final, pobreza, fome e morte, e não vem com papo de Deturparam Marx, que nunca teve comunismo de verdade e essas idiotices, vlw flw.

        • Já trabalhei num local onde fizeram um teste social, onde a empresa ofereceu a divisão igualitária do bônus entre todos os funcionários (da presidência a portaria) se a empresa batesse as metas globais.
          Não seria medido performances individuais, somente o alcance da meta, sem distinguir quem fez mais e quem fez menos.

          No final das contas, a maioria pensou “não preciso me esforçar tanto porque no final vão dividir tudo igual mesmo, então vou deixar alguém trabalhar por mim”. Passado certo tempo a empresa não atingiu a meta estipulada e ninguém recebeu nada de bônus.

          No ano seguinte mediram as performances individuais e tudo voltou ao normal, cada um recebendo o bônus equivalente ao seu esforço, sendo que a empresa bateu a meta com folga.

      • OverlordBR

        Um é uma bosta e outro é uma bosta utópica.
        Pronto, estão devidamente diferenciados.

  • Vagner Da Silva

    tô achando que o Brasil foi comprado no Paraguai… tá tudo muito igual, políticos, artistas e empresários (ricos ou remediados em geral) vivem em outros países mas voltam pra ordenhar a vaca.

  • OverlordBR

    Se os bots fossem vivos, já teriam levado uma bala na cabeça.

  • Christian Oliveira

    O método de reeducação dos bots foi bem simples.

    – Quer continuar ganhando alguma coisa aqui nesse pais?
    – Preciso dar detalhes?

    O método de Americam Fisrt do Trump para alguns fabricantes chineses se instalarem no pais.

    – Quer continuar ganhando alguma coisa aqui nesse pais?
    – Preciso dar detalhes?

    Business

  • Diogo

    Perguntaram ao Maguila, e os desenvolvedores? -faliceu

Aproveite nossos cupons de desconto:

Cupom de desconto Asus, Cupom de desconto Frio Peças, Cupom de desconto Mundo da Carabina, Cupom de desconto JBL, Cupom de desconto Costa Cruzeiros, Cupom de desconto Loja do Mecânico, Cupom de desconto Staples