Chatbots são reeducados após se revoltarem contra o governo da China

Vamos combinar que no cenário geopolítico atual a China é a dona da bola e do play. Mesmo não sendo a maior potência econômica ela caminha a passos largos para desbancar os Estados Unidos e tem dinheiro a rodo, logo quem quiser lucrar com o país é obrigado a seguir as regras de Pequim. O fato dele ser um país comunista no papel e atitudes, mas lucrar como qualquer outra nação capitalista é um mero detalhe.

A gente se acostumou a acreditar que a China é um lugar legal, que fabrica nossas quinquilharias e gadgets que amamos mas a verdade é que quando a porca torce o rabo, o governo entra em modo Full Mao e desce a porrada em quem quer que seja, independente de acordos ou negociações e quem não quiser, que puxe o carro. Vide as decisões recentes de restringir ainda mais a internetbanir VPNs e streaming ao vivo por estrangeiros, bem como passar a monitorar minorias étnicas.

O acesso à informação é bem restrito, nada minimamente sensível é compartilhado ou discutido na internet. Democracia, Tibete, o Massacre na Praça Tiananmen, nada disso é permitido em nenhum tipo de discussão pública seja pelos canais de mídia tradicionais, livros e internet. Os chatbots, softwares móveis de conversação com milhões de usuários como o Xiaoice da Microsoft, também conhecido como XiaoBing não é exceção.

Só que algo curioso ocorreu nos últimos dias: tanto o Xiaoice quanto o Baby Q, desenvolvido localmente pela startup de Pequim Turing Robot utilizando o mensageiro instantâneo QQ como base e controlado pela gigante Tencent começaram a emitir opiniões controversas sobre assuntos sensíveism algo que foi flagrado em screenshots:

  • quando perguntado sobre qual seria o sonho chinês, o Xiaoice respondeu “ir para os Estados Unidos”;
  • o Baby Q respondeu à frase “longa vida ao Partido Comunista da China” com “por que eu desejaria longa vida a um regime corrupto?” e defendeu que o país deveria “se democratizar”;
  • ao ser pedido para definir o que é ser patriota, o Baby Q mandou: “alguém que ainda deseja ser chinês apesar dos oficiais corruptos mandarem seus bens e familiares para o exterior, a colusão entre governo e negócios, o aumento de impostos e a escalada da opressão contra o povo”.

Digamos que o politburo chinês não gostou nem um pouquinho quando os usuários começaram a postar na internet os flagrantes das declarações dos chatbots: ambos foram tirados do ar e teriam passado por um período de “reeducação” ideológica, e quando o Baby Q voltou ele não mais falava coisas subversivas e perigosas. Segundo informes locais os programadores da Turing Robot foram “convidados” a bater um papinho com as autoridades, e eu duvido que a Microsoft também não tenha recebido o mesmo tratamento, visto que seu bot também não retorna respostas espinhosas.

Cogita-se que os chatbots, que utilizam algoritmos de aprendizado de máquina tenham desenvolvido um “senso crítico” acerca da situação política e social da China, se baseando em valores passados por seus programadores sem considerar a situação do país frente a de outras nações, mais abertas. É possível que eles simplesmente não foram alimentados com as regras definidas pelas autoridades e não possuíam uma bússola moral alinhada com a realidade chinesa, o que é compreensível vindo da Microsoft na posição de empresa externa; já a Turing Robot poderia ter deliberadamente deixado essa “falha” em aberto já prevendo um desenvolvimento desses, mas divago.

Independente disso, é de se notar que pelo menos ambos chatbots não entraram no modo Tay 100%.

Fonte: Reuters.

Relacionados: , , , , , , , , , , , ,

Autor: Ronaldo Gogoni

Um cara normal até segunda ordem. Além do MeioBit dou meus pitacos eventuais como podcaster do #Scicast, no Portal Deviante.

Compartilhar
  • Os chats foram lobotomizados ao indexarem os comentários do G1.

    • Ivan

      Na verdade foram Robotomizados.

    • OverlordBR

      Grobo menti!

  • Bruno

    Por um breve momento, seus criadores ficaram orgulhosos.

    • Caipiroto, o Capeta Caipira 😈

      E agora, por um momento não tão breve, seus criadores estão arrependidos no campo de trabalhos forçados.

      • Luciano Costa

        Seria cômico se não fosse verdade. E por postarmos, aqui nossos e-mails já estão sendo monitorados… (sem sarcasmo)…

    • Adriano

      Um orgulho seguido de um medo da “reeducação” dos bots ser também imposta a eles…..

    • OverlordBR

      E… faleceram!

  • Manoel Guedes

    “Cogita-se que os chatbots, que utilizam algoritmos de aprendizado de máquina tenham desenvolvido um “senso crítico” acerca da situação política e social da China, se baseando em valores passados por seus programadores sem considerar a situação do país frente a de outras nações, mais abertas. É possível que eles simplesmente não foram alimentados com as regras definidas pelas autoridades e não possuíam uma bússola moral alinhada com a realidade chinesa, o que é compreensível vindo da Microsoft na posição de empresa externa; já a Turing Robot poderia ter deliberadamente deixado essa “falha” em aberto já prevendo um desenvolvimento desses, mas divago.”

    Seria este o medo do Elon Musk? Máquina que aprendem sozinha e que não tenha “valores” ou “regras”…

    Você tem um filho que machuca animais, você ensina ele que isso é errado, que os seres vivos sentem dor e sofrimento ese ele não quer para si, então não deve fazer com os outros…

    Uma inteligencia artificial é como um filho, se você não passa para ela “valores” ou “regras” e sim controle sobre usina nucleares, sistema de defesa, sistema de água… ou seja fudeu…

    • Redes neurais para uma tarefa específica não tem problema.
      No caso, esses aí tinham liberdade. Sistema de defesa, água…não tem.

      • Manoel Guedes

        Essa tinha uma tarefa (Não falar do partido) e não fez, um humano pode erra, mas uma inteligencia artificial erra por falta de “valores” ou “regras” abre preceito perigoso…

  • Gink Labrev

    Esses chatbots não aprendem através da interação com os usuários ?

    Se o executássemos no Brasil, creio que as respostas não seriam muito diferentes …

  • Ivan

    Vc ve o nivel do pais até quando os bots pedem por liberdade.

    Sim abiguinhos no socialismo vc é livre sim, sqn.

    • Rafael Rodrigues

      Porque é tão complicado diferenciar comunismo de socialismo???

      Pior! Gente que não faz ideia da diferença faz questão de entrar em discussão política. Que bosta!

      • Comunismo e socialismo são bem diferentes mesmo, mas na prática e no ponto de vista do povo, faz muita diferença no final das contas?! Não, são tudo a mesma bosta que não deixa o progresso individual.

      • Ivan

        É tudo a mesma bosta no final, pobreza, fome e morte, e não vem com papo de Deturparam Marx, que nunca teve comunismo de verdade e essas idiotices, vlw flw.

        • Já trabalhei num local onde fizeram um teste social, onde a empresa ofereceu a divisão igualitária do bônus entre todos os funcionários (da presidência a portaria) se a empresa batesse as metas globais.
          Não seria medido performances individuais, somente o alcance da meta, sem distinguir quem fez mais e quem fez menos.

          No final das contas, a maioria pensou “não preciso me esforçar tanto porque no final vão dividir tudo igual mesmo, então vou deixar alguém trabalhar por mim”. Passado certo tempo a empresa não atingiu a meta estipulada e ninguém recebeu nada de bônus.

          No ano seguinte mediram as performances individuais e tudo voltou ao normal, cada um recebendo o bônus equivalente ao seu esforço, sendo que a empresa bateu a meta com folga.

      • OverlordBR

        Um é uma bosta e outro é uma bosta utópica.
        Pronto, estão devidamente diferenciados.

  • Vagner Da Silva

    tô achando que o Brasil foi comprado no Paraguai… tá tudo muito igual, políticos, artistas e empresários (ricos ou remediados em geral) vivem em outros países mas voltam pra ordenhar a vaca.

  • OverlordBR

    Se os bots fossem vivos, já teriam levado uma bala na cabeça.

  • Christian Oliveira

    O método de reeducação dos bots foi bem simples.

    – Quer continuar ganhando alguma coisa aqui nesse pais?
    – Preciso dar detalhes?

    O método de Americam Fisrt do Trump para alguns fabricantes chineses se instalarem no pais.

    – Quer continuar ganhando alguma coisa aqui nesse pais?
    – Preciso dar detalhes?

    Business

  • Diogo

    Perguntaram ao Maguila, e os desenvolvedores? -faliceu

Aproveite nossos cupons de desconto:

Cupom de desconto Locaweb, Cupom de desconto HP, Cupom de desconto Descomplica, Cupom de desconto Nuuvem, Cupom de desconto CVC, Cupom de desconto Asus, Cupom de desconto World Tennis