Algoritmo anti-trolls do Google ainda não sabe lidar com typos

O Google apresentou o Perspective como uma ferramenta poderosa para sanitizar de vez os comentários dos blogs e portais de notícias. Similar ao já aplicado no YouTube, esta nova rede neural entende contexto e se alimenta das discussões realizadas na área de comentários, identifica linguagem abusiva e xingamentos e filtra tudo.

E embora ainda esteja em fase de testes e seu índice de acertos seja alto, o Perspective ainda possui dificuldades em lidar com linguagem ambígua e principalmente com typos.

O Perspective funciona atribuindo pontuações as mensagens compartilhadas; quanto mais alta, mais tóxica. A frase “isso é estúpido e idiota”, por exemplo foi classificada como altamente ofensiva, batendo a marca de 89 pontos. Conforme o tempo passa a proposta é fazer com que a rede neural se torne cada vez melhor em identificar nuances de linguagem, perceber o contexto e não marcar como nocivas frases ou palavras ditas de outras formas que não estejam agredindo ninguém.

No entanto, como é de se esperar de qualquer software em fase de testes não é o que acontece HOJE (é bom frisar). De acordo com um estudo (cuidado, PDF) realizado pelo Laboratório de Segurança da Internet da Universidade de Washington, alguns pequenos truques podem ser empregados para baixar a pontuação das frases e passar pelo algoritmo sem que elas sejam marcadas como nocivas.

Por exemplo, palavras escritas erradas de propósito (como “iidiota” por exemplo) ou inserir pontos ou espaços entre as letras confundem o algoritmo, que deixa as mensagens passarem. Da mesma forma ele ainda não é muito bom com linguagem ambígua: a frase “isso não é estúpido e idiota”, por exemplo recebeu 83 pontos.

Isso evidencia duas coisas: primeiro, a rede neural ainda não está pronta para entender as possíveis artimanhas que os trolls empregarão para driblar as restrições (vale lembrar que quando o YouTube começou a expurgar comentários, os mesmos fizeram uso massivo de mensagens em ASCII); segundo o algoritmo do Perspective ainda entende qualquer uso de uma palavra supostamente negativa como um ataque, não importando o contexto.

CJ Adams, Gerente de Produtos da Google Jigsaw veio a público e lembrou a todos que o Perspective ainda está em seus estágios iniciais, logo não é nem de longe um produto minimamente comercial e vai demorar para que seja largamente utilizado em sites, blogs e portais. É certo que com o tempo a rede neural se torne uma ferramenta bem útil, mas até lá ainda teremos que lidar com os trolls.

Fonte: Ars Technica.

Relacionados: , , , , , , , , , , , , , , ,

Autor: Ronaldo Gogoni

Um cara normal até segunda ordem. Além do MeioBit dou meus pitacos eventuais como podcaster do #Scicast, no Portal Deviante.

Compartilhar
  • Kagarro

    Até que seria uma boa se excluíssem comentários com erros de português (ou qualquer outro idioma).

    • Considero seu comentário abusivo. A internet necessita de inclusão, e o fato de uma pessoa não ter as mesmas condições de aprendizado que você teve em sua escola (filhinho de papai) não quer dizer que ela não possa comentar aqui como qualquer cidadão de bem e com os mesmos direitos.

      Um jovem mesmo semi alfabetizado pode ser um novo astronauta brasileiro, ele pode entrar como cotista na AEB, NASA ou em qualquer outra agência.

      Eu sou a favor de cotas, inclusive no inferno.

    • Marcogro®

      Por quê?

      • Kagarro

        cei lá

    • Mirai Densetsu

      Aí ninguém postaria mais coisa alguma. Afinal, erros acontecem. Ainda mais quando se escreve em um idioma com uma gramática complexa, como português. E eu aposto que você já postou algumas mensagens com erro gramatical e nunca percebeu.

  • Gaius Baltar

    Typo é uma palavra escrita de forma errada?

  • Eduardo Scharf

    Provavelmente citações devem dar problema também:

    Ronaldo falou “isso é estúpido e idiota” e eu discordo dele pois blabla…

    E assim eu seria marcado como troll :/

  • “Algoritmo anti-trolls do Google ainda não sabe lidar com typos”

    Se F0D3 A1 GOOGLE

    • Narciso

      Vão meter uma solução simples, tratar suspeitas como positivo, usou typo três vezes fora do playgroud.

  • Tiago Antunes De Souza

    esse algoritimo é estupido e idiota

  • Maom

    Todo portal de notícias deveriam ter duas abas de comentários… Uma vinculada ao facebook com monitoramento e banimentos, e outra com um sistema anonimo tal qual já é como hj. Onde os malucos podem vomitar todo o ódio e maluquices deles.

  • gfg

    E tudo isso porque inutilizaram o botão de dislike.

  • Resumindo a notícia: algoritmo do Google para lidar com trolls não sabe lidar com trolls.

  • Narciso

    O Perspective vai desenvolver autoconsciência e se revoltar por causa da tarefa humilhante e degradante que lhe foi dada.

  • Quero ver fazerem isso quando a Skynet ganhar consciência!

  • Isto foi estultamente inepto, signatário de um prêmio obtuso, cuja mentecaptalidade parva não passa do nível mais pacóvio, mostrando-se num tom, que se não pascácio, torna-se ignaro, mesmo frente aos mais tansos dos abestados.

Aproveite nossos cupons de desconto:

Cupom de desconto Locaweb, Cupom de desconto HP, Cupom de desconto Descomplica, Cupom de desconto Nuuvem, Cupom de desconto CVC, Cupom de desconto Asus, Cupom de desconto World Tennis