Estudo demonstra que é melhor ser educado com as IAs
Ser educado com IAs é mais que uma questão de educação. Estudos descobriram que elas respondem melhor quando são tratadas de forma educada
Carlos Cardoso 24/05/2024 às 18:36
Ser educado é uma atitude inteligente no dia-a-dia, seja com quem prepara sua comida, seja com quem embrulha seu paraquedas, mas e quanto aos objetos inanimados? Faz diferença como tratamos nossas geladeiras?
Seja educado com as IAtendentes (Crédito: Stable Diffusion)
E quando as geladeiras responderem?
A questão sobre empatia envolvendo robôs é bem antiga, uma pesquisa de 11 anos atrás mostrou que humanos conseguem desenvolver empatia facilmente, e o argumento de que isso é facilitado com o envolvimento de robôs humanoides é furado.
Claro que se o robô se parecer com a Super Vicky (pergunte a seus pais) ou com o garotinho-robô de IA, ninguém vai querer vê-los desmembrados como o pobre droide na câmara de torturas de Jabba...
Never forget! (Crédito: Lucasfilm)
Ter forma humanoide ajuda, mas não é essencial. Ninguém duvida da Inteligência de uma Super Máquina, ou do Herbie. Até aquele robô esquisito de Interestelar é aceito. A decisão se vamos ter empatia ou não deriva de um pré-conceito interno, onde decidimos se trataremos as máquinas como iguais, como algo inferior, mas digno de um mínimo de respeito, ou se são apenas máquinas sem vida.
Isso é muito usado na ficção. Em Star Wars, o Império, que é Do Mal, trata robôs de forma ríspida, ou são invisíveis, ou são meras máquinas. Já os Rebeldes criam relações de amizade e lealdade.
Em Jornada nas Estrelas há uma clara distinção entre entidades artificiais sencientes e meras máquinas. O Tenente-Comandante Data é um indivíduo, o Holograma Médico de Emergência da Voyager, é um indivíduo. Já o computador da nave, embora consiga se comunicar verbalmente, é apenas uma máquina, e é nesse ponto que estamos hoje.
A Série Clássica se passa 240 anos no futuro, partindo de 2024, mas a capacidade de entendimento e processamento de linguagem do computador da Enterprise é algo que temos hoje, mesmo meu modesto PC é capaz daquele nível de conversação. E sim, isso parece mágica.
Hoje, com ChatGPT, Gemini, Grok, CoPilot e outros, fora os LLMs rodando localmente, um monte de usuários os incorporou a seu dia-a-dia.
Nota: não estou falando dos incels e suas namoradas virtuais; um mercado obsceno, triste, explorador e fico profundamente decepcionado de não ter investido nele. Falo de usuários comuns, programadores, redatores, editores, analistas, etc.
Entre esses usuários, há os que falam com as IAs de forma puramente profissional, e há os que por hábito, por deslumbramento com a tecnologia ou por anos de doutrinação pela ficção científica, conversam de forma natural e educada.
Com o tempo surgiu uma percepção que as IAs tratadas com educação produzem resultados melhores. É algo complexo, por sua natureza esses LLMs utilizam bilhões de parâmetros, então não é simples como usar uma palavra-chave.
Namorada robótica, segundo a IA (Crédito: stabl;e Diffusion)
Usuários descobriram até que “subornar” a IA, oferecendo dinheiro, melhora os resultados, mas um estudo feito por Ziqi Yin, Hao Wang, Kaito Horio, Daisuke Kawahara e Satoshi Sekine, da Universidade de Waseda, Japão, chamado Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance (cuidado, PDF) descobriu que usar linguagem educada, ser gentil com as IAs produz efetivamente resultados melhores e mais completos.
Antes de tudo, não há “inteligência” real envolvida, não há consciência. A IA não “sente” nada, ninguém está sugerindo que é uma fagulha da Inteligência Artificial Genérica despertando.
A pesquisa usou vários LLMs, como GPT-4, GPT-3.5 e ROUGE-L, entre outros, e experimentou os efeitos de escrever prompts educados em vários idiomas, inglês, chinês e japonês, com as peculiaridades de cada um. Japonês, por exemplo, possui várias declinações diferentes com níveis variados de polidez.
O resultado foi que em todos os casos, os resultados melhoraram com mais educação, mas há um pulo do gato: se o usuário exagera na educação, a ponto de soar falso, a qualidade dos resultados declina. É como se a IA “soubesse” que está sendo manipulada.
A explicação disso pode ser bem simples ou quase impossível. Se você quiser saber os exatos mecanismos pelos quais milhões de “neurônios” pesam os tokens e decidem que perguntas educadas devem receber melhores respostas, vai ficar querendo. Ninguém faz idéia do comportamento interno dessas redes neurais, é complexo demais.
Já o motivo é bem simples.
Uma rede neural, segundo uma rede neural (Crédito: Stable Diffusion)
Todos esses Large Language Models são treinados em textos e conversas entre humanos, mensagens de Internet, Twitter, emails, livros, comentários. Neles todos há um viés fortíssimo: Quem pergunta as coisas com educação, tende a receber mais e melhores respostas.
Isso é algo totalmente automático, e funciona com todo mundo. É inclusive um truque básico de engenharia social, já desarmei mais de um guarda de trânsito com simpatia e gentileza. É natural que esse tipo de interação positiva esteja presente em nossas comunicações, e por inferência a IA aprende a agir assim também.
Como resultado, vamos acabar tendo que ser educados com nossas IAs, e sendo sincero, não vejo problema. Eu dou bom dia para bicho na rua, falo com carro, acho bem fácil atribuir “humanidade”, mesmo que de mentirinha, e uma IA que responda de forma igualmente humana é bem mais natural de se interagir.
Tratar as IAs de forma educada parece ser o melhor caminho, mesmo sem o Apocalipse Robótico a caminho. Isso gera resultados melhores em nossas consultas, e as conversas acabam bem mais agradáveis. De resto, qual o problema de ser educado mesmo sabendo que do outro lado não há uma inteligência real, somente um papagaio-gourmet? A gente não faz isso todo dia, quando é obrigado a conversar com eleitores daquele sujeito?
