Talvez não seja tão simples matar Cilônios

Na excelente versão moderna de Battlestar Galactica essa loura má da foto é cruelmente barbarizada pelos soldados coloniais. Fazem de tudo com ela, até botam pra escutar axé. A tortura é infinita, mas ninguém liga, pois ela é uma máquina, não é realmente um ser vivo, que dirá… humana.

Na prática talvez a coisa seja mais complicada. Não que humanos não sejam capazes de barbarizar de forma épica outros humanos, mas por empatia com nossas máquinas.

Segundo uma pesquisa desenvolvida por Christoph Barneck, professor de robótica na Universidade de Canterbury, Nova Zelândia, pessoas têm problemas em matar robôs que imploram por suas vidas. Acredite… se puder.

Na pesquisa ele usou um robô semi-simpático, capaz de expressões intensas. As cobaias humanas brincavam com um jogo de computador, junto com o robô. Em metade dos experimentos o robô era prestativo e educado. Na outra metade, era grosso e não ajudava o humano em nada.

Ao final o cientista explicava ao humano que deveria desligar o robô.

Nesse momento o robô pedia para que o humano não o desligasse. Explicava que ele perderia toda sua programação, toda sua memória, deixaria de existir. Quase como HAL no final de 2001, “eu me tornarei… nada”.

Os humanos começavam a dialogar com os robôs, pediam desculpas, os cientistas reforçavam que era imperativo que desligassem a máquina. Os robôs simpáticos eram desligados após mais tempo que os cruéis e impessoais, mas a súplica do robô era eficiente em todos os casos.

Nós costumamos antropomorfizar nossos objetos, navios têm nomes, espadas são entidades com personalidade independente, tanques de guerra são prontamente batizados por sua tripulação, e quem aqui nunca tentou negociar com o computador pra um processo terminar mais rápido?

Quando nossas máquinas começarem a responder será inevitável atribuirmos a elas mais inteligência do que realmente possuem. Fazemos isso com cachorros, golfinhos e sertanejos universitários. Criaremos relações pessoais com nossos objetos, e aquele carro que tanto bateu papo com você será bem mais difícil de vender, trocar ou mandar pro ferro-velho. Talvez inteligência embarcada passe a ser algo modular, transferindo a mente do KITT para um modelo novo todo ano.

De resto, esmagar carros naquelas máquinas de ferro-velho se torna bem menos divertido quando o carro implora “por favor não me mate”.

Aqui um vídeo do experimento. Notem a hesitação da humana…

Fonte: NPR