A requentada pauta da ética de robôs em guerras

A Forbes requentou a pauta da discussão ética sobre robôs usados em atividades militares, a questão moral de remover os humanos da cadeia de decisão, etc, etc e mais etc. Se você revirou os olhos, parabéns, significa quem tem boa memória.

• Robôs vão roubar empregos? Sim, mas só dos menos qualificados
• Papa Francisco: "IA e robôs devem sempre servir à humanidade"

Existem as chamadas pautas perenes, em jornalismo. Em geral são temas que ou são sazonais, ou são repetidos de tempos em tempos. O preço do material escolar, ovo faz bem/ovo faz mal, saia pra homem, insetos como alimento. Em tecnologia não é diferente. A maioria dos portais, desesperados atrás de assunto, adoram discutir as novas tecnologias revolucionárias de baterias, o fim da Lei de Moore, Ano do Linux, grafeno...

Na área de robótica, e agora Inteligência Artificial, a pauta de robôs em combate é mais que repetida, vide a própria Forbes:

E não vou nem pesquisar se já escrevi sobre isso, telhado de vidro, você sabe.

Não São os Robôs

As discussões sobre a ética de robôs de combate antecedem em séculos os próprios robôs. Em geral elas são baseadas em uma idéia romântica de que existe uma “guerra justa”, com forças de igual tamanho se enfrentando de forma leal. Isso é bonito no papel, mas em guerra vale a máxima do General George Patton:

“Nenhum bastardo idiota jamais ganhou uma guerra morrendo por seu país. Ele ganhou fazendo algum outro bastardo idiota morrer pelo país dele.”

Guerra Justa é a que os meus soldados voltam para casa vivos, de preferência inteiros. A “ética” de ter armas muito mais eficientes que o inimigo é risível, mas já foi bem criticada.

Hollywood adora armas ultrapassadas, como arcos e espadas, mas há algo correto nessa mística toda. Arqueiros são guerreiros altamente treinados, passavam a vida inteira aprendendo a usar suas armas, lendas como Robin Hood e Guilherme Tell têm base em formidáveis arqueiros.

Até que surgiu a balestra, uma arma extremamente simples, point and shoot. Você firma a arma no chão com o pé, puxa o arco, encaixa o flechete e aponta pro nobre cavaleiro vindo na sua direção, achando que está protegido pela armadura. À queima-roupa, o flechete atravessa o metal vagabundo (pros padrões de hoje) e game over.

As balestras eram desprezadas pelos arqueiros e odiadas pelos cavaleiros, que as consideravam armas bárbaras e sem honra.

Quando as primeiras metralhadoras começaram a ser usadas, muitos generais reclamaram, dizendo que acabavam com a habilidade do atirador isolado, que a guerra agora era morte em escala industrial.

Submarinos eram vistos pelo almirantado britânico como armas totalmente desleais, atacando na surdina ao invés de um combate naval cara a cara. A flotilha de submarinos era tão desprezada dentro da Marinha britânica que um Almirante chegou a chamar os submarinistas de piratas. Prontamente eles adotaram a bandeira da caveira com ossos cruzados como símbolo de vitórias, uma tradição que perdura até hoje.

O HMS Conqueror, para constrangimento do governo britânico, voltou das Falklands após afundar o General Belgrano, ostentando sua bandeira pirata.

Robôs são desleais?

Como um robô não dorme, não fica cansado, não tem medo, enxerga no escuro e é muito mais forte que um humano, há quem diga que é deslealdade usar robôs para combater meros humanos, mas esse tipo de invulnerabilidade existe desde o tempo em que um sujeito descobri que se prender uma peça de couro com duas cordinhas, tem uma funda, capaz de lançar uma pedra com velocidade letal, muito mais distante do que o adversário consegue atirar com as próprias mãos.

Existe uma corrente de pensamento que diz que robôs matarão de forma indiscriminada. Essa mesma turma acha que drones seguem essa linha, sendo que é justamente o oposto, um drone é pilotado por um sujeito numa sala com ar-condicionado, a centenas, às vezes milhares de quilômetros de distância.

Ele não tem que se preocupar com a própria vida, não precisa tomar decisões em segundos. Um drone é muito mais calmo do que um caça-bombardeiro, ou mesmo um míssil de cruzeiro, que após lançado não pode ser mais destruído, mesmo que o satélite revele que a base inimiga na verdade é uma escolinha para coelhos órfãos com Down.

O uso de Inteligência Artificial será essencial para que robôs saibam diferenciar amigos de inimigos, e principalmente, civis neutros. Isso é um problema mesmo para humanos, durante a Guerra do Vietnã o Vietcongue mandava crianças com cestas de frutas para o meio de grupos de soldados americanos. Na cesta, uma granada.

Aqui mais uma vez os robôs saem na vantagem. Em 1968 um grupo de soldados americanos despejou todo seu ódio e frustração na população de Mỹ Lai, uma aldeia vietnamita. Entre 350 e 500 pessoas morreram. Homens, mulheres, crianças. O ataque envolveu estupros, mutilações, pacote de horror completo.

O resultado foi indignação global, investigações, dezenas de indiciamentos, mas como não é um episódio de JAG, no final somente um tenente foi condenado. Ele pegou prisão perpétua, mas depois de 3 anos e meio de prisão domiciliar, sua pena foi anulada pelo Presidente Nixon.

Um robô não seria capaz de um ato desses (a não ser que programado especificamente, claro). Nenhum robô vai surtar e descontar sua frustação na população civil.

Claro que acidentes acontecem, mas redes neurais são muito mais eficientes identificando padrões do que humanos, um robô atingiria um civil sem-querer com muito menos freqüência, salvo casos extremos, como o do Peter Parker no Homem de Ferro 2.

Tirando o Homem da Equação

Uma das maiores críticas ao uso de robôs em combate é a ausência de um humano com a decisão de atirar contra o inimigo, a decisão de matar ficaria a cargo do robô. Bem, tenho uma péssima notícia: Isso já acontece. Uma mina terrestre nada mais é que um robô com uma única função: Explodir quando detectar um alvo.

Existem minas navais sofisticadas, com sensores eletrônicos, presas no fundo do mar por meses, pacientemente ouvindo os navios nas proximidades, identificando embarcações civis, analisando as militares e decidindo se merecem ser alvo de sua atenção, se é que você me entende.

Essa, claro, são as minas top, provavelmente nunca foram usadas em combate real. Nas guerrinhas sujas atuais usamos as boas e velhas minas magnéticas ou de contato, que não se preocupam com o tipo de alvo, apenas explodem.

As terrestres, mais ainda. Para elas tanto faz se quem dispara a mina é um soldado nazista ou uma criança, um cilindro repleto de explosivo e bilhas de aço será lançado a uma altura de um metro, e explodir, dilacerando tudo à sua volta.

A idéia de uma arma que é abandonada e continua perigosa mesmo depois da guerra antecede até a pólvora. No tempo de Alexandre, o Grande, por volta de 300AC já se usava um negócio chamado estrepe:

É uma estrutura de metal, pontuda, construída de forma a ser jogada no chão e ficar sempre com uma ponta para cima. Ela é terrível contra cavalos e soldados descalços ou com sandálias.

Agora pense numa criança correndo numa praia cheia de estrepes enferrujados.

Os estrepes são tão eficientes que continuaram sendo usados pela Roma Imperial, durante a Idade Média, nas guerras mundiais e em 2022 estão sendo usados na Ucrânia, para furar pneus, e com sorte, a sola da bota dos invasores russos.

Infelizmente eles continuarão nas florestas e campos ucranianos, depois da Guerra.

Robôs versus Robôs?

Uma parte da discussão ética envolve a evolução do combate ao ponto em que teremos robôs contra robôs, mas nós já temos isso. Quando um míssil inimigo é detectado pelo sistema CIWS Phalanx se torna uma briga entre dois robôs, um focado em explodir o navio, outro em derrubar o míssil.

Faz diferença se o robô tem a forma de um míssil, um blindado ou um T-1000?

OK, um T-1000 seria bem mais aterrorizante, mas você entendeu.

O resto das preocupações é pura ficção científica; robôs se rebelando, robôs se recusando a obedecer ordens, nada disso vai acontecer, estamos muito, muito longe da Inteligência Artificial real, isso se ela for possível. Um robô de combate vai fazer o que foi mandado, vai errar algumas vezes, pode até se descontrolar, acontece nas melhores famílias.

Vide este acidente com um sistema antiaéreo 2K22 Tunguska. Todo automatizado, computadorizado, excelente até surtar.

Discussões sobre a “ética” do uso de robôs em combate são tão inúteis como o cachorro-robô de controle remoto com um rifle nas costas, que todo mundo viu e ficou apavorado, sem perceber que ele não conseguiria atingir um porta-aviões a 2 metros de distância.

No momento em que robôs forem versáteis o bastante para uso em combate, eles serão usados em combate. Com o tempo mais e mais países terão seus próprios robôs, e eventualmente players isolados como o Hamas e o Hezbollah também construirão robôs inicialmente toscos, mas cada vez melhores.

Foi exatamente o que aconteceu com drones. Inicialmente somente estados-nações detinham a tecnologia, depois países menores começaram a criar seus próprios aparelhos. Grupos terroristas já dispõe de foguetes e drones, e o gênio saiu da garrafa de vez quando se percebeu que era possível adaptar drones comuns, desses da DJI que a gente compra no Mercado Livre, para lançar granadas e fazer reconhecimento de alvos.

Se os robôs de combate do futuro vão ser humanoides como o T-800, esquisitos como os sentinelas do Matrix, no estilo de drones como Oblivion, ninguém sabe, a única certeza é que eles existirão.

De minha parte espero que sejam todos como o ED-209, assim é só morar o segundo andar num prédio sem elevador, e ele não pode te pegar.