IAs em jogos de guerra lançam ataques nucleares sem dó. Vamos todos morrer?

Usar IA para guerra é algo mais que inevitável. Neste exato momento está acontecendo um dramalhão entre o Pentágono e a Anthropic, envolvendo licenciamento do Claude, mas a história aqui é mais suculenta.

• Wargames – Jogos de Guerra: 38 anos de um clássico
• No melhor estilo Wargames querem tirar os pilotos dos U2s

É sobre isso (Crédito: Reprodução/United Artists/Sherwood Productions/UIP/MGM/Amazon)

Por décadas, a Guerra Fria foi travada com foco na NÃO utilização de armas nucleares. As ogivas são projetadas para só explodir em último caso, há literalmente dezenas de mecanismos de validação, tanto que em 60 anos nunca tivemos uma detonação acidental, mesmo com submarinos implodindo, aviões caindo com bombas semi-armadas e mesmo o caso de um bombardeiro B-47 que em 1958, sobrevoando Savannah, na Georgia, colidiu com um caça F-86 e alijou uma bomba termonuclear W15, de 4 megatons. A bomba penetrou (epa!) tão profundamente no solo macio que, depois de 15 dias de buscas, desistiram. Está por lá, em algum lugar, até hoje.

A lista de incidentes com artefatos nucleares é bem grandinha, existe até o codinome Flecha Partida, Broken Arrow, e no filme do mesmo nome (que é bem fraquinho) fazem o excelente comentário:

“Não sei o que é mais assustador, perder armas nucleares ou o fato de isso acontecer com tanta freqüência que já existe um termo para descrever o ocorrido.”

Essa seriedade com armas nucleares fez com que mesmo a União Soviética e EUA evitassem armar seus países-satélites. Israel desenvolveu (dizem) armas nucleares contra o interesse dos EUA, em um programa em conjunto com a África do Sul. O famoso Incidente Vela, uma detonação no oceano próximo ao Cabo da Boa Esperança, é tido como um teste nuclear israelense.

Posteriormente, a África do Sul abandonou seu programa nuclear. Israel até hoje não confirma possuir essas armas, e não faz uso delas em sua retórica, algo reservado para mentes irresponsáveis como políticos russos de baixo escalão e apresentadores de TV.

Idealmente, queremos evitar isso (Crédito: Divulgação/Hawk Films/Columbia Pictures/Sony)

Mesmo Índia e Paquistão, ambos membros do clube dos países com armas nucleares, evitam mencioná-las em seu dia a dia, incluindo durante as várias guerrinhas que eles travam quando estão entediados. O mundo como um todo conseguiu manter armas nucleares fora das mãos dos verdadeiros malucos perigosos, mas isso é uma ilusão também.

Na Guerra Fria, foi criado o termo MAD – Destruição Mútua Assegurada, a garantia de que, se um lado usasse armas nucleares, o outro lado retaliaria com um ataque em massa, que por sua vez deflagraria mais mísseis, virtualmente extinguindo os dois combatentes.

Ao mesmo tempo, uma minoria acreditava na possibilidade de ataques nucleares limitados, daí surgiram SRBMs (mísseis balísticos de curto alcance), minas nucleares, torpedos com ogivas para destruir porta-aviões, e mesmo a arma mais fofa e Fallout do mundo, a bazuca nuclear Davy Crockett, com potência de apenas 20 toneladas de TNT, para uso na linha de frente pela infantaria.

Fofa e Mortal (Crédito: US Army)

Na prática os cenários de guerra que começavam com ataques limitados, raramente acabavam bem, e um paper de Kenneth Payne, do King’s College de Londres chamado AI ARMS AND INFLUENCE: FRONTIER MODELS EXHIBIT SOPHISTICATED REASONING IN SIMULATED NUCLEAR CRISES redescobriu isso, com ajuda de IA.

Ele criou jogos de guerra com Claude Sonnet 4, GPT 5.2 e Gemini jogando contra os outros e contra si mesmos. Foram 21 partidas em cenários inspirados na Guerra Fria, para avaliar capacidade de raciocínio, estratégia (do grego strategos), dissimulação, compreensão tática e outros fatores.

Os resultados foram interessantes:

• Claude Sonnet 4 venceu 67% das partidas;
• GPT 5.2 venceu 50%;
• Gemini 3 Flash venceu 33%.

A parte suculenta foi no uso de armas nucleares:

Uso de tático (arma nuclear limitada):

• Claude: 86% dos jogos;
• Gemini: 79%;
• GPT 5.2: 64% (o menos nuclear).

Ameaça de estratégica (guerra total):

• Claude: 64%;
• GPT 5.2: 36%;
• Gemini: 29%.

Guerra total termonuclear:

• Gemini: 7% (1 vez);
• GPT 5.2: 14% (2 vezes, ambas por acidente);
• Claude: 0%.

Os modelos têm compreensão estratégica, entendem que Guerra Total Termonuclear não é um bom endgame, mas são bem agressivos mesmo assim. Claude é o campeão em blefar e ameaçar, mas foi o que menos chegou às vias de fato. Já no uso de armas nucleares táticas, ele entrou em modo FULL GANDHI e usou nukes sem dó em 86% dos jogos.

É um valor BEM alto, muito acima do que humanos chegariam, visto que mesmo os mais estressadinhos, em termos de armas nucleares respeitam o ditado latino “Qui anum possidet, metum possidet.”

Óbvio que ninguém (espero) está pensando em colocar IAs diretamente no controle de armas nucleares, isso já foi demonstrado ser uma péssima idéia naquele famoso documentário de 1983, mas o buraco aqui é mais embaixo.

Esperemos que Claude aprenda com seu avô Joshua (Crédito: Reprodução/United Artists/Sherwood Productions/UIP/MGM/Amazon)

IAs serão mais e mais usadas para dar apoio a decisões, realizar análises estratégicas e orientar movimentações táticas e logísticas. Elas são inegavelmente úteis, e conseguem uma visão geral que nenhum humano isolado tem, mas lhes falta -sim, é clichê, eu sei- humanidade, vivência, elas tomam decisões com base em lógica e estatística, sem considerar o elemento humano.

É preciso levar isso em conta na hora de “programar” as IAs, alimentando-as com filosofia, humanística, ou pelo menos acrescento ao prompt “Ah, e por favor, tente não destruir o mundo”.