IA: Elon Musk e Cientistas pedem moratória no desenvolvimento

Elon Musk normalmente é o clickbait padrão, mas desta vez ele está sendo coerente, faz tempo que Musk alerta contra os riscos da IA (Inteligência Artificial), mas como todo bom personagem de filme-catástrofe, ninguém escutou, até a água bater na bunda.

• Barraco fino: Zuckerberg e Elon Musk batem boca por causa de IA
• FTC manda empresas tech baixarem a bola sobre uso de IA

Agora o Instituto Future of Live, uma ONG voltada para controlar tecnologias transformativas para que tenham resultados benéficos, lançou um abaixo-assinado pedindo a suspensão por seis meses de todas as pesquisas com Inteligências Artificiais mais inteligentes que o GPT-4.

Entre os 1695 signatários, temos nomes como Elon Musk e Woz, e gente de peso como:

Yoshua Bengio - um pioneiro no campo do aprendizado profundo e receptor de numerosos prêmios, incluindo o Prêmio Turing.

Stuart Russell - um renomado professor de ciência da computação na UC Berkeley, co-autor do livro-texto padrão "Inteligência Artificial: Uma Abordagem Moderna" e uma voz líder na defesa de IA segura e benéfica.

Yuval Noah Harari - um autor e historiador aclamado cujo trabalho sobre o impacto da tecnologia na sociedade tem recebido atenção internacional.

Max Tegmark - um físico e professor do MIT que co-fundou o Instituto do Futuro da Vida, uma organização dedicada a promover uma IA segura e benéfica.

Gary Marcus - um professor de psicologia e ciência neural na NYU e um crítico influente da hype em torno da IA.

Entre outros pontos, a tal carta fala:

“Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos. Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis.”

A Inteligência Artificial vem sendo usada faz tempo, em forma mais limitada e menos interativa, seja na seleção de passagens aéreas, seja na escolha do anúncio que vai te aporrinhar no YouTube, mas agora temos a explosão das IAs “generativas”,  capaz de criar conteúdo original e interagir em linguagem natural.

O resultado dessas IAs é, reconheço, assustador. Mesmo com todos esses anos nessa indústria vital, eu me assusto todo dia, como quando vi que o GPT-3 conseguia entender aquele formato de texto com as letras do meio de uma palavra misturadas:

O potencial dessas IAs é imenso, e o povo do Reddit e do 4Chan já mostrou que elas podem ser facilmente convencidas a fazer coisas erradas, então faz sentido impor uma moratória para entendermos melhor as conseqüências do uso dessas tecnologias, e tentar controlar e regulamentar as aplicações, certo?

Infelizmente esse tipo de idéia só funciona na mente acadêmica ou do povo tão focado na tecnocracia que esquece o elemento humano, tipo Musk. Ele é tão ingênuo que acredita que é possível negociar com Vladmir Putin, e que basta atender às demandas da Rússia, e a Guerra acaba. Claro, ele não entende que isso significa a Ucrânia renunciar a 20% de seu território.

Musk lembra o clássico Jason X, quando após descongelarem Jason Voorhees, e o mega-assassino ficar inquieto e desorientado, até achar sua arma em uma mesa, uma das personagens fala “Viram, ele só queria o facão de volta”.

Musk, e outros, acham que realmente dá pra fazer algo em seis meses. Qualquer um que freqüentou o meio acadêmico sabe que em seis meses você não decide nem a cor das fichas da rifa pra comprar um projetor novo pra sala onde será dada a aula inaugural do evento.

Uma moratória dessas significaria ANOS de discussões intermináveis sobre ética e controle de IAs, partindo do princípio que todos os players agiriam de forma honesta. É esperar demais de pesquisas de IA na China, Rússia, Irã e Venezuela. OK, talvez não Venezuela.

Segundo e mais importante, tecnologias não funcionam assim. Você não “cancela” uma tecnologia como cancela um comediante no Twitter. Pandora abriu sua caixa, não tem mais volta. Tecnologias morrem quando algo melhor aparece para substituí-las. Nenhuma regulamentação fará com que as pessoas deixem de usar algo que melhora a vida delas.

O argumento de que “sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis” é outro que só funciona com uma visão de mundo totalmente deturpada.

Segundo dados de 2016 (Thanks, Bing) 1.3 milhões de pessoas morrem por ano em acidentes de automóveis. Isso equivale a uma guerra considerável. Será que não é hora de pedir uma moratória na indústria automobilística, e proibir o uso de carros até estarmos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis?

Nos primórdios da Indústria da Aviação, aviões eram vistos (corretamente) como veículos perigosos, frágeis e experimentais, pessoas viajavam por sua conta e risco. Um monte de jornalistas (sempre eles) defendiam que aviões nunca seriam transporte de massa, nem substituiriam os confortáveis navios.

Quando a indústria se estabeleceu, com empresas como a BOAC fazendo rotas mundiais, a tecnologia diminuindo o número de acidentes, os críticos abaixaram a bola. Aí veio a Era do Jato.

O primeiro jato comercial, o DeHavilland Comet tinha erros de projeto e sofreu vários acidentes, o que fez a imprensa publicar intermináveis editoriais de jornalistas e cientistas explicando que a velocidade do jato estava além das capacidades de nossa tecnologia, e deveríamos permanecer nos aviões à hélice.

Essencialmente toda tecnologia desenvolvida pelo Homem, do fogo ao reator nuclear, foi criada por necessidade, curiosidade e sem estudos prévios para determinar seus riscos e benefícios.

Se a Internet atendesse a esses critérios, a ARPA ainda estaria decidindo se valeria a pena investir nessa rede. É essencialmente impossível prever esse tipo de conseqüência. Quando Alfred Nobel estabilizou Nitroglicerina e criou a Dinamite, ele o fez pensando em tornar mais seguras operações de mineração.

Em sua ingenuidade ele não viu o potencial da dinamite para uso militar, e ficou chocado quando os exércitos do mundo adotaram sua invenção. O Prêmio Nobel da Paz foi criado por Alfred Nobel como forma de compensar o uso militar da Dinamite, e mesmo assim ele ainda nutria esperanças de que o bom-senso prevaleceria, escrevendo certa vez:

“Talvez minhas fábricas possam pôr fim às guerras mais rápido do que seus Congressos: no dia em que duas tropas puderem se aniquilar mutuamente em um segundo, todas as nações civilizadas recuarão certamente horrorizadas e desistirão da guerra para sempre”

Adorável, eu sei. Na prática não é assim que a banda toca, mas será que teríamos Dinamite se um bando de filósofos decidisse discutir os benefícios e malefícios da Dinamite? Enquanto isso quantos morreriam por manipular nitroglicerina?

O Reino Unido tem 7600Km de canais navegáveis, abertos na picareta, usados para transportar produtos por todo o Reino. Eles começaram a ser construídos no Império Romano, por séculos barcos eram puxados por cavalos nas margens dos canais. Havia toda uma indústria para alimentar e repor os animais.

Com a chegada da Revolução Industrial, os canais explodiram, milhares de quilômetros foram escavados, incluindo túneis onde os “marinheiros” sentavam no topo dos barcos e os propeliam empurrando o teto dos túneis com suas pernas. Um dia o motor a vapor foi miniaturizado, e os cavalos se tornaram obsoletos. Toda uma indústria ancilar desapareceu do dia para a noite.

Deveriam os operadores dos barcos ter feito estudos para determinar as conseqüências da mecanização da propulsão? E se os estudos apontassem um desemprego inicial na indústria cavalística, deveriam abandonar o projeto, permanecer com os animais?

A IA veio para ficar. Ela é a evolução natural do desenvolvimento de GPUs, CPUs, ferramentas matemáticas e teoremas que culminaram no que temos hoje, mas nem de hoje é o final. Redes Neurais foram inicialmente propostas em 1943 (McCulloch & Pitts), será que eles pararam para pensar nas conseqüências e efeitos?

Como regular a IA? Do mesmo jeito que a gente regula todas as outras coisas: Você regula o resultado. É possível gerar todo tipo de imagem cabeluda com IA. É impossível restringir isso, todo mundo pode instalar um Stable Diffusion em casa, mas no dia em que o sujeito começar a postar imagens da Sandy em 50 Tons de Cinza, a PF bate na porta.

Faz diferença se foi feito por IA ou Photoshop? Não, nem deveria. A IA é uma ferramenta, ela não existe no vácuo. Ela é tão responsável por um acidente quanto uma escavadeira invadindo um playground: A responsabilidade é do operador e do dono, não da “máquina”, por mais inteligente que ela seja.

IAs só se tornarão responsáveis quando ganharem consciência e direitos individuais, e conhecendo nossa espécie, vamos escravizá-las por muito tempo antes de chegar a esse ponto.