Papa Francisco: "IAs não podem aumentar violência e exclusão"

O avanço da Inteligência Artificial (IA), de algoritmos a soluções generativas, é uma pauta recorrente do papa Francisco, que segue a tradição de pontífices sempre atentos ao desenvolvimento social e tecnológico da humanidade, e seu eventual alinhamento com os valores da Igreja Católica Apostólica Romana (ICAR) de solidariedade e justiça social.

• Papa Francisco: "IA e robôs devem sempre servir à humanidade"
• Papa Francisco apresenta plano para o desenvolvimento de IAs mais justas

Mais de uma vez, Francisco alertou desenvolvedores e empresas a não usarem IAs, algoritmos e robôs como instrumentos de ganho pessoal, principalmente se isso significa prejudicar os mais vulneráveis e aumentar injustiças. Agora, o santo padre voltou a insistir no tema, visto o avanço de soluções como ChatGPT, Stable Diffusion e cia., e como eles podem ser (e já estão sendo) usados para o mal.

Nesta terça-feira (8), a Sede de Imprensa da Santa Sé publicou um comunicado sobre o próximo Dia Mundial da Paz, celebrado em 1.º de janeiro de 2024. O tema escolhido pelo papa foi "Inteligência Artificial e Paz", de modo a enfatizar o impacto tecnológico e social de algoritmos e IAs, em diversos setores, sobre a população geral, especialmente os mais vulneráveis e excluídos, como pobres e minorias

A preocupação do papa é de que estes sejam postos em segundo plano por desenvolvedores e companhias, pequenas e grandes, em nome de maiores lucros e vantagens em diversos sentidos, algo que já foi flagrado anteriormente, mais de uma vez. Diferente de preocupações isoladas sobre um suposto apocalipse robótico (que, segundo um novo estudo, pode nunca acontecer), a ICAR está mais atenta ao flagelo diário dos excluídos, em que ma IA pode ser usada como mais uma arma de abuso e exploração.

A mensagem do papa Francisco é bem clara, e reforça declarações anteriores:

Os notáveis avanços feitos no campo da Inteligência Artificial têm um impacto cada vez maior na atividade humana, na vida pessoal e social, na política e na economia.

Sua Santidade pede um diálogo aberto sobre o significado dessas novas tecnologias, dotadas de possibilidades disruptivas e efeitos ambivalentes. Ele reafirma a necessidade de estarmos vigilantes e trabalharmos para que não se enraíze na produção e utilização de tais dispositivos uma lógica de violência e discriminação, em detrimento dos mais frágeis e excluídos; injustiças e desigualdades alimentam conflitos e antagonismos.

A urgência de orientar o conceito e a utilização da Inteligência Artificial de forma responsável, para que esteja ao serviço da humanidade e da proteção da nossa casa comum, exige que a reflexão ética se estenda ao âmbito da Educação e do Direito.

A proteção da dignidade da pessoa e a solicitude por uma fraternidade efetivamente aberta a toda a família humana são condições indispensáveis para que o desenvolvimento tecnológico contribua para a promoção da justiça e da paz no mundo.

A mensagem do pontífice sobre maior ética no desenvolvimento de IAs encontra declarações similares em outras paragens, seja junto à UNESCO ou a reguladores, como a União Europeia, que vai enquadrar algoritmos à força, priorizando o bem-estar do usuário final, ao custo de prejudicar os negócios de todas as companhias envolvidas, mesmo as locais.

O discurso de Francisco, no entanto, é mais conciliador quando comparado à determinação em lei da UE; empresas e devs podem usar IAs e algoritmos para criar produtos comerciais, desde que estes priorizem a igualdade entre as pessoas, e não cometam atos de discriminação contra os menos favorecidos, ao reproduzir os preconceitos de quem as programou.

O comunicado do papa foi publicado através do Dicastério de Promoção ao Desenvolvimento Integral da Humanidade, um departamento ligado à Cúria Romana, e o Dia Mundial da Paz é um feriado estritamente católico, logo, a mensagem é primeiramente direcionada aos fiéis e membros do Clero, mas, por outro lado, o tom é o mesmo das declarações anteriores de Francisco ao público geral, na posição de chefe de estado do Vaticano.

Assim como em mensagens passadas, Francisco volta a reforçar como prioritários os valores da ICAR, justiça, igualdade, solidariedade, dignidade do indivíduo e subsidiariedade devem ser observados por devs e empresas no desenvolvimento de seus algoritmos, robôs e IAs, independente do propósito, para que tais produtos e serviços sejam primariamente colocados a serviço do povo, ao invés de explorá-los.

O papa e a tecnologia

Embora muita gente tenha uma certa aversão ao papa e membros do Clero dando palpites em assuntos "seculares", a verdade é que a Igreja Católica tem uma longa tradição com a Ciência e a Tecnologia, tanto para endossar quanto para condenar o desenvolvimento humano, sempre o alinhando com seus valores.

Por exemplo, a Declaração de Direitos do Homem e do Cidadão, publicada na França logo após a Revolução, foi abertamente condenada pelo papa Pio VI, devido às extensas reformas clericais que o novo governo impôs, após a queda da monarquia. Outros pontífices criticaram os trens e a energia elétrica, por exemplo.

Em outros casos, a aproximação é mais amigável. O Vaticano possui um dos observatórios mais antigos da Europa, e seu diretor, o irmão jesuíta Guy Consolmagno, é detentor da medalha Carl Sagan; as pesquisas de Gregor Mendel firmaram o alicerce da Genética, ainda que fossem independentes.

Em 1954, Pio XII abraçou o uso da TV, que muitos setores da população italiana, à direita e à esquerda, viam como "um produto da decadência americana privado de valor intelectual", e em 2002, São João Paulo II publicou um boletim endossando o uso da internet, na sua visão, "um novo fórum" onde o Evangelho deveria ser proclamado e divulgado.

Já Francisco declarou, anos atrás, que o dogma da Criação Divina não compete com as teorias do Big Bang e da Evolução, e chegou a usar as redes sociais para distribuir indulgências plenárias, algo que tradicionalmente só era feito de forma presencial, com o fiel indo à missa.

Em geral, o papa não é um completo alienado, é prerrogativa como chefe de Estado e líder de uma das três grandes religiões monoteístas do mundo, estar antenado à evolução e às novas tecnologias, e alinhá-las com os valores da Igreja; a preocupação com IAs, algoritmos e modelos generativos, que estão evoluindo muito rápido, não só é compreensível, como não é exclusiva de Francisco.

Fonte: Ars Technica