Home » Ciência » Papa Francisco apresenta plano para o desenvolvimento de IAs mais justas

Papa Francisco apresenta plano para o desenvolvimento de IAs mais justas

Papa Francisco estipulou 6 princípios para o desenvolvimento de IAs justas e confiáveis; documento é endossado por IBM e Microsoft

16 semanas atrás

O papa Francisco está de olhos bem abertos para a questão da Inteligência Artificial: na última sexta-feira (28), o Vaticano apresentou um documento, endossado por IBM e Microsoft, onde são estipulados 6 princípios que todos os desenvolvedores de sistemas inteligentes devem seguir, citando o princípio de "algor-ética", uma forma de garantir que novas tecnologias não reproduzam preconceitos humanos.

Fox / Futurama / papa francisco

O "Chamado de Roma por Ética na IA" (cuidado, PDF) contou com a presença de John Kelly vice-presidente executivo da IBM, e Brad Smith, presidente da Microsoft, onde ambas companhias reconheceram os pontos levantados pelo pontífice para o desenvolvimento de IAs mais justas.

A bem da verdade, as diretrizes do Vaticano se alinham com posturas já adotadas pelas empresas, bem como normas delineadas pela União Europeia. Também participaram do encontro o Dongyu Qu, presidente do Fundo das Nações Unidas para a Agricultura e Alimentação (FAO), e Paola Pisano, ministra da Inovação da Itália.

No entanto, foi um encontro sem o anfitrião: o papa Francisco não compareceu ao evento (oficialmente ele está "indisposto"), tendo sido representado pelo arcebispo Vicenzo Paglia, Presidente da Pontifícia Academia para a Vida, órgão focado em biomedicina e direito, além de questões éticas na Ciência.

O documento redigido pela Academia seguiu orientações do papa a respeito do desenvolvimento de novas tecnologias, onde "o algoritmo deve ser colocado a serviço da humanidade, e não o contrário".  Para Francisco, elas são um "dom de Deus", mas sem ética (ou "algor-ética" como citado no documento, basicamente ética por design), as IAs acabam reproduzindo vieses e prejudicando pessoas.

Um exemplo recente aconteceu com a United Health, uma rede que administra hospitais nos Estados Unidos (e que é dona da Amil): pesquisadores da Universidade de Berkeley descobriram que um algoritmo, voltado a indicar quais pacientes precisavam de cuidados imediatos, baseando-se em uma série de fatores, priorizava pacientes brancos em detrimento de negros.

Para Francisco

Papa Francisco defende o desenvolvimento de IAs sempre a serviço do povo

O motivo foi a forma como o a IA foi programada: ela não foi ensinada a distinguir pacientes com base na cor de pele, porém, priorizava aqueles que tinham mais condições de gastar com despesas médicas, permitindo que estes furassem a fila para tratamentos diversos.

O problema é que o software não levou em conta os dados historicamente contaminados, visto que a discrepância social nos EUA é ligada à etnia; negros gastam menos com saúde do que brancos, por viverem em condições sócio-financeiras piores.

Durante o evento, John Kelly ressaltou que "as máquinas não são ruins", mas podem ser ensinadas a serem más se o desenvolvedor transferir sua visão de mundo particular para o código. Elas aprendem com nosso comportamento e nossas entradas de dados, assim, agem como esponjas e reproduzirão tudo o que aprenderem. Basta lembrar da Tay, que ilustrou muito bem como isso funciona.

Segundo o documento, os 6 princípios a serem seguidos são:

  1. Transparência: Todas as decisões de uma IA devem ser explicadas de modo que qualquer um, mesmo um completo leigo em tecnologia, possa entender (o velho "explicar para a sua avó"). As razões para o estabelecimento das regras também devem ser disponibilizadas a todos;
  2. Inclusão: As necessidades de todos os seres humanos sempre devem ser levadas em consideração no desenvolvimento de qualquer IA;
  3. Responsabilidade: É obrigação dos desenvolvedores trabalhar com responsabilidade e transparência;
  4. Imparcialidade: Os devs não podem atuar sob qualquer tipo de viés, de modo a proteger a justiça e a dignidade;
  5. Confiabilidade: As IAs devem ser absolutamente confiáveis;
  6. Segurança e privacidade: As IAs devem ser seguras e prezar pela privacidade de dados dos usuários.
IBM / Vicenzo Paglia durante evento / divulgação

Arcebispo Vicenzo Paglia discursa durante evento em Roma (Créditos: IBM / Divulgação)

Embora os princípios sejam semelhantes aos praticados por empresas e órgãos públicos, as motivações são diferentes: uma companhia prioriza o lucro e desenvolve algoritmos para maximiza-lo, sem que as soluções crie problemas posteriores; já um governo busca equilíbrio para manter os serviços básicos funcionando e não gerar insatisfação, ou insegurança, na população.

O foco do papa Francisco está, sem muita surpresa, na questão humana: sistemas, algoritmos e etc. devem sempre ser colocados em prol da igualdade entre as pessoas e promover valores alinhados com a doutrina social da Igreja Católica: dignidade do indivíduo, justiça, subsidiariedade (princípio em que o Estado só atua quando as esferas inferiores se mostram incapazes de auxiliar o cidadão) e solidariedade. Tudo o mais é secundário.

Há também questões levantadas sobre o reconhecimento facial. Segundo o papa Francisco, não há motivos para banir a tecnologia, mas o desenvolvimento e implementação deve seguir normas e regulações severas, de modo a proteger as pessoas e trabalhar a favor do povo, e não contra ele ou em benefício de poucos.

No geral, o evento mostra que o Vaticano não está alienado às novas tecnologias, e procura alinhar seus valores com a evolução da sociedade, algo que ela sabe fazer muito bem. Isso ou a Igreja Católica não seria a instituição mais antiga da Terra, com 2 mil anos de história.

Com informações: Reuters.

relacionados


Comentários