Meio Bit » Software » IAs continuam reproduzindo preconceitos humanos

IAs continuam reproduzindo preconceitos humanos

Casos de IAs reproduzindo preconceitos contra minorias estão se acumulando; relatório da OMS adiciona etarismo contra idosos à lista

27 semanas atrás

Casos de IAs (Inteligências Artificiais) reproduzindo preconceitos humanos, contra grupos de minorias, estão se acumulando com o passar do tempo, ao ponto de hoje não serem mais anomalias isoladas. Claro que um robô, IA ou sistema especialista não é preconceituoso per se, ele reproduz injustiças de acordo com como foi desenvolvida.

Os casos mais comuns envolvem diferenças de tratamento com base em etnia e gênero, mas um relatório recente da OMS (Organização Mundial de Saúde) aponta para vícios em sistemas contra idosos.

Uma IA é tão boa (ou má) quanto a pessoa que a programa (Crédito: Aleutie/Shutterstock) / IAs

Uma IA é tão boa (ou má) quanto a pessoa que a programa (Crédito: Aleutie/Shutterstock)

O relatório da organização se foca na prática do etarismo (também são usados idadismo ou o termo anglo ageism traduzido), o preconceito sistêmico baseado na idade, especificamente contra idosos em diversos cenários envolvendo o acesso à saúde, inclusive os tratamentos dados à terceira idade no combate à COVID-19, sendo eles os mais vulneráveis e que muitas vezes, foram deixados à própria sorte.

Exemplos não faltam: na Itália, a idade foi usada como fator para determinar quem receberia tratamento, algo que aconteceu em diversos outros locais, inclusive no Brasil. Por aqui, temos o caso do ministro da economia Paulo Guedes, que culpou os idosos por "quererem viver 100 anos" pela situação da saúde no país, visto que na sua mentalidade, a manutenção dos mais velhos é custosa aos cofres públicos.

A pandemia expôs e intensificou preconceitos contra os idosos, vistos cada vez mais como "fardos para a sociedade", logo, não surpreende que alguns algoritmos e sistemas especialistas, desenvolvidos para soluções em saúde, acabem por também depreciá-los em tratamento e atendimento, como já aconteceu com negros.

É sempre bom lembrar que um sistema não é preconceituoso, por não ser inteligente o bastante para isso, mas ele vai reproduzir vieses e comportamentos que aumentam a desigualdade social, de acordo como foi programado.

Por exemplo, é comum haverem IAs de acesso à saúde agruparem os pacientes em grupos etários, e classificarem os mais velhos como idosos a partir dos 50 anos, ou em idades próximas. No entanto, o algoritmo tem uma predisposição em atender as necessidades dos mais jovens deste grupo, ignorando necessidades dos de idades mais avançadas, que possuem características distintas e muito frequentemente, dependem de tratamentos contínuos para doenças e disfunções mais custosas (Alzheimer, esclerose múltipla, problemas renais, pressão alta, diabetes, etc.).

Basicamente, priorizar os mais jovens é mais barato para os sistemas de saúde, da mesma forma que IAs já foram pegas preterindo negros por viverem em situações sócio-financeiras piores, algo que nos EUA é consequência direta do preconceito. Isso lembra também que as bases de dados com que algoritmos são alimentadas também podem ser viciadas, levando a tomadas de decisão injustas.

O relatório menciona que em 2020, em 85% de um total de 149 estudos, algoritmos definiam a idade como fator crucial para decidir quem receberia tratamento, ou seria encaminhado para procedimentos médicos diversos.

O "etarismo digital" está se tornando cada vez mais presente, o que é muito ruim (Crédito: Park Jong-Kwon)

O "etarismo digital" está se tornando cada vez mais presente, o que é muito ruim (Crédito: Park Jong-Kwon)

O relatório também menciona barreiras existentes que dificultam o acesso digital por idosos, e aponta que jovens também são vítimas da outra ponta do "etarismo digital", com ambos sofrendo para conseguir tratamento, emprego, educação, suporte legal e acesso à mídia e conteúdos. No entanto, ele enfatiza que as dificuldades aumentam quanto mais velho for o indivíduo.

Dá para imaginar a desculpa da "falta de experiência" que prejudica os jovens, mas para os idosos, o que pesa é o fator "fim da linha", o pensamento (horrível) de que não faz sentido investir em alguém que está no último período de sua vida, mesmo com muitas IAs já considerando como idoso quem tem mais de 45 ou 50 anos, e são ainda fundamentalmente produtivos para a sociedade.

Com mais idosos tendo acesso à tecnologia, incluindo aí os que viveram o início da revolução digital e estão ficando velhos, é preciso que instituições, governos e ONGs fiquem de olho em quem passa dos limites, e companhias devem trabalhar em prol de diminuir a desigualdade, ao invés de usar IAs e sistemas para aumentá-las, algo que até mesmo o papa Francisco criticou.

Fonte: World Health Organization, The Conversation

Leia mais sobre: , , .

relacionados


Comentários