Regulação de IAs da China pega pesado (de novo) com big techs

A China vem investindo pesado em tecnologias de Inteligência Artificial (IA), de modo a garantir a liderança do setor, mas, em simultâneo, está propondo um conjunto de regras bastantes rígidas para a regulação do mercado, tanto para ocibir abusos das gigantes de tecnologia locais, quanto para afirmar, mais uma vez, quem é que manda.

• China aumenta pressão sobre gigantes de tecnologia
• Lei de segurança de dados da China pega pesado com big techs

Não obstante, as regras que entrarão em vigor em 1.º de março de 2022 no território chinês poderão ser copiadas ou adaptadas por órgãos reguladores em outros países, que estão de olho em fechar "brechas" que Pequim não teria deixado passar.

O conjunto de regulações para IA, conhecido como Disposições de Gerenciamento de Recomendações Algorítmicas do Serviço de Informações da Internet, foi elaborado pela Administração do Ciberespaço da China, órgão governamental que controla a internet da China na totalidade, de e-commerce e segurança digital à veiculação de conteúdo, sendo efetivamente o censor digital.

As regulações chinesas para IAs seguem normas comuns em muitos países, inclusive no Brasil (embora nossa legislação tenha sido considerada muito branda e vaga demais), mas também estipula uma série de observações mais rígidas, criadas para evitar abusos, mas também para reduzir o poder das companhias de tecnologia locais, que aos olhos do governo, andam abusando.

Por exemplo, a legislação proíbe veementemente que algoritmos usem dados comportamentais e outras características dos usuários para diferenciação de preços por produtos e serviços. Por exemplo, há reclamações corriqueiras de apps de transporte, cobrando valores diferentes por viagens de uma mesma categoria e distância, com base no trajeto (origem/destino), qual celular o usuário possui, e se o mesmo tem ou não preferência por corridas em serviços com carros de luxo, cobrando mais de quem seleciona os mais baratos com frequência.

As novas regras obrigam também a companhias ofereceram opções de opt-out para recomendações com base em algoritmos, estabelecer proteções específicas para usuários idosos, os mais propensos a serem pegos em golpes ou acabarem enrolados pelos serviços prestados e proíbe a geração de recomendações com base em Fake News (leia-se o que o censor estatal entende como falso).

A legislação também proíbe o uso de tags "discriminatórias ou enviesadas", e barra comportamentos perceptíveis como monopolistas, em que uma IA daria preferência a resultados e recomendações de sua companhia em detrimento de concorrentes, mesmo apresentando resultados inferiores. As mudanças afetarão precificação de serviços, resultados de buscas, recomendações em serviços de VOD, áudio e streaming e em redes sociais, etc.

O movimento para regular fortemente os algoritmos de IA é mais um passo no processo de realinhamento forçado que o governo chinês, sob o comando absoluto de Xi Jinping, presidente e secretário-geral do Partido Comunista da China, de modo a readequar o comportamento e procedimentos das companhias, que teriam se acostumado demais com as benesses do capitalismo, graças às reformas e abertura econômica no governo de Deng Xiaoping.

Seguiram-se uma onda de processos e multas pesadíssimas, impostas a empresas como Alibaba Group, Tencent, DiDi, Meituan e várias outras, e também uma forte regulação do consumo digital entre jovens, que levou à implementação de uma das mais draconianas envolvendo games e menores de idade, onde eles só podem jogar online até 3 horas por semana.

Voltando à regulação de IAs, é evidente que a China está tentando lidar com o assunto em uma série de frentes, e cobrir todos os casos de uso de uma vez, mas a tarefa pode não ser tão simples. O Artigo 13, por exemplo, que proíbe geração de Fake News, cita o banimento de "manipulação de listas de tópicos, rankings de busca, ou termos de busca populares", bem como proíbe a criação de contas de usuário falsas, para manipular números de engajamento.

Ao mesmo tempo, o movimento de não privilegiar conteúdo autogerado é controverso, principalmente em casos onde um resultado ou recomendação possa vir a se tornar popular de forma orgânica, mas a legislação diz que a IA deve destacar concorrentes igualmente, levando a um resultado artificial.

Outra nota da lei cita que as recomendações por algoritmos não podem ser "viciantes", o que pode ir de encontro com as preferências do usuário, especialmente se considerarmos sugestões de apps como o TikTok, que estimulam engajamento em massa.

Paralelo a isso, há uma legislação acessória que trata sobre a regulação de "conteúdo sintético", especificamente Fake News, Deepfake e manipulação de voz, em que os criadores deverão ser identificados e posteriormente responsabilizados, caso suas criações venham causar mal a indivíduos, empresas e instituições.

Independente dos problemas que o governo chinês enfrente para que as restrições a IAs e algoritmos sejam aplicadas, considerando que as companhias de tecnologia tentarão contornar as regras, a medida está atraindo atenção de legisladores em outras regiões, especialmente na Europa.

Segundo Rogier Creemers, especialista em legislação e governança chinesas da Universidade de Leiden, Holanda (ou Países Baixos; é complicado), ele foi questionado pelo Ministério de Relações Exteriores do país, sobre se a China "está fazendo coisas que nós não estamos", no sentido de ter deixado pontas soltas, e comentou que Pequim "está se movendo extremamente rápido" neste setor.

Basicamente, a ação da China para regular as IAs, embora seja considerada muito drástica e um tanto restritiva, poderá render movimentos similares caso pontos-chave sejam considerados benefícios às leis vigentes, principalmente na União Europeia, considerando sua habitual aversão às grandes empresas dos Estados Unidos, que vêm sofrendo com um processo atrás do outro na região.

Fonte: WIRED