IA: UE define regras para ChatGPT e modelos de uso geral

A Comissão Europeia, o braço executivo da União Europeia (UE), publicou o primeiro rascunho de regras ligadas a Lei que regula algoritmos baseados em Inteligência Artificial (IA), especificamente voltadas às soluções de uso geral (General-Purpose AI, ou GPAI).

• UE aprova primeira Lei para a regulação das IAs
• IA: EUA, China, Brasil anunciam regulação coordenada

As restrições visam enquadrar grandes modelos de linguagem (LLMs) de empresas como OpenAI (ChatGPT), Google (Gemini), Meta (Llama), Apple (Apple Intelligence, ou AI), Microsoft (Copilot), Mistral AI, e Anthropic; todas devem observar as leis de coyright, ser bem claras sobre coletas de dados, e evitar seus algoritmos "alucinem", promovendo discursos de ódio. Quem não se adequar levará multas pesadas, como de costume.

IAs de uso geral não podem alucinar, e devem ser claras sobre coleta de dados e uso de material com copyright (Crédito: Shutterstock/Ronaldo Gogoni/Meio Bit)

UE volta a bater em empresas de IA

Quando a Lei de IA foi aprovada, a UE especificou que partes do texto entrariam em vigor em ondas, no prazo máximo de dois anos. Um dos temas é justamente o que se refere às IAs de Uso Geral, os modelos básicos para a construção dos LLMs e, por assim dizer, a pedra angular dos principais algoritmos disponíveis no mercado, de chatbots a tradutores, assistentes pessoais, etc.

Do ChatGPT ao Gemini, do Llama ao Apple AI, do Copilot ao Grok do X, todos são baseados em modelos de GPAI, que NÃO devem ser confundidos com IA Geral, o mítico algoritmo que "pensa", que alguns acadêmicos, como Roger Penrose, acreditam ser algo impossível de desenvolver.

O Código de Práticas para IAs de Uso Geral discorre (cuidado, PDF), através de 36 páginas, normas e procedimentos que todas as companhias que operam GPAIs serão obrigadas a seguir, se quiserem operar nos 27 países-membros da UE; embora o documento possa e será revisado, o que for determinado pelo parlamento europeu, em última análise, não será passível de ser discutido após a implementação.

Um dos pontos principais do documento é o de transparência, empresas deverão ser absolutamente claras sobre como seus crawlers funcionam, que tipo de dados estão sendo coletados, como eles são armazenados, e se os usuários são adequadamente informados, e têm opções de impedir o processo, o que já rendeu um processo ao X.

As companhias também são obrigadas a implementar salvaguardas nos algoritmos de IA, a fim de impedir que seus modelos reproduzam conteúdos controversos, como discurso de ódio, reprodução de preconceitos, e conteúdos relacionados a terrorismo (como, por exemplo, algoritmos que ensinam a desenvolver armas biológicas, explosivos, artefatos nucleares, etc.).

As IAs de Uso Geral também não podem apresentar comportamentos manipulativos e controladores, e não podem, sob nenhuma circunstância, fugir do controle em caso de operação autônoma, como em aplicações de pesquisa e desenvolvimento.

UE não vai aliviar para a IA, de novo (Crédito: idealeksisai-1/Freepix)

A questão dos direitos autorais também é levada a sério, os algoritmos devem ser transparentes sobre todo o conteúdo protegido coletado, a fim de que a DMCA seja devidamente aplicada, para que os detentores dos copyrights possam, entre as opções, exigir pagamento, ordenar a remoção do material dos bancos de dados por uso não autorizado, e inclusive abrir ações legais por infração de direitos.

O argumento de "uso aceitável" não cabe aqui, e a regra é clara: para usar, tem que licenciar junto aos content providers; usou, pagou; usou e não pagou, ou não pediu permissão, processo. A comunicação entre as partes deve ser a mais rápida possível, e todos os crawlers e robots.txt devem ser identificados, e detalhes do tempo e extensão da coleta devem ser fornecidos, para os detentores calcularem o que foi coletado, e como responderem.

Por fim, a proteção dos dados também é um fator importante, as empresas ficam responsáveis por tudo o que coletarem, e devem se submeter a análises de risco externas, estabelecer frameworks internos, e executar avaliações constantes sobre a segurança e estabilidade dos modelos. Novos modelos deverão ser submetidos ao governo, com informações detalhadas que incluem o poder computacional necessário, todos os incidentes sérios deverão ser reportados, e leis já vigentes, como a GDPR, deverão ser seguidas à risca.

O documento, como todo manual de boas práticas, é basicamente um conjunto de sugestões, as empresas têm certa flexibilidade para decidirem como melhor implementarem suas soluções, mas são obrigadas a seguir as determinações vigentes da Lei Geral de IA, independente de saírem pela tangente com suas IAs de Uso Geral, ou não.

Por fim, as empresas serão diretamente responsabilizadas por casos de IAs alucinando, ou qualquer outra infração da Lei Geral. Quem não se adequar pode ser multado em 35 € milhões (~R$ 213,9 milhões, cotação de 15/11/2024), ou em 7% da receita global anual, o valor que for maior.

As empresas e acionistas tem até 28 de fevereiro de 2025 para fornecerem seus feedbacks a respeito do rascunho, e em 1.º de maio próximo, o texto final entrará em vigor. Até o momento, Meta e Apple são as únicas empresas que se recusam a assinar um pacto voluntário de desenvolvimento sustentável de IA proposto pela UE, mas no geral, a nova legislação priorizou a proteção do usuário final e a observância da DMCA, e mesmo empresas locais não gostaram do pacote

Ainda assim, as chances de que o parlamento dê para trás são bem baixas, mesmo com alguns dos arquitetos da Lei de IA deixando a Comissão Europeia, como Thierry Breton (comissário de Mercado Interno), que já saiu, e Margrethe Vestager (comissária de Competição e VP Executiva).

Fonte: European Commission