Ronaldo Gogoni 2 anos atrás
O inferno ainda está longe de congelar, mas deu uma leve refrescada nos últimos dias. A Meta, que tem como prática padrão não comentar procedimentos internos, nem liberar suas ferramentas e algoritmos, anunciou que está abrindo acesso ao seu próprio Modelo de Linguagem de Grande Escala (Large Language Model, ou LLM).
Chamado OPT (Open Pretrained Transformer), ele permitirá que pesquisadores possam desenvolver e treinar melhores modelos de Inteligência Artificial, mas é bom lembrar que o Meta não está sendo exatamente bonzinho. Na verdade, o movimento é uma forma de disputar mercado com a OpenAI, que nunca abriu o acesso à sua própria ferramenta, o GPT.
O modelo recebeu a designação OPT-175B, que deixa claro o escopo do projeto: ele conta com 175 bilhões de parâmetros e até então, era considerado uma das ferramentas mais bem protegidas da companhia anteriormente conhecida como Facebook. O objetivo, segundo o Meta, é democratizar o desenvolvimento de IAs capazes de analisar e compor textos de linguagem natural, e que "toda a comunidade" deve trabalhar em conjunto para esse fim.
Acesso ao OPT-175B será bem amplo, com o Meta permitindo que instituições acadêmicas, pesquisadores individuais, laboratórios de pesquisa ligados à indústria, profissionais e agentes governamentais, e até curiosos, possam estudar e implementar suas ferramentas, bem como desenvolver novos parâmetros e introduzir melhorias ao projeto.
A atitude do Meta com sua plataforma de IA para linguagem natural é bem direta. Conforme a companhia, não é desejável que poucos tenham acesso a softwares avançados de linguagem natural, principalmente instituições fechadas que restringem suas soluções, e que para que novas soluções na área possam ser desenvolvidas com responsabilidade, é preciso a colaboração de todos os setores da sociedade civil.
O mais bizarro nessa história é que a Meta, uma companhia notória por manter seus algoritmos trancados a sete chaves, e que já brigou com pesquisadores por estudá-los, chegando a bani-los do Facebook, esteja se comprometendo a compartilhar uma de suas ferramentas mais poderosas, tornando-a de acesso aberto. No entanto, como tudo que envolve a empresa de Mark Zuckerberg, ninguém está bancando o bom samaritano aqui.
Em primeiro lugar, o movimento do Meta é um contraponto à OpenAI, um grupo voltado ao desenvolvimento de IAs de linguagem natural amigáveis, responsável pelo GPT (Generative Pre-trained Transformer), atualmente em sua terceira geração, o GPT-3. Esta ferramenta é uma das mais avançadas no campo de composição de publicações e textos coesos e com contexto, sem a interferência direta de humanos.
A OpenAi argumenta que seu software é tão poderoso, que caso seu acesso fosse liberado, o GPT-3 acabaria invariavelmente usado por pessoas e/ou grupos mal-intencionados, para compor publicações falsas de todo o tipo, não importa se direcionadas ao povão, ou para grupos específicos. Exatamente por isso, o grupo o mantém fechado.
Mesmo interações limitadas do GPT-3 se mostraram experimentos onde humanos, quando querem, conseguem quebrar qualquer brinquedo, logo, por que permitir que qualquer um tenha acesso ao seu algoritmo?
A proposta do Meta vai na direção oposta, e argumenta que para o OPT-175B ser bem-sucedido, é preferível desenvolver a ferramenta com o máximo de colaboração possível, mesmo que isso signifique alguns maus elementos o usando, no que a própria comunidade atuará, sob orientação da empresa, institutos e governos, para reprimir os casos usos não-ideais e/ou ilegais.
Por outro lado, ao oferecer uma solução completamente aberta, o Meta posiciona o OPT-175B como uma solução mais amigável à comunidade do que o GPT-3, no que ele poderá ser destrinchado e incrementado de todas as formas possível, o que a OpenAi não permite.
Ao oferecer total acesso ao OPT-175B, o Meta estabelece uma relação de benefício mútuo com pesquisadores e profissionais independentes. Estes poderão aplicar o algoritmo da maneira que acharem melhor às suas próprias soluções, e trabalharem em conjunto para implementar e sugerir melhorias no software.
A companhia de Zuckerberg, no que lhe concerne, se beneficiará do trabalho de uma comunidade enorme em torno do projeto, que poderá evoluir a passos largos, sem gastar um centavo sequer com consultoria, no que claro, poucos verão como um problema já que não precisam pagar para ter acesso.
Por fim, o Meta se beneficiará enormemente com a empreitada, que tem o potencial de reverter a imagem da companhia como empresa fechada e que não discute seus métodos, nem libera o acesso de suas ferramentas para escrutínio externo por pesquisadores e instituições. No fim, este também é um movimento de Relações Públicas.
O tempo dirá se o Meta colherá bons frutos com o OPT-175B, ou se conseguirá tomar o espaço da OpenAI e do GPT-3; por enquanto, você pode baixar o código-fonte e modelos pré-treinados em menor escala.
Para ter acesso à versão completa do algoritmo, com todos os 175 bilhões de parâmetros, é preciso solicitar acesso ao Meta.
ZHANG, S., ROLLER, S., GOYAL, N. et al. OPT: Open Pre-trained Transformer Language Models. arXiv (Cornell University), 30 páginas, 2 de maio de 2022. Disponível aqui.
Fonte: Meta AI