Os modelos de IA não conseguem aprender à medida que avançam, como os humanos fazem #ÚltimasNotícias

Os algoritmos que sustentam sistemas de inteligência artificial como o ChatGPT não conseguem aprender à medida que avançam, forçando as empresas de tecnologia a gastar bilhões de dólares para treinar novos modelos do zero. Embora isso tenha sido uma preocupação na indústria por algum tempo, um novo estudo sugere que há um problema inerente com a maneira como os modelos são projetados – mas pode haver uma maneira de resolvê-lo.

A maioria das IAs hoje são as chamadas redes neurais inspiradas em como os cérebros funcionam, com unidades de processamento conhecidas como neurônios artificiais. Elas normalmente passam por fases distintas em seu desenvolvimento. Primeiro, a IA é treinada, o que vê seus neurônios artificiais ajustados por um algoritmo para refletir melhor um determinado conjunto de dados. Então, a IA pode ser usada para responder a novos dados, como entradas de texto como aquelas colocadas no ChatGPT. No entanto, uma vez que os neurônios do modelo foram definidos na fase de treinamento, eles não podem atualizar e aprender com novos dados.

Isso significa que a maioria dos grandes modelos de IA precisa ser retreinada se novos dados ficarem disponíveis, o que pode ser proibitivamente caro, especialmente quando esses novos conjuntos de dados consistem em grandes porções de toda a internet.

Os pesquisadores se perguntam se esses modelos podem incorporar novos conhecimentos após o treinamento inicial, o que reduziria custos, mas não está claro se eles são capazes disso.

Agora, Shibhansh Dohare da Universidade de Alberta no Canadá e seus colegas testaram se os modelos de IA mais comuns podem ser adaptados para aprender continuamente. A equipe descobriu que eles perdem rapidamente a capacidade de aprender qualquer coisa nova, com um vasto número de neurônios artificiais ficando presos em um valor de zero após serem expostos a novos dados.

“Se você pensar nisso como seu cérebro, então será como se 90 por cento dos neurônios estivessem mortos”, diz Dohare. “Simplesmente não sobra o suficiente para você aprender.”

Dohare e sua equipe primeiro treinaram sistemas de IA a partir do banco de dados ImageNet, que consiste em 14 milhões de imagens rotuladas de objetos simples como casas ou gatos. Mas em vez de treinar a IA uma vez e então testá-la tentando distinguir entre duas imagens várias vezes, como é padrão, eles treinaram novamente o modelo após cada par de imagens.

Eles testaram uma série de algoritmos de aprendizagem diferentes dessa maneira e descobriram que, após alguns milhares de ciclos de retreinamento, as redes pareciam incapazes de aprender e apresentavam um desempenho ruim, com muitos neurônios parecendo “mortos” ou com valor zero.

A equipe também treinou IAs para simular uma formiga aprendendo a andar por meio de aprendizado por reforço, um método comum em que uma IA aprende como é o sucesso e descobre as regras usando tentativa e erro. Quando eles tentaram adaptar essa técnica para permitir o aprendizado contínuo ao retreinar o algoritmo após andar em superfícies diferentes, eles descobriram que isso também leva a uma incapacidade significativa de aprender.

Este problema parece inerente à maneira como esses sistemas aprendem, diz Dohare, mas há uma maneira possível de contorná-lo. Os pesquisadores desenvolveram um algoritmo que liga aleatoriamente alguns neurônios após cada rodada de treinamento, e pareceu reduzir o desempenho ruim. “Se um [neuron] morreu, então nós apenas o revivemos”, diz Dohare. “Agora ele é capaz de aprender novamente.”

O algoritmo parece promissor, mas precisará ser testado em sistemas muito maiores antes que possamos ter certeza de que ajudará, diz Mark van der Wilk, da Universidade de Oxford.

“Uma solução para aprendizado contínuo é literalmente uma questão de um bilhão de dólares”, ele diz. “Uma solução real e abrangente que permitiria que você atualizasse continuamente um modelo reduziria significativamente o custo de treinamento desses modelos.”