O que é geração aumentada de recuperação (RAG) em LLM? #ÚltimasNotícias #tecnologia

Tudo sobre Inteligência Artificial

Os modelos de linguagem grande (LLMs) que alimentam a IA generativa são peças de engenharia e ciência incríveis, que possuem a capacidade de raciocinar à medida que criam ou geram algo novo.

Mas, para que um LLM seja útil para um projeto ou aplicação geradora de IA específica, é importante se certificar de que está alimentando-o com seus próprios dados relevantes. Mesmo que os LLMs sejam impressionantes, qualquer pessoa tem acesso a eles.

É por isso que a diferenciação de sua superpotência vem de alimentá-los com seus dados, e é isso que a geração aumentada por recuperação (RAG) permite que seja feito. Conheça mais na matéria abaixo.

O que é geração aumentada por recuperação (RAG)?

O Retrieval-Augmented Generation (RAG), ou geração aumentada por recuperação, é um processo que otimiza a saída de um grande modelo de linguagem, para que ele faça referência a uma base de conhecimento confiável fora das suas fontes de dados de treinamento antes que uma resposta seja gerada.

Os grandes modelos de linguagem (LLMs) são treinados em grandes volumes de dados, usando bilhões de parâmetros para gerar resultados originais para tarefas distintas, como responder a perguntas, traduzir idiomas e concluir frases.

A RAG estende os recursos do LLMs, que já são poderosos, para domínios específicos ou para a base de conhecimento interna de uma organização, sem que seja preciso treinar novamente o modelo. É uma abordagem econômica que melhora a produção do LLM, de forma que ele permaneça relevante, preciso e útil em diversos contextos.

Leia mais:

Então, a geração aumentada por recuperação é uma técnica que aborda as limitações dos LLMs, permitindo que eles acessem dados contextuais e atualizados. As implementações RAG às vezes são chamados de modelos ou padrões RAG, e funcionam combinando um LLM pré-treinado com um sistema de recuperação de informações prontamente acessíveis.

O sistema de recuperação tem a função de encontrar informações relevantes em uma biblioteca de conhecimento, como banco de dados. Os modelos RAG possibilitam que o LLM, ou modelo de fundação, gere uma resposta mais precisa com contexto atualizado e relevante para a tarefa em questão.

Por que a geração aumentada de recuperação é importante?

O LLM é uma tecnologia fundamental usada pela inteligência artificial (IA) que alimenta os chatbots inteligentes e outros aplicativos de processamento de linguagem natural (PLN). O principal objetivo é criar bots que respondam às perguntas dos usuários em vários contextos, usando fontes de conhecimento confiáveis.

Porém, a natureza da tecnologia LLM oferece imprevisibilidade nas respostas geradas, e além disso, os dados usados para treinar os LLMs são fixos, o que resulta na existência de uma data limite ara o conhecimento que podem oferecer.

Alguns desafios que os LLMs enfrentam atualmente:

• Informações falsas fornecidas quando não há uma resposta adequada;
• Informações desatualizadas ou genéricas quando os usuários procuram por respostas específicas e atualizadas;
• Respostas baseadas em fontes não confiáveis;
• Respostas imprecisas por conta da confusão terminológica, quando diferentes fontes de treinamento usam a mesma terminologia para descrever conceitos distintos.

Com isso, a abordagem RAG por ser usada para solucionar alguns desses desafios, direcionando o LLM a recuperar os dados relevantes, provenientes de fontes de conhecimento confiáveis e previamente definidas.

Dessa forma, as empresas ganham mais controle a respeito do texto gerado, e os usuários entendem melhor sobre o processo de geração de respostas do LLM. Os modelos RAG demonstraram ser eficazes para uma diversidade de tarefas de conhecimento intensivo, incluindo:

• Tarefas de geração de linguagem, respondendo perguntas de forma abrangente e informativa ou gerando diferentes formatos criativos de conteúdo de texto, como poemas, roteiros, peças musicais, etc.;
• Tarefas de PNL, fornecendo resumos de conversas, gravações de áudio e chamadas de vídeo;
• Tarefas que exigem classificação, como segurança cibernética e conformidade, ou raciocínio para coisas como planejamento de negócios.

O RAG também pode ser usado para permitir que uma aplicação alimentada por IA generativa observe um estado de background, adaptando suas gerações de agordo. A capacidade de escrever código com base no código que um usuário está escrevendo é um exemplo disso. Outros exemplos são:

• Contexto de aplicação: no caso da criação de um assistente de Excel com IA, seria útil se ele soubesse os nomes das planilhas, do arquivo, os intervalos de células selecionados, entre outros. O RAG vai alimentar o prompt com as “informações de atividade no background” para que o LLM possa adaptar a ajuda para a planilha;
• Dados pessoais, como um agente auxiliar do chatbot. No caso da criação de um bot de suporte ao cliente, ele pode obter o histórico de conversas anteriores e de CRM do cliente específico para ajudar a personalizar a conversa, e não apenas cumprimentar, mas personalizar as opções. Sem o histórico, o LLM não poderá realizar a personalização de forma eficaz, e nem ajudar com os problemas existentes;
• Números brutos, métricas, dados tabulares (CSV, Parquet, JSON, por exemplo). O RAG não se limita a trabalhar com contexto textual, mas também com informações quantitativas. Um chatbot de business intelligence (BI) provavelmente estaria fazendo RAG em dados tabulares brutos.