RAG significa Retrieval-Augmented Generation - geração aumentada por busca. É provavelmente a sigla mais repetida em pitch de startup de IA hoje, e também uma das mais mal explicadas. Aqui está o que ela resolve de verdade, sem assumir que você já sabe o resto.
O problema que RAG resolve
Um modelo de linguagem como o GPT ou o Claude foi treinado uma vez, em um conjunto de dados que parou em uma data específica. Ele não sabe o que aconteceu depois desse corte, e - o que importa mais para uma empresa - nunca viu os documentos internos, os contratos, o histórico de suporte ou a base de clientes da sua operação. Perguntado sobre isso, ele não vai dizer "não sei". Vai inventar uma resposta plausível, com a mesma confiança de uma resposta correta. É o problema conhecido como alucinação.
A solução óbvia pareceria ser "treinar o modelo de novo com os seus dados" - o chamado fine-tuning. Na prática, isso é caro, lento, e o resultado fica desatualizado no dia seguinte a qualquer mudança nos dados. Refazer o treino toda vez que um documento muda não é uma rotina que sobrevive ao mundo real.
Como funciona, na prática
RAG resolve o mesmo problema por outro caminho: em vez de ensinar o modelo a memorizar seus dados, você dá a ele acesso a esses dados no momento da pergunta.
Em termos simples, o processo tem três passos. Primeiro, seus documentos - contratos, manuais, base de conhecimento, histórico de conversas - são convertidos em embeddings: representações numéricas que capturam o significado do texto, não só as palavras exatas. Esses embeddings ficam guardados em um banco de dados vetorial. Segundo, quando alguém faz uma pergunta, o sistema busca nesse banco os trechos de documento cujo significado é mais próximo da pergunta - não por palavra-chave, por proximidade de sentido. Terceiro, esses trechos recuperados são inseridos como contexto na pergunta que vai para o modelo, que então gera a resposta com base no que acabou de ler, não só no que memorizou durante o treino.
O resultado prático: pergunte a um assistente com RAG bem implementado sobre a política de reembolso da sua empresa, e ele responde com o texto real da política atual - não com uma versão genérica que soa plausível.
Por que é mais barato - e mais auditável - que fine-tuning
Duas vantagens concretas. A primeira é custo e velocidade: atualizar a base de conhecimento de um sistema com RAG é adicionar ou trocar um documento no banco vetorial - minutos, não um novo ciclo de treinamento de semanas. A segunda é auditabilidade, e essa é a que mais importa para quem toma decisão de negócio: como a resposta cita os trechos recuperados, dá para apontar exatamente qual documento gerou aquela resposta. Com um modelo puramente fine-tunado, a informação está distribuída e comprimida dentro dos pesos da rede - não existe um "aponte a fonte" possível.
O limite honesto: a busca é o gargalo real
RAG não é mágica, e vale ser direto sobre onde ele falha. A qualidade da resposta final depende inteiramente da qualidade da busca que veio antes - e se os documentos foram divididos em pedaços (chunks) do jeito errado, ou se o modelo de embedding não captura bem o domínio específico do seu negócio, o sistema recupera o trecho errado e gera uma resposta errada com exatamente a mesma confiança de uma resposta certa. Um RAG malfeito não é melhor que um modelo sem RAG nenhum - só é errado de um jeito mais difícil de perceber, porque parece embasado.
"A gente usa RAG" não é uma resposta boa por si só - a resposta boa vem depois: buscando de onde, e verificado por quem?
A pergunta certa para um fornecedor de IA
Se você está avaliando um produto ou fornecedor que promete RAG como diferencial, a pergunta que separa implementação séria de palavra da moda não é "vocês usam RAG?" - é o que está sendo recuperado (quais fontes, com que frequência atualizadas), como a qualidade da recuperação é medida, e o que acontece quando o sistema não encontra um trecho relevante: ele admite que não sabe, ou inventa uma resposta de qualquer jeito? A resposta a essa última pergunta, sozinha, já separa um sistema bem construído de um mal construído.