RAG substitui o treinamento do modelo?

Sim, na maioria dos casos corporativos. Treinar um modelo com seus dados é caro, demorado e precisa ser refeito a cada mudança de conteúdo. RAG busca a informação atualizada no momento da pergunta, então basta atualizar o documento para a resposta mudar.

Quantos documentos preciso ter para valer a pena?

Não é o volume que decide, é a frequência de consulta. Cinquenta documentos consultados dezenas de vezes por dia justificam RAG. Cinco mil documentos que ninguém abre não justificam nada.

RAG elimina a alucinação da IA?

Reduz muito, mas não elimina. O modelo ainda pode extrapolar além do que o trecho recuperado diz, principalmente quando a busca traz material irrelevante. Por isso um sistema de RAG bem feito exige citação da fonte e resposta de recusa quando nada relevante é encontrado.

O que é RAG e quando a sua empresa precisa

RAG é a técnica de buscar trechos relevantes da sua base de conhecimento antes de chamar o modelo de linguagem, e enviar esses trechos junto com a pergunta. O modelo então responde lendo o material fornecido em vez de depender só do que memorizou no treinamento. A sigla vem de Retrieval-Augmented Generation, ou geração aumentada por recuperação.

A consequência prática é direta: o modelo passa a responder sobre o seu contrato, o seu manual, a sua tabela de preços, coisas que ele nunca viu.

Como o RAG funciona por dentro

O fluxo tem duas etapas, e vale entender as duas porque quase todo problema de qualidade nasce na primeira.

Etapa 1, indexação (feita uma vez, e repetida quando o conteúdo muda):

Os documentos são quebrados em pedaços de algumas centenas de palavras (chunks). O tamanho e o ponto de corte importam: cortar no meio de uma cláusula de contrato destrói o sentido.
Cada pedaço é convertido em um embedding, um vetor de números que representa o significado do texto. Textos com sentido próximo ficam próximos nesse espaço vetorial.
Os vetores vão para um banco vetorial (pgvector, Qdrant, Weaviate e similares), junto com metadados: origem, data, setor, permissão de acesso.

Etapa 2, consulta (a cada pergunta):

A pergunta do usuário também vira um embedding.
O sistema busca os pedaços mais próximos por similaridade e, idealmente, cruza isso com busca por palavra-chave (BM25). Essa combinação é chamada de busca híbrida e resolve o ponto fraco da busca vetorial pura, que erra com códigos, números de peça e nomes próprios.
Um reordenador (reranker) reavalia os candidatos e escolhe os melhores.
Os trechos escolhidos entram no prompt junto com a pergunta e uma instrução clara: responda apenas com base no material fornecido, cite a origem, e diga que não sabe se o material não cobrir a pergunta.

A qualidade final do sistema é limitada pela etapa de busca. Se o trecho certo não for recuperado, nenhum modelo, por melhor que seja, vai acertar a resposta.

Quando a sua empresa precisa de RAG

O critério é objetivo. Você precisa de RAG quando a resposta correta depende de informação que só a sua empresa tem e essa informação é consultada com frequência por várias pessoas.

Casos que se encaixam bem:

Suporte interno sobre políticas, processos e procedimentos operacionais
Atendimento que consulta catálogo, prazos, condições comerciais e garantia
Área técnica que precisa achar a cláusula certa em contratos e normas
Onboarding de funcionário novo, que sempre repete as mesmas perguntas
Consulta a histórico de chamados, laudos ou pareceres anteriores

Casos que não se encaixam:

Conhecimento público e estável (a IA já sabe o que é CLT)
Perguntas cuja resposta está em uma consulta SQL simples, não em texto. Se a pergunta é "quantos pedidos ontem", o certo é dar ao modelo uma ferramenta de consulta ao banco, não indexar relatórios em PDF.
Base pequena e estática que caberia inteira no contexto do modelo. Se são 20 páginas fixas, mande as 20 páginas e economize toda a infraestrutura.
Documentação desatualizada ou contraditória. RAG amplifica a bagunça, não a corrige.

RAG contra as alternativas

Abordagem	O que resolve	Custo de atualização	Quando escolher
Prompt com o texto colado	Base pequena e fixa	Manual, a cada mudança	Menos de ~50 páginas estáveis
RAG	Base grande, viva, que muda	Reindexar o documento alterado	Conhecimento próprio consultado com frequência
Fine-tuning	Formato, tom e estilo de saída	Retreinar o modelo inteiro	Padronizar resposta, não injetar fato
Tool-use / consulta a API	Dado transacional e ao vivo	Nenhum, é sempre ao vivo	Saldo, estoque, status de pedido

O erro mais comum de quem começa é usar fine-tuning esperando que o modelo "aprenda" a base de conhecimento. Fine-tuning ensina comportamento, não fatos verificáveis, e fatos ensinados assim saem sem fonte e envelhecem junto com o modelo.

O que separa um RAG que funciona de um que decepciona

Três decisões concentram a maior parte do resultado:

Como você corta os documentos. Corte respeitando a estrutura: seção, cláusula, item. Guarde o título da seção junto com o pedaço, para o modelo saber o contexto do que está lendo. PDF escaneado precisa de OCR antes, e OCR ruim contamina tudo o que vem depois.

Se a busca é híbrida e reordenada. Busca vetorial sozinha erra em consultas com identificadores. Somar BM25 e passar um reranker por cima costuma ser a melhoria de maior efeito por menor esforço.

Se há permissão no nível do documento. Um sistema de RAG sem controle de acesso vaza. A filtragem por permissão precisa acontecer na busca, antes de o trecho chegar ao modelo, nunca depois, e nunca via instrução no prompt.

Vale acrescentar um quarto ponto, o mais ignorado: avaliação. Monte um conjunto de 50 a 100 perguntas reais com a resposta esperada e a fonte correta. Sem esse conjunto, você não tem como saber se uma mudança melhorou ou piorou o sistema, só impressões.

Na prática de quem constrói esse tipo de sistema, e é o que vemos nos projetos da Retti Tech, a parte difícil quase nunca é a chamada ao modelo. É organizar a base, decidir o que é fonte de verdade e admitir quando dois documentos internos se contradizem. Essa faxina costuma dar mais resultado do que trocar de modelo.

O ponto de partida honesto

Comece pequeno, com uma base bem delimitada e um público que faz perguntas repetidas. Meça acerto e cobertura antes de expandir. RAG é uma técnica madura e previsível, o que varia é a qualidade do material que você entrega a ela.