Ministério Público Federal

RAG — O Gargalo que se Desloca

Retrieval-Augmented Generation: a promessa, a realidade e as armadilhas para documentos jurídicos

RAG não resolve — redistribui
RAG é a arquitetura por trás de ferramentas como o NotebookLM: o sistema segmenta documentos em trechos (chunks), e quando o usuário pergunta, busca os chunks mais semanticamente similares para alimentar o LLM.

Em vez de diluição por excesso de contexto, o problema vira falha de segmentação e seleção inadequada. O gargalo muda de lugar, mas continua existindo.
👨‍💼 Antes: o assessor lê todos os 15 volumes (atenção finita diante de volume). Depois: o estagiário seleciona trechos e o assessor lê a seleção (depende da qualidade do filtro). Se o estagiário selecionou mal, o parecer será confiante — mas baseado em material incompleto.
A faca que corta o argumento
Para a busca funcionar, documentos são fatiados em chunks por critérios mecânicos (a cada N tokens, a cada parágrafo). Em textos jurídicos, isso é desastroso:

Separa premissa de conclusão. Corta citações de jurisprudência ao meio. Destrói a relação relatório → fundamentação → dispositivo. Referências cruzadas ("conforme fls. 234") apontam para o vazio.
📄 Um parecer jurídico é como uma equação: cada parte depende das anteriores. Fatiar por tamanho é como cortar a equação pela metade — cada pedaço é tecnicamente "texto", mas perdeu o sentido lógico que o conectava ao todo.
Parecido não é adequado
A busca semântica traz o que parece relevante, não o que é necessário. Polissemia no embedding confunde "competência jurisdicional" com "competência administrativa". O chunk necessário pode estar semanticamente distante. O chunk enganoso pode estar semanticamente próximo.

Clique "reformular" para ver como a formulação da pergunta muda os resultados.
🔍 É como pesquisar jurisprudência por palavras-chave: "competência federal" traz acórdãos sobre competência jurisdicional, competência delegada, competência legislativa e competência administrativa. O sistema de busca não sabe qual você precisa — traz tudo o que contém as mesmas palavras.
Insight Operacional −

RAG desloca o gargalo, não o elimina. Em vez de "atenção diluída", o problema vira "seleção que traz o parecido em vez do necessário". A faca da segmentação corta argumentos; a busca semântica confunde polissemia com relevância. RAG é ferramenta poderosa — mas não é mágica. O operador que entende as limitações produz resultados incomparavelmente melhores.