Ministério Público Federal

Oficina Prática

Context rot, mecanismos de atenção e engenharia de contexto
para membros e servidores do MPF — nível intermediário
💡 Clique em qualquer módulo para abrir a visualização interativa · Use F11 para tela cheia
Bloco A — O Enigma
O fenômeno antes dos mecanismos
Abrir com o observável. Demonstrar que todos os modelos sofrem. Criar a pergunta: por que isso acontece?
1
Context Rot — O Fenômeno
A degradação que afeta todos os LLMs. Curva em U de acurácia. Comparação entre GPT-4, Claude, Gemini, Llama, Mistral. Os quatro sintomas observáveis no dia a dia.
O Fenômeno Entre Modelos Os 4 Sintomas
→
Bloco B — Os Mecanismos
A física do sistema
Descer para as peças do motor. Cada módulo é premissa do seguinte. No final, o público entende por que o context rot acontece.
2
Espaço Latente e Prompts
O espaço onde o modelo "pensa". Como o prompt define a coordenada inicial e a trajetória. Prompt vago vs. específico. Role-setting, chain-of-thought, context rot como patologias da trajetória.
Prompt Vago Prompt Específico Role-Setting Chain-of-Thought Context Rot
→
3
Mecanismo de Atenção
Query, key, value — como cada token decide a quem prestar atenção. O orçamento fixo de 100% (softmax). A diluição inevitável com o aumento do contexto.
Mecanismo de Atenção Orçamento Fixo Diluição Atencional
→
4
Autorregressividade e Crescimento do Contexto
Geração token a token, sem volta. O modelo não lembra — relê. A concatenação integral a cada turno. A curva de crescimento que engorda sozinha.
Autorregressividade O que o modelo "vê" Curva de Crescimento
→
5
Lost in the Middle
A geografia posicional da atenção: bordas privilegiadas, centro negligenciado. Curva em U. Posição importa tanto quanto conteúdo. Onde colocar o quê.
A Curva em U Posição da Informação Onde Colocar o Quê
→
Bloco C — As Patologias
Causa e efeito na prática
Voltar à superfície com lentes técnicas. Contradições, correções e ambiguidade explicadas pelos mecanismos do Bloco B.
6
Informações Contraditórias no Contexto
O modelo não arbitra — mistura. Média ponderada de versões conflitantes. "Quem fala por último tem razão." Estratégias de separação, meta-instrução e decomposição.
O Problema Efeito da Posição Estratégias
→
7
Correções no Contexto
Corrigir é somar, não substituir. O erro original persiste e pode ressurgir. A ilusão da correção. Quando corrigir inline e quando começar conversa nova.
A Ilusão O Fantasma do Original Corrigir vs. Recomeçar
→
8
Ambiguidade vs. Imprecisão
Miopia vs. daltonismo. Imprecisão gera respostas rasas que você percebe. Ambiguidade gera respostas profundas e erradas que você não percebe. Colapso silencioso. Cascata de 27 caminhos. Desambiguação como engenharia.
Imprecisão vs. Ambiguidade Colapso e Cascata Desambiguação
→
Bloco D — As Soluções
Metodologia operacional
Ferramentas práticas. Engenharia de contexto, pipeline de subtarefas, limitações do RAG e técnicas de ampliação de recuperação. O público sai sabendo operar.
9
Engenharia de Contexto
Autos brutos não são contexto. Os três filtros: relevância, não-redundância, não-ambiguidade. Movimentações cartorárias (~20% dos autos). Gestão de turnos. O necessário e suficiente.
Autos vs. Contexto Os Três Filtros Gestão de Turnos
→
10
Pipeline de Subtarefas
Pipeline, não monólito. Decomposição em etapas atômicas. Resultado curado como contexto da próxima etapa. Exemplo completo: parecer de competência em 5 etapas com ganho atencional de 40-80×.
Pipeline vs. Monólito A Mecânica Exemplo Prático
→
11
RAG — O Gargalo que se Desloca
NotebookLM e similares: a promessa e a realidade. Segmentação que corta argumentos jurídicos. Busca semântica ≠ busca suficiente. Polissemia nos embeddings. O operador humano importa.
O Deslocamento Segmentação Semântico ≠ Suficiente
→
12
Ampliando a Recuperação em RAG
Técnicas de prompt para forçar o sistema a buscar além dos chunks óbvios. Varredura ampla, exaustividade, busca por contradições e lacunas. Prompt combinado para autos processuais com 7 técnicas em uma formulação.
O Problema do Top-K As 4 Técnicas Prompt Combinado
→