Pular para o conteúdo
PentAGI
Conceitos

Gerenciamento de contexto

Como o PentAGI mantém flows longos dentro da janela de contexto do modelo, resumindo partes mais antigas da cadeia de cada agent, e as configurações que ajustam isso.

Flows longos geram mais conversas do que qualquer modelo consegue suportar. O PentAGI mantém a cadeia de cada agent dentro dos limites com o resumo de cadeia: após cada turno do agent, as seções mais antigas são condensadas, enquanto as mais recentes permanecem completas, a menos que excedam seus limites de tamanho. Se o PentAGI souber a janela de contexto do modelo — a partir de seus catálogos de modelos integrados ou de um endpoint personalizado cuja lista de modelos informe isso — e a cadeia ainda não couber, ela será compactada mais uma vez logo antes da chamada ao modelo. Modelos do Ollama e outros com janela desconhecida não passam por essa etapa, portanto reduza os tamanhos abaixo para um modelo com contexto pequeno.

Chain summarization steps after each agent turn and before each model call

Yes

No

Agent turn finished

Condense each older section into one summary

Keep the recent sections within their size limits

Summarize old question-answer pairs

Next model call: fits the context window?

Send the chain

Compact to the window size

Ajustes

As configurações padrão atendem à maioria dos modelos. Os agents e o assistant interativo possuem configurações separadas; o assistant retém um histórico mais recente.

ConfiguraçãoAgentsAssistant
Limitar as seções recentesSUMMARIZER_PRESERVE_LAST=trueASSISTANT_SUMMARIZER_PRESERVE_LAST=true
Limite de tamanho da seção recenteSUMMARIZER_LAST_SEC_BYTES=51200ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800
Maior resultado único de toolSUMMARIZER_MAX_BP_BYTES=16384ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384
Seções de pergunta-resposta mantidasSUMMARIZER_MAX_QA_SECTIONS=10ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7
Tamanho dessas seçõesSUMMARIZER_MAX_QA_BYTES=65536ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800
Seções recentes não condensadasSUMMARIZER_KEEP_QA_SECTIONS=1ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3

Com false, as seções recentes não têm limite de tamanho próprio, e o limite único de resultados de tool também não se aplica.

SUMMARIZER_USE_QA habilita a estratégia de pergunta-resposta (ativada por padrão) e SUMMARIZER_SUM_MSG_HUMAN_IN_QA também resume suas próprias mensagens dentro dela (desativada por padrão). Ambos se aplicam apenas aos agents: o Assistant sempre usa a estratégia e nunca resume suas mensagens.

Última atualização em