Saltar al contenido
PentAGI
Conceptos

Gestión de contexto

Cómo PentAGI mantiene los flows largos dentro de la ventana de contexto del modelo resumiendo las partes más antiguas de la cadena de cada agent, y los ajustes que lo regulan.

Los flows largos generan más conversación de la que cualquier modelo puede almacenar. PentAGI mantiene la cadena de cada agent dentro de los límites mediante el resumen de cadenas: después de cada turno del agent, las secciones más antiguas se condensan mientras que las más recientes se conservan completas, a menos que superen sus límites de tamaño. Si PentAGI conoce la ventana de contexto del modelo —a partir de sus catálogos de modelos integrados o de un endpoint personalizado cuya lista de modelos la informe— y la cadena sigue sin caber, se compacta una vez más justo antes de llamar al modelo. Los modelos de Ollama y otros con una ventana desconocida no reciben este paso, así que reduce los tamaños a continuación para un modelo con un contexto pequeño.

Chain summarization steps after each agent turn and before each model call

Yes

No

Agent turn finished

Condense each older section into one summary

Keep the recent sections within their size limits

Summarize old question-answer pairs

Next model call: fits the context window?

Send the chain

Compact to the window size

Ajustes

La configuración predeterminada es adecuada para la mayoría de los modelos. Los agents y el assistant interactivo tienen ajustes separados; el assistant conserva un historial más reciente.

AjusteAgentsAssistant
Limitar las secciones recientesSUMMARIZER_PRESERVE_LAST=trueASSISTANT_SUMMARIZER_PRESERVE_LAST=true
Límite de tamaño de sección recienteSUMMARIZER_LAST_SEC_BYTES=51200ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800
Resultado individual más grande de toolSUMMARIZER_MAX_BP_BYTES=16384ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384
Secciones de pregunta-respuesta conservadasSUMMARIZER_MAX_QA_SECTIONS=10ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7
Tamaño de esas seccionesSUMMARIZER_MAX_QA_BYTES=65536ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800
Secciones recientes no condensadasSUMMARIZER_KEEP_QA_SECTIONS=1ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3

Con false, las secciones recientes no tienen un límite de tamaño propio y tampoco se aplica el límite único de resultados de tool.

SUMMARIZER_USE_QA habilita la estrategia de pregunta-respuesta (activada por defecto) y SUMMARIZER_SUM_MSG_HUMAN_IN_QA también resume tus propios mensajes dentro de ella (desactivada por defecto). Ambas se aplican solo a los agents: el Assistant siempre usa la estrategia y nunca resume tus mensajes.

Última actualización el