Aller au contenu
PentAGI
Concepts

Gestion du contexte

Comment PentAGI maintient les longs flows dans la fenêtre de contexte du modèle en résumant les parties plus anciennes de la chaîne de chaque agent, et les paramètres qui l'ajustent.

Les flows longs produisent plus de conversations qu'aucun modèle ne peut contenir. PentAGI maintient la chaîne de chaque agent dans des limites acceptables grâce au résumé de chaîne : après chaque tour d'agent, les sections anciennes sont condensées tandis que les plus récentes restent intactes, sauf si elles dépassent leurs limites de taille. Si PentAGI connaît la fenêtre de contexte du modèle — à partir de ses catalogues de modèles intégrés, ou à partir d'un point de terminaison personnalisé dont la liste de modèles la signale — et que la chaîne ne tient toujours pas, elle est compactée une fois de plus juste avant l'appel au modèle. Les modèles Ollama et autres dont la fenêtre est inconnue ne bénéficient pas de cette étape, donc réduisez les tailles ci-dessous pour un modèle avec un petit contexte.

Chain summarization steps after each agent turn and before each model call

Yes

No

Agent turn finished

Condense each older section into one summary

Keep the recent sections within their size limits

Summarize old question-answer pairs

Next model call: fits the context window?

Send the chain

Compact to the window size

Réglages

Les valeurs par défaut conviennent à la plupart des modèles. Les agents et l'assistant interactif disposent de paramètres distincts ; l'assistant conserve un historique récent plus important.

ParamètreAgentsAssistant
Limiter les sections récentesSUMMARIZER_PRESERVE_LAST=trueASSISTANT_SUMMARIZER_PRESERVE_LAST=true
Limite de taille d'une section récenteSUMMARIZER_LAST_SEC_BYTES=51200ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800
Résultat de tool unique le plus volumineuxSUMMARIZER_MAX_BP_BYTES=16384ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384
Sections question-réponse conservéesSUMMARIZER_MAX_QA_SECTIONS=10ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7
Taille de ces sectionsSUMMARIZER_MAX_QA_BYTES=65536ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800
Sections récentes non condenséesSUMMARIZER_KEEP_QA_SECTIONS=1ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3

Avec false, les sections récentes n’ont pas de limite de taille propre, et la limite unique de résultats d’outil ne s’applique pas non plus.

SUMMARIZER_USE_QA active la stratégie question-réponse (activée par défaut) et SUMMARIZER_SUM_MSG_HUMAN_IN_QA résume également vos propres messages au sein de celle-ci (désactivée par défaut). Les deux s’appliquent uniquement aux agents : l’Assistant utilise toujours la stratégie et ne résume jamais vos messages.

Dernière mise à jour le

Memory et connaissances

Comment PentAGI mémorise les commandes, les résultats et les relations tout au long d'un flow.

LLM providers

Connectez PentAGI à des providers intégrés tels que OpenAI, Anthropic, Gemini, Bedrock et Ollama, ou à n’importe quel point de terminaison compatible OpenAI, avec basculement.