Zum Inhalt springen
PentAGI
Konzepte

Kontextverwaltung

Wie PentAGI lange Flows im Kontextfenster des Modells hält, indem es für jeden Agent ältere Teile seiner Kette zusammenfasst, und die Einstellungen, die das steuern.

Lange Flows erzeugen mehr Konversationsverlauf, als ein Modell aufnehmen kann. PentAGI hält die Kette jedes Agent im Rahmen durch Chain-Zusammenfassung: Nach jedem Schritt des Agent werden ältere Abschnitte komprimiert, während die neuesten vollständig erhalten bleiben, sofern sie ihre Größenbeschränkungen nicht überschreiten. Wenn PentAGI das Kontextfenster des Modells kennt – aus seinen integrierten Modellkatalogen oder von einem benutzerdefinierten Endpunkt, dessen Modellliste dies meldet – und die Kette dennoch nicht hineinpasst, wird sie unmittelbar vor dem Modellaufruf ein weiteres Mal verdichtet. Ollama-Modelle und andere mit unbekanntem Fenster erhalten diesen Schritt nicht; reduzieren Sie daher die untenstehenden Größen für ein Modell mit kleinem Kontext.

Chain summarization steps after each agent turn and before each model call

Yes

No

Agent turn finished

Condense each older section into one summary

Keep the recent sections within their size limits

Summarize old question-answer pairs

Next model call: fits the context window?

Send the chain

Compact to the window size

Abstimmung

Die Standardeinstellungen passen für die meisten Modelle. Agents und der interaktive Assistant verfügen über separate Einstellungen; der Assistant bewahrt mehr aktuellen Verlauf auf.

EinstellungAgentsAssistant
Aktuelle Abschnitte begrenzenSUMMARIZER_PRESERVE_LAST=trueASSISTANT_SUMMARIZER_PRESERVE_LAST=true
Größenbeschränkung eines aktuellen AbschnittsSUMMARIZER_LAST_SEC_BYTES=51200ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800
Größtes einzelnes Tool-ErgebnisSUMMARIZER_MAX_BP_BYTES=16384ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384
Beibehaltene Frage-Antwort-AbschnitteSUMMARIZER_MAX_QA_SECTIONS=10ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7
Größe dieser AbschnitteSUMMARIZER_MAX_QA_BYTES=65536ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800
Aktuelle Abschnitte nicht verdichtenSUMMARIZER_KEEP_QA_SECTIONS=1ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3

Mit false haben die aktuellen Abschnitte keine eigene Größenbeschränkung, und die einzelne Tool-Ergebnis-Beschränkung gilt ebenfalls nicht.

SUMMARIZER_USE_QA aktiviert die Frage-Antwort-Strategie (standardmäßig aktiviert) und SUMMARIZER_SUM_MSG_HUMAN_IN_QA fasst darin auch Ihre eigenen Nachrichten zusammen (standardmäßig deaktiviert). Beide gelten nur für Agents: der Assistant verwendet die Strategie immer und fasst Ihre Nachrichten nie zusammen.

Zuletzt aktualisiert am