Správa kontextu

Jak PentAGI udržuje dlouhé flow v kontextovém okně modelu shrnováním starších částí řetězce každého agenta a nastavení, která to ladí.

Dlouhé flow vyprodukují více konverzace, než kolik dokáže pojmout jakýkoli model. PentAGI udržuje řetězec každého agenta v mezích pomocí sumarizace řetězce: po každém tahu agenta jsou starší části zhuštěny, zatímco ty nejnovější zůstávají v plném rozsahu, pokud nepřekročí své velikostní limity. Pokud PentAGI zná kontextové okno modelu — ze svých vestavěných katalogů modelů nebo z vlastního endpointu, jehož seznam modelů tuto informaci poskytuje — a řetězec se stále nevejde, je těsně před voláním modelu ještě jednou zkomprimován. Modely Ollama a další s neznámým oknem tento krok nepodstupují, takže pro model s malým kontextem snižte níže uvedené velikosti.

Ladění

Výchozí nastavení vyhovuje většině modelů. Agenti a interaktivní assistant mají samostatná nastavení; assistant si ponechává více nedávné historie.

Nastavení	Agenti	Assistant
Omezit nedávné sekce	`SUMMARIZER_PRESERVE_LAST=true`	`ASSISTANT_SUMMARIZER_PRESERVE_LAST=true`
Limit velikosti nedávné sekce	`SUMMARIZER_LAST_SEC_BYTES=51200`	`ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800`
Největší jednotlivý výsledek tool	`SUMMARIZER_MAX_BP_BYTES=16384`	`ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384`
Počet zachovaných sekcí otázka-odpověď	`SUMMARIZER_MAX_QA_SECTIONS=10`	`ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7`
Velikost těchto sekcí	`SUMMARIZER_MAX_QA_BYTES=65536`	`ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800`
Nedávné sekce nesloučeny	`SUMMARIZER_KEEP_QA_SECTIONS=1`	`ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3`

S false nemají nedávné sekce vlastní omezení velikosti a neplatí pro ně ani jediný limit výsledků nástroje.

SUMMARIZER_USE_QA povoluje strategii otázka-odpověď (ve výchozím stavu zapnuto) a SUMMARIZER_SUM_MSG_HUMAN_IN_QA v jejím rámci sumarizuje i vaše vlastní zprávy (ve výchozím stavu vypnuto). Oba parametry se vztahují pouze na agenty: assistant tuto strategii používá vždy a vaše zprávy nikdy nesumarizuje.