Zarządzanie kontekstem

Jak PentAGI utrzymuje długie flows w oknie kontekstowym modelu, podsumowując starsze części łańcucha każdego agenta, oraz ustawienia, które to regulują.

Długie flows generują więcej rozmów, niż jest w stanie pomieścić jakikolwiek model. PentAGI utrzymuje łańcuch każdego agenta w ryzach dzięki sumaryzacji łańcucha: po każdej turze agenta starsze fragmenty są streszczane, a te najnowsze pozostają w pełnej treści, o ile nie przekroczą limitów rozmiaru. Jeśli PentAGI zna okno kontekstowe modelu — z wbudowanych katalogów modeli lub z niestandardowego endpointu, którego lista modeli je raportuje — a łańcuch nadal się nie mieści, jest on dodatkowo zagęszczany tuż przed wywołaniem modelu. Modele Ollama i inne z nieznanym oknem nie przechodzą tego etapu, dlatego zmniejsz poniższe rozmiary dla modelu z małym kontekstem.

Dostrajanie

Ustawienia domyślne pasują do większości modeli. Agenci i assistant mają osobne ustawienia; assistant zachowuje więcej najnowszej historii.

Ustawienie	Agenci	Assistant
Ogranicz rozmiar najnowszych sekcji	`SUMMARIZER_PRESERVE_LAST=true`	`ASSISTANT_SUMMARIZER_PRESERVE_LAST=true`
Limit rozmiaru najnowszej sekcji	`SUMMARIZER_LAST_SEC_BYTES=51200`	`ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800`
Maksymalny rozmiar pojedynczego wyniku tool	`SUMMARIZER_MAX_BP_BYTES=16384`	`ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384`
Liczba zachowanych sekcji pytanie-odpowiedź	`SUMMARIZER_MAX_QA_SECTIONS=10`	`ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7`
Rozmiar tych sekcji	`SUMMARIZER_MAX_QA_BYTES=65536`	`ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800`
Najnowsze sekcje nieskondensowane	`SUMMARIZER_KEEP_QA_SECTIONS=1`	`ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3`

Dzięki false najnowsze sekcje nie mają własnego limitu rozmiaru, a pojedynczy limit wyników narzędzia również nie obowiązuje.

SUMMARIZER_USE_QA włącza strategię pytanie-odpowiedź (domyślnie włączona), a SUMMARIZER_SUM_MSG_HUMAN_IN_QA sumaryzuje w jej ramach również Twoje własne wiadomości (domyślnie wyłączone). Oba ustawienia dotyczą tylko agentów: assistant zawsze korzysta z tej strategii i nigdy nie podsumowuje Twoich wiadomości.