İçeriğe atla
PentAGI
Kavramlar

Bağlam yönetimi

PentAGI'nin, her agent'ın zincirinin eski kısımlarını özetleyerek uzun flows'u modelin bağlam penceresi içinde nasıl tuttuğu ve bunu ayarlayan ayarlar.

Uzun flows, herhangi bir modelin tutabileceğinden daha fazla konuşma üretir. PentAGI, zincir özetleme ile her agent'ın zincirini sınırlar içinde tutar: her agent dönüşünden sonra eski bölümler yoğunlaştırılırken, en yenileri boyut limitlerini aşmadıkları sürece tam olarak saklanır. PentAGI modelin bağlam penceresini biliyorsa — yerleşik model kataloglarından veya model listesini raporlayan özel bir uç noktadan — ve zincir yine de sığmıyorsa, model çağrısından hemen önce bir kez daha sıkıştırılır. Ollama modelleri ve bilinmeyen pencereye sahip diğerleri bu adımı almaz, bu nedenle küçük bir bağlama sahip bir model için aşağıdaki boyutları düşürün.

Chain summarization steps after each agent turn and before each model call

Yes

No

Agent turn finished

Condense each older section into one summary

Keep the recent sections within their size limits

Summarize old question-answer pairs

Next model call: fits the context window?

Send the chain

Compact to the window size

Ayarlama

Varsayılan değerler çoğu model için uygundur. Agents ve interaktif assistant ayrı ayarlara sahiptir; assistant daha yakın geçmişi korur.

AyarAgentsAssistant
Son bölümleri sınırlaSUMMARIZER_PRESERVE_LAST=trueASSISTANT_SUMMARIZER_PRESERVE_LAST=true
Son bölüm boyut sınırıSUMMARIZER_LAST_SEC_BYTES=51200ASSISTANT_SUMMARIZER_LAST_SEC_BYTES=76800
En büyük tekil tool sonucuSUMMARIZER_MAX_BP_BYTES=16384ASSISTANT_SUMMARIZER_MAX_BP_BYTES=16384
Korunan soru-cevap bölümleriSUMMARIZER_MAX_QA_SECTIONS=10ASSISTANT_SUMMARIZER_MAX_QA_SECTIONS=7
Bu bölümlerin boyutuSUMMARIZER_MAX_QA_BYTES=65536ASSISTANT_SUMMARIZER_MAX_QA_BYTES=76800
Tek bir özette birleştirilmeyen yakın bölümlerSUMMARIZER_KEEP_QA_SECTIONS=1ASSISTANT_SUMMARIZER_KEEP_QA_SECTIONS=3

false ile, yakın bölümlerin kendi boyut sınırı yoktur ve tek tool sonucu sınırı da geçerli değildir.

SUMMARIZER_USE_QA soru-cevap stratejisini etkinleştirir (varsayılan olarak açıktır) ve SUMMARIZER_SUM_MSG_HUMAN_IN_QA bu strateji kapsamında kendi mesajlarınızı da özetler (varsayılan olarak kapalıdır). Her ikisi de yalnızca agent'lar için geçerlidir: assistant her zaman stratejiyi kullanır ve mesajlarınızı asla özetlemez.

Son güncelleme tarihi: