Gestione del contesto

I flow lunghi generano più conversazione di quanta qualsiasi modello possa contenere. PentAGI mantiene la catena di ogni agent entro limiti definiti tramite la sintetizzazione della catena: dopo ogni turno dell'agent, le sezioni più vecchie vengono condensate, mentre quelle più recenti restano integre, a meno che non superino i propri limiti di dimensione. Se PentAGI conosce la finestra di contesto del modello — dai suoi cataloghi di modelli integrati o da un endpoint personalizzato la cui lista dei modelli la riporta — e la catena continua a non rientrare, viene compattata ulteriormente subito prima della chiamata al modello. I modelli Ollama e altri con una finestra sconosciuta non ricevono questo passaggio, quindi riduci le dimensioni qui sotto per un modello con un contesto piccolo.

Ottimizzazione

Le impostazioni predefinite sono adatte alla maggior parte dei modelli. Gli agents e l'assistant interattivo hanno configurazioni separate; l'assistant conserva una cronologia recente più ampia.

Con false, le sezioni recenti non hanno un limite di dimensione proprio e non si applica nemmeno il singolo limite per i risultati degli strumenti.

SUMMARIZER_USE_QA abilita la strategia domanda-risposta (attiva per impostazione predefinita) e SUMMARIZER_SUM_MSG_HUMAN_IN_QA sintetizza anche i tuoi messaggi al suo interno (disattivata per impostazione predefinita). Entrambe si applicano solo agli agent: l'Assistant usa sempre la strategia e non sintetizza mai i tuoi messaggi.