コンテキスト管理

長いflowsでは、あらゆるモデルが保持できる量を超える会話が発生します。PentAGIはチェーン要約を用いて各agentのチェーンを適切な範囲内に維持します。具体的には、agentのターンごとに古いセクションを圧縮しつつ、最新のセクションはサイズ制限を超えない限り完全な形で保持されます。PentAGIが組み込みのモデルカタログから、あるいはモデルリストでそれを報告するカスタムエンドポイントからモデルのコンテキストウィンドウを把握しており、それでもチェーンが収まらない場合は、モデル呼び出しの直前にもう一度圧縮が行われます。Ollamaモデルやその他ウィンドウが不明なモデルではこの手順は実行されないため、コンテキストが小さいモデルの場合は以下のサイズを小さくしてください。

チューニング

デフォルト設定はほとんどのモデルに適しています。Agentsと対話型assistantにはそれぞれ別の設定があり、assistantの方がより多くの最新履歴を保持します。

falseを使用すると、最新のセクションには独自のサイズ制限がなく、単一のツール結果の制限も適用されません。

SUMMARIZER_USE_QA は質問応答戦略を有効にします（デフォルトでオン）。また SUMMARIZER_SUM_MSG_HUMAN_IN_QA はその戦略内でユーザー自身のメッセージも要約対象に含めます（デフォルトでオフ）。これらは agent にのみ適用されます。assistant は常にこの戦略を使用し、ユーザーのメッセージを要約することはありません。