LLM providers

PentAGIには少なくとも1つの言語モデルproviderが必要です。認証情報はサーバーの.envで設定され、各flowは実行時に使用するproviderを選択し、すべてのagent typeがそれぞれ独自のモデル設定を使用できます。

組み込みproviders

AWS Bedrockの認証

BEDROCK_REGIONを設定し、いずれかの方式を選択します。

BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...

永続的なAPIキーを使わずにAnthropicを利用する

ANTHROPIC_API_KEYの代わりに、ANTHROPIC_FEDERATION_RULE_ID、ANTHROPIC_ORGANIZATION_ID、ANTHROPIC_SERVICE_ACCOUNT_IDおよびIDトークン（ANTHROPIC_IDENTITY_TOKENまたはANTHROPIC_IDENTITY_TOKEN_FILE）を通じてWorkload Identity Federationを用いてAnthropicを利用できます。

カスタムおよびOpenAI互換エンドポイント

vLLM、LiteLLM、OpenRouter、DeepInfra、Atlas Cloud、OpenCode Goプラン、Azure OpenAIデプロイメントなど、OpenAI互換のAPIはすべてカスタムproviderとして接続できます。

LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml

LLM_SERVER_KEYは必須です。認証不要のサーバー（デフォルトのvLLMなど）の場合は、空でない値を設定してください。キーが空の場合、カスタムproviderは無効になります。LLM_SERVER_API_TYPE=azureにより、カスタムproviderをAzure OpenAIに切り替えます。Provider設定ファイルでは、agent typeごとにモデルとパラメータを割り当てることができます。リポジトリ内のexamples/configs/custom-openai.provider.ymlから始め、OpenAIが2026年10月23日に廃止するo3-miniを置き換えてください。

フェイルオーバー

LLM_FALLBACK_PROVIDER は、2番目の .env に認証情報が保存された組み込みの anthropic や、flow の所有者が Settings → Providers で保存した provider を指定します。この provider 上で失敗した model call は1回再試行され、その切り替えは trace に記録されます。次の call は、再び flow 固有の provider で開始されます。

モデルの選択

• primary_agent、pentester、adviserには最も高性能なモデルを使用し、searcher、enricher、要約には軽量なモデルを使用します。
• パラメータ数が32B未満のオープンモデルを使用する場合は、実行モニタリングとtask計画を有効にしてください。
• Settings → Providersには、設定済みのtypesの上に作成したprovider profilesが格納されます。Create Providerでは.envに認証情報があるtypesのみが提供され、profile formでは保存前にconfigurationをテストできます。