# LLM providers

> PentAGIをOpenAI、Anthropic、Gemini、Bedrock、Ollamaなどの組み込みprovidersや、任意のOpenAI互換エンドポイントにフェイルオーバー付きで接続します。

PentAGIには少なくとも1つの言語モデル[provider](https://pentagi.com/ja/docs/glossary/#provider)が必要です。認証情報はサーバーの`.env`で設定され、各[flow](https://pentagi.com/ja/docs/glossary/#flow)は実行時に使用するproviderを選択し、すべての[agent type](https://pentagi.com/ja/docs/glossary/#agent-type)がそれぞれ独自のモデル設定を使用できます。

## [組み込みproviders](https://pentagi.com/ja/docs/configuration/llm-providers/#built-in-providers)

| Provider             | キー変数                                                         | エンドポイントの上書き            |
| -------------------- | ------------------------------------------------------------ | ---------------------- |
| OpenAI               | `OPEN_AI_KEY`                                                | `OPEN_AI_SERVER_URL`   |
| Anthropic            | `ANTHROPIC_API_KEY`                                          | `ANTHROPIC_SERVER_URL` |
| Google AI (Gemini)   | `GEMINI_API_KEY`                                             | `GEMINI_SERVER_URL`    |
| AWS Bedrock          | `BEDROCK_REGION` + いずれかの認証方式                                 | `BEDROCK_SERVER_URL`   |
| Ollama               | `OLLAMA_SERVER_URL`（Ollama Cloudの場合は`OLLAMA_SERVER_API_KEY`） | —                      |
| DeepSeek             | `DEEPSEEK_API_KEY`                                           | `DEEPSEEK_SERVER_URL`  |
| GLM (Zhipu AI)       | `GLM_API_KEY`                                                | `GLM_SERVER_URL`       |
| Kimi (Moonshot AI)   | `KIMI_API_KEY`                                               | `KIMI_SERVER_URL`      |
| Qwen (Alibaba Cloud) | `QWEN_API_KEY`                                               | `QWEN_SERVER_URL`      |
| MiniMax              | `MINIMAX_API_KEY`                                            | `MINIMAX_SERVER_URL`   |
| Mistral              | `MISTRAL_API_KEY`                                            | `MISTRAL_SERVER_URL`   |
| xAI (Grok)           | `XAI_API_KEY`                                                | `XAI_SERVER_URL`       |

### [AWS Bedrockの認証](https://pentagi.com/ja/docs/configuration/llm-providers/#aws-bedrock-authentication)

`BEDROCK_REGION`を設定し、いずれかの方式を選択します。

```bash
BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...
```

### [永続的なAPIキーを使わずにAnthropicを利用する](https://pentagi.com/ja/docs/configuration/llm-providers/#anthropic-without-a-long-lived-key)

`ANTHROPIC_API_KEY`の代わりに、`ANTHROPIC_FEDERATION_RULE_ID`、`ANTHROPIC_ORGANIZATION_ID`、`ANTHROPIC_SERVICE_ACCOUNT_ID`およびIDトークン（`ANTHROPIC_IDENTITY_TOKEN`または`ANTHROPIC_IDENTITY_TOKEN_FILE`）を通じてWorkload Identity Federationを用いてAnthropicを利用できます。

## [カスタムおよびOpenAI互換エンドポイント](https://pentagi.com/ja/docs/configuration/llm-providers/#custom-and-openai-compatible-endpoints)

vLLM、LiteLLM、OpenRouter、DeepInfra、Atlas Cloud、OpenCode Goプラン、Azure OpenAIデプロイメントなど、OpenAI互換のAPIはすべてカスタムproviderとして接続できます。

```bash
LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml
```

`LLM_SERVER_KEY`は必須です。認証不要のサーバー（デフォルトのvLLMなど）の場合は、空でない値を設定してください。キーが空の場合、カスタムproviderは無効になります。`LLM_SERVER_API_TYPE=azure`により、カスタムproviderをAzure OpenAIに切り替えます。Provider設定ファイルでは、agent typeごとにモデルとパラメータを割り当てることができます。リポジトリ内の`examples/configs/custom-openai.provider.yml`から始め、OpenAIが2026年10月23日に廃止する`o3-mini`を置き換えてください。

![Settings → Providers に表示される設定済みproviders](https://pentagi.com/images/product/settings-providers.webp)

## [フェイルオーバー](https://pentagi.com/ja/docs/configuration/llm-providers/#failover)

`LLM_FALLBACK_PROVIDER` は、2番目の `.env` に認証情報が保存された組み込みの `anthropic` や、flow の所有者が **Settings → Providers** で保存した provider を指定します。この provider 上で失敗した model call は1回再試行され、その切り替えは trace に記録されます。次の call は、再び flow 固有の provider で開始されます。

## [モデルの選択](https://pentagi.com/ja/docs/configuration/llm-providers/#choosing-models)

* `primary_agent`、`pentester`、`adviser`には最も高性能なモデルを使用し、`searcher`、`enricher`、要約には軽量なモデルを使用します。
* パラメータ数が32B未満のオープンモデルを使用する場合は、[実行モニタリングとtask計画](https://pentagi.com/ja/docs/concepts/agents/#safeguards)を有効にしてください。
* **Settings → Providers**には、設定済みのtypesの上に作成したprovider profilesが格納されます。**Create Provider**では`.env`に認証情報があるtypesのみが提供され、profile formでは保存前にconfigurationをテストできます。