# LLM providers

> Připojte PentAGI k vestavěným providerům, jako jsou OpenAI, Anthropic, Gemini, Bedrock a Ollama, nebo k libovolnému koncovému bodu kompatibilnímu s OpenAI, s podporou failover.

PentAGI vyžaduje alespoň jednoho [provider](https://pentagi.com/cs/docs/glossary/#provider) jazykového modelu. Přihlašovací údaje se nastavují na serveru v `.env`; každý [flow](https://pentagi.com/cs/docs/glossary/#flow) následně zvolí provider, na kterém poběží, a každý [agent type](https://pentagi.com/cs/docs/glossary/#agent-type) může používat vlastní nastavení modelu.

## [Vestavění providers](https://pentagi.com/cs/docs/configuration/llm-providers/#built-in-providers)

| Provider             | Název proměnné                                                 | Přepsání koncového bodu |
| -------------------- | -------------------------------------------------------------- | ----------------------- |
| OpenAI               | `OPEN_AI_KEY`                                                  | `OPEN_AI_SERVER_URL`    |
| Anthropic            | `ANTHROPIC_API_KEY`                                            | `ANTHROPIC_SERVER_URL`  |
| Google AI (Gemini)   | `GEMINI_API_KEY`                                               | `GEMINI_SERVER_URL`     |
| AWS Bedrock          | `BEDROCK_REGION` + jedna metoda ověřování                      | `BEDROCK_SERVER_URL`    |
| Ollama               | `OLLAMA_SERVER_URL` (`OLLAMA_SERVER_API_KEY` pro Ollama Cloud) | —                       |
| DeepSeek             | `DEEPSEEK_API_KEY`                                             | `DEEPSEEK_SERVER_URL`   |
| GLM (Zhipu AI)       | `GLM_API_KEY`                                                  | `GLM_SERVER_URL`        |
| Kimi (Moonshot AI)   | `KIMI_API_KEY`                                                 | `KIMI_SERVER_URL`       |
| Qwen (Alibaba Cloud) | `QWEN_API_KEY`                                                 | `QWEN_SERVER_URL`       |
| MiniMax              | `MINIMAX_API_KEY`                                              | `MINIMAX_SERVER_URL`    |
| Mistral              | `MISTRAL_API_KEY`                                              | `MISTRAL_SERVER_URL`    |
| xAI (Grok)           | `XAI_API_KEY`                                                  | `XAI_SERVER_URL`        |

### [Ověřování pro AWS Bedrock](https://pentagi.com/cs/docs/configuration/llm-providers/#aws-bedrock-authentication)

Nastavte `BEDROCK_REGION` a zvolte jednu z metod:

```bash
BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...
```

### [Anthropic bez trvalého klíče](https://pentagi.com/cs/docs/configuration/llm-providers/#anthropic-without-a-long-lived-key)

Místo `ANTHROPIC_API_KEY` lze Anthropic používat s Workload Identity Federation prostřednictvím `ANTHROPIC_FEDERATION_RULE_ID`, `ANTHROPIC_ORGANIZATION_ID`, `ANTHROPIC_SERVICE_ACCOUNT_ID` a identity tokenu (`ANTHROPIC_IDENTITY_TOKEN` nebo `ANTHROPIC_IDENTITY_TOKEN_FILE`).

## [Vlastní a s OpenAI kompatibilní koncové body](https://pentagi.com/cs/docs/configuration/llm-providers/#custom-and-openai-compatible-endpoints)

Jakékoli rozhraní kompatibilní s OpenAI – vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, plán Go od OpenCode nebo nasazení Azure OpenAI – lze připojit jako vlastního provider:

```bash
LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml
```

`LLM_SERVER_KEY` je vyžadován: pro server bez ověřování, například vLLM ve výchozím nastavení, nastavte libovolnou neprázdnou hodnotu — s prázdným klíčem je vlastní provider deaktivován. `LLM_SERVER_API_TYPE=azure` přepne vlastního provider na Azure OpenAI. Konfigurační soubor provider umožňuje přiřadit model a parametry pro každý agent type; jako výchozí bod použijte `examples/configs/custom-openai.provider.yml` v repozitáři a nahraďte jeho `o3-mini`, který OpenAI ukončí 23. října 2026.

![Nakonfigurovaní providers v Settings → Providers](https://pentagi.com/images/product/settings-providers.webp)

## [Failover](https://pentagi.com/cs/docs/configuration/llm-providers/#failover)

`LLM_FALLBACK_PROVIDER` označuje druhého providera: vestavěného s přihlašovacími údaji v `.env`, například `anthropic`, nebo providera, kterého vlastník flow uložil v **Settings → Providers**. Volání modelu, které selže, je na něm jednou zopakováno a přepnutí je zaznamenáno ve stopě; další volání opět začíná na vlastním provideru daného flow.

## [Výběr modelů](https://pentagi.com/cs/docs/configuration/llm-providers/#choosing-models)

* Pro `primary_agent`, `pentester` a `adviser` použijte svůj nejsilnější model; lehčí modely postačí pro `searcher`, `enricher` a sumarizaci.
* U otevřených modelů s méně než 32 miliardami parametrů povolte [monitorování provádění a plánování task](https://pentagi.com/cs/docs/concepts/agents/#safeguards).
* **Settings → Providers** obsahuje profily providerů, které vytváříte nad nakonfigurovanými typy — **Create Provider** nabízí pouze typy s přihlašovacími údaji v `.env` — a formulář profilu před uložením otestuje konfiguraci.