# LLM-providers

> Verbind PentAGI met ingebouwde providers zoals OpenAI, Anthropic, Gemini, Bedrock en Ollama, of met elk OpenAI-compatibel eindpunt, met failover.

PentAGI heeft minimaal één [provider](https://pentagi.com/nl/docs/glossary/#provider) nodig. Inloggegevens worden op de server ingesteld in `.env`; elke [flow](https://pentagi.com/nl/docs/glossary/#flow) kiest vervolgens de provider waarop hij draait, en elk [agent type](https://pentagi.com/nl/docs/glossary/#agent-type) kan zijn eigen modelinstellingen gebruiken.

## [Ingebouwde providers](https://pentagi.com/nl/docs/configuration/llm-providers/#built-in-providers)

| Provider             | Omgevingsvariabele                                              | Endpoint-override      |
| -------------------- | --------------------------------------------------------------- | ---------------------- |
| OpenAI               | `OPEN_AI_KEY`                                                   | `OPEN_AI_SERVER_URL`   |
| Anthropic            | `ANTHROPIC_API_KEY`                                             | `ANTHROPIC_SERVER_URL` |
| Google AI (Gemini)   | `GEMINI_API_KEY`                                                | `GEMINI_SERVER_URL`    |
| AWS Bedrock          | `BEDROCK_REGION` + één authenticatiemethode                     | `BEDROCK_SERVER_URL`   |
| Ollama               | `OLLAMA_SERVER_URL` (`OLLAMA_SERVER_API_KEY` voor Ollama Cloud) | —                      |
| DeepSeek             | `DEEPSEEK_API_KEY`                                              | `DEEPSEEK_SERVER_URL`  |
| GLM (Zhipu AI)       | `GLM_API_KEY`                                                   | `GLM_SERVER_URL`       |
| Kimi (Moonshot AI)   | `KIMI_API_KEY`                                                  | `KIMI_SERVER_URL`      |
| Qwen (Alibaba Cloud) | `QWEN_API_KEY`                                                  | `QWEN_SERVER_URL`      |
| MiniMax              | `MINIMAX_API_KEY`                                               | `MINIMAX_SERVER_URL`   |
| Mistral              | `MISTRAL_API_KEY`                                               | `MISTRAL_SERVER_URL`   |
| xAI (Grok)           | `XAI_API_KEY`                                                   | `XAI_SERVER_URL`       |

### [AWS Bedrock-authenticatie](https://pentagi.com/nl/docs/configuration/llm-providers/#aws-bedrock-authentication)

Stel `BEDROCK_REGION` in en kies één methode:

```bash
BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...
```

### [Anthropic zonder langlevende sleutel](https://pentagi.com/nl/docs/configuration/llm-providers/#anthropic-without-a-long-lived-key)

In plaats van `ANTHROPIC_API_KEY` kan Anthropic worden gebruikt met Workload Identity Federation via `ANTHROPIC_FEDERATION_RULE_ID`, `ANTHROPIC_ORGANIZATION_ID`, `ANTHROPIC_SERVICE_ACCOUNT_ID` en een identiteitstoken (`ANTHROPIC_IDENTITY_TOKEN` of `ANTHROPIC_IDENTITY_TOKEN_FILE`).

## [Aangepaste en OpenAI-compatibele endpoints](https://pentagi.com/nl/docs/configuration/llm-providers/#custom-and-openai-compatible-endpoints)

Elke OpenAI-compatibele API — vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, het OpenCode Go-abonnement of een Azure OpenAI-implementatie — wordt gekoppeld als de aangepaste provider:

```bash
LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml
```

`LLM_SERVER_KEY` is vereist: voor een server zonder authenticatie, zoals vLLM standaard, stel je een niet-lege waarde in — met een lege sleutel is de aangepaste provider uitgeschakeld. `LLM_SERVER_API_TYPE=azure` schakelt de aangepaste provider over naar Azure OpenAI. Met een providerconfiguratiebestand kun je per agent type een model en parameters toewijzen; begin met `examples/configs/custom-openai.provider.yml` in de repository en vervang de `o3-mini` ervan, die OpenAI op 23 oktober 2026 stopzet.

![Geconfigureerde providers in Settings → Providers](https://pentagi.com/images/product/settings-providers.webp)

## [Failover](https://pentagi.com/nl/docs/configuration/llm-providers/#failover)

`LLM_FALLBACK_PROVIDER` noemt een tweede provider: een ingebouwde met inloggegevens in `.env`, zoals `anthropic`, of een provider die de eigenaar van de flow heeft opgeslagen in **Settings → Providers**. Een modelaanroep die mislukt, wordt er één keer opnieuw geprobeerd en de wissel wordt vastgelegd in de trace; de volgende aanroep begint weer met de eigen provider van de flow.

## [Modellen kiezen](https://pentagi.com/nl/docs/configuration/llm-providers/#choosing-models)

* Gebruik je sterkste model voor `primary_agent`, `pentester` en `adviser`; lichtere modellen volstaan voor `searcher`, `enricher` en samenvattingen.
* Schakel voor open modellen met minder dan 32B parameters [uitvoeringsmonitoring en task planning](https://pentagi.com/nl/docs/concepts/agents/#safeguards) in.
* **Settings → Providers** bevat de providerprofielen die je aanmaakt bovenop de geconfigureerde types — **Create Provider** biedt alleen de types met referenties in `.env` — en het profielformulier test een configuratie voordat je deze opslaat.