# LLM providers

> Conecta PentAGI a providers integrados como OpenAI, Anthropic, Gemini, Bedrock y Ollama, o a cualquier endpoint compatible con OpenAI, con conmutación por error.

PentAGI necesita al menos un [provider](https://pentagi.com/es/docs/glossary/#provider) de modelos de lenguaje. Las credenciales se configuran en el servidor en `.env`; luego, cada [flow](https://pentagi.com/es/docs/glossary/#flow) elige el provider sobre el que se ejecuta, y cada [agent type](https://pentagi.com/es/docs/glossary/#agent-type) puede usar su propia configuración de modelo.

## [Providers integrados](https://pentagi.com/es/docs/configuration/llm-providers/#built-in-providers)

| Provider             | Variable de clave                                               | Sobrescritura de endpoint |
| -------------------- | --------------------------------------------------------------- | ------------------------- |
| OpenAI               | `OPEN_AI_KEY`                                                   | `OPEN_AI_SERVER_URL`      |
| Anthropic            | `ANTHROPIC_API_KEY`                                             | `ANTHROPIC_SERVER_URL`    |
| Google AI (Gemini)   | `GEMINI_API_KEY`                                                | `GEMINI_SERVER_URL`       |
| AWS Bedrock          | `BEDROCK_REGION` + un método de autenticación                   | `BEDROCK_SERVER_URL`      |
| Ollama               | `OLLAMA_SERVER_URL` (`OLLAMA_SERVER_API_KEY` para Ollama Cloud) | —                         |
| DeepSeek             | `DEEPSEEK_API_KEY`                                              | `DEEPSEEK_SERVER_URL`     |
| GLM (Zhipu AI)       | `GLM_API_KEY`                                                   | `GLM_SERVER_URL`          |
| Kimi (Moonshot AI)   | `KIMI_API_KEY`                                                  | `KIMI_SERVER_URL`         |
| Qwen (Alibaba Cloud) | `QWEN_API_KEY`                                                  | `QWEN_SERVER_URL`         |
| MiniMax              | `MINIMAX_API_KEY`                                               | `MINIMAX_SERVER_URL`      |
| Mistral              | `MISTRAL_API_KEY`                                               | `MISTRAL_SERVER_URL`      |
| xAI (Grok)           | `XAI_API_KEY`                                                   | `XAI_SERVER_URL`          |

### [Autenticación de AWS Bedrock](https://pentagi.com/es/docs/configuration/llm-providers/#aws-bedrock-authentication)

Configura `BEDROCK_REGION` y elige un método:

```bash
BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...
```

### [Anthropic sin una clave de larga duración](https://pentagi.com/es/docs/configuration/llm-providers/#anthropic-without-a-long-lived-key)

En lugar de `ANTHROPIC_API_KEY`, puedes usar Anthropic con Workload Identity Federation mediante `ANTHROPIC_FEDERATION_RULE_ID`, `ANTHROPIC_ORGANIZATION_ID`, `ANTHROPIC_SERVICE_ACCOUNT_ID` y un token de identidad (`ANTHROPIC_IDENTITY_TOKEN` o `ANTHROPIC_IDENTITY_TOKEN_FILE`).

## [Endpoints personalizados y compatibles con OpenAI](https://pentagi.com/es/docs/configuration/llm-providers/#custom-and-openai-compatible-endpoints)

Cualquier API compatible con OpenAI — vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, el plan Go de OpenCode o una implementación de Azure OpenAI — se conecta como provider personalizado:

```bash
LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml
```

`LLM_SERVER_KEY` es obligatorio: para un servidor sin autenticación, como vLLM por defecto, establece cualquier valor no vacío; con una clave vacía el provider personalizado está deshabilitado. `LLM_SERVER_API_TYPE=azure` cambia el provider personalizado a Azure OpenAI. Un archivo de configuración de provider te permite asignar un modelo y parámetros por agent type; comienza desde `examples/configs/custom-openai.provider.yml` en el repositorio y reemplaza su `o3-mini`, que OpenAI retira el 23 de octubre de 2026.

![Providers configurados en Settings → Providers](https://pentagi.com/images/product/settings-providers.webp)

## [Conmutación por error](https://pentagi.com/es/docs/configuration/llm-providers/#failover)

`LLM_FALLBACK_PROVIDER` nombra un segundo provider: uno integrado con credenciales en `.env`, como `anthropic`, o un provider que el propietario del flow guardó en **Settings → Providers**. Una llamada a un modelo que falla se repite una vez en él y el cambio se registra en el trace; la siguiente llamada comienza de nuevo en el provider propio del flow.

## [Elección de modelos](https://pentagi.com/es/docs/configuration/llm-providers/#choosing-models)

* Usa tu modelo más potente para `primary_agent`, `pentester` y `adviser`; los modelos más ligeros funcionan para `searcher`, `enricher` y el resumen.
* Para modelos abiertos de menos de 32B parámetros, habilita la [monitorización de ejecución y planificación de task](https://pentagi.com/es/docs/concepts/agents/#safeguards).
* **Settings → Providers** contiene los perfiles de provider que creas sobre los tipos configurados — **Create Provider** ofrece solo los tipos con credenciales en `.env` — y el formulario de perfil prueba una configuración antes de guardarla.