LLM providers — PentAGI

Připojte PentAGI k vestavěným providerům, jako jsou OpenAI, Anthropic, Gemini, Bedrock a Ollama, nebo k libovolnému koncovému bodu kompatibilnímu s OpenAI, s podporou failover.

PentAGI vyžaduje alespoň jednoho provider jazykového modelu. Přihlašovací údaje se nastavují na serveru v .env; každý flow následně zvolí provider, na kterém poběží, a každý agent type může používat vlastní nastavení modelu.

Vestavění providers

Provider	Název proměnné	Přepsání koncového bodu
OpenAI	`OPEN_AI_KEY`	`OPEN_AI_SERVER_URL`
Anthropic	`ANTHROPIC_API_KEY`	`ANTHROPIC_SERVER_URL`
Google AI (Gemini)	`GEMINI_API_KEY`	`GEMINI_SERVER_URL`
AWS Bedrock	`BEDROCK_REGION` + jedna metoda ověřování	`BEDROCK_SERVER_URL`
Ollama	`OLLAMA_SERVER_URL` (`OLLAMA_SERVER_API_KEY` pro Ollama Cloud)	—
DeepSeek	`DEEPSEEK_API_KEY`	`DEEPSEEK_SERVER_URL`
GLM (Zhipu AI)	`GLM_API_KEY`	`GLM_SERVER_URL`
Kimi (Moonshot AI)	`KIMI_API_KEY`	`KIMI_SERVER_URL`
Qwen (Alibaba Cloud)	`QWEN_API_KEY`	`QWEN_SERVER_URL`
MiniMax	`MINIMAX_API_KEY`	`MINIMAX_SERVER_URL`
Mistral	`MISTRAL_API_KEY`	`MISTRAL_SERVER_URL`
xAI (Grok)	`XAI_API_KEY`	`XAI_SERVER_URL`

Ověřování pro AWS Bedrock

Nastavte BEDROCK_REGION a zvolte jednu z metod:

BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...

Anthropic bez trvalého klíče

Místo ANTHROPIC_API_KEY lze Anthropic používat s Workload Identity Federation prostřednictvím ANTHROPIC_FEDERATION_RULE_ID, ANTHROPIC_ORGANIZATION_ID, ANTHROPIC_SERVICE_ACCOUNT_ID a identity tokenu (ANTHROPIC_IDENTITY_TOKEN nebo ANTHROPIC_IDENTITY_TOKEN_FILE).

Vlastní a s OpenAI kompatibilní koncové body

Jakékoli rozhraní kompatibilní s OpenAI – vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, plán Go od OpenCode nebo nasazení Azure OpenAI – lze připojit jako vlastního provider:

LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml

LLM_SERVER_KEY je vyžadován: pro server bez ověřování, například vLLM ve výchozím nastavení, nastavte libovolnou neprázdnou hodnotu — s prázdným klíčem je vlastní provider deaktivován. LLM_SERVER_API_TYPE=azure přepne vlastního provider na Azure OpenAI. Konfigurační soubor provider umožňuje přiřadit model a parametry pro každý agent type; jako výchozí bod použijte examples/configs/custom-openai.provider.yml v repozitáři a nahraďte jeho o3-mini, který OpenAI ukončí 23. října 2026.

Nakonfigurovaní providers v Settings → Providers

Failover

LLM_FALLBACK_PROVIDER označuje druhého providera: vestavěného s přihlašovacími údaji v .env, například anthropic, nebo providera, kterého vlastník flow uložil v Settings → Providers. Volání modelu, které selže, je na něm jednou zopakováno a přepnutí je zaznamenáno ve stopě; další volání opět začíná na vlastním provideru daného flow.

Výběr modelů

Pro primary_agent, pentester a adviser použijte svůj nejsilnější model; lehčí modely postačí pro searcher, enricher a sumarizaci.
U otevřených modelů s méně než 32 miliardami parametrů povolte monitorování provádění a plánování task.
Settings → Providers obsahuje profily providerů, které vytváříte nad nakonfigurovanými typy — Create Provider nabízí pouze typy s přihlašovacími údaji v .env — a formulář profilu před uložením otestuje konfiguraci.