LLM providers

PentAGI wymaga co najmniej jednego provider modeli językowych. Poświadczenia konfiguruje się na serwerze w .env; każdy flow wybiera następnie provider, na którym będzie uruchamiany, a każdy agent type może korzystać z własnych ustawień modelu.

Wbudowani providers

Uwierzytelnianie AWS Bedrock

Ustaw BEDROCK_REGION i wybierz jedną metodę:

BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...

Anthropic bez klucza długoterminowego

Zamiast ANTHROPIC_API_KEY, z Anthropic można korzystać za pomocą Workload Identity Federation poprzez ANTHROPIC_FEDERATION_RULE_ID, ANTHROPIC_ORGANIZATION_ID, ANTHROPIC_SERVICE_ACCOUNT_ID oraz token tożsamości (ANTHROPIC_IDENTITY_TOKEN lub ANTHROPIC_IDENTITY_TOKEN_FILE).

Własne endpointy i zgodne z OpenAI

Każde API zgodne z OpenAI — vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, plan OpenCode Go lub wdrożenie Azure OpenAI — podłącza się jako provider niestandardowego:

LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml

LLM_SERVER_KEY jest wymagane: w przypadku serwera bez uwierzytelniania, takiego jak vLLM domyślnie, ustaw dowolną niepustą wartość — przy pustym kluczu provider niestandardowy jest wyłączony. LLM_SERVER_API_TYPE=azure przełącza provider niestandardowego na Azure OpenAI. Plik konfiguracji provider pozwala przypisać model i parametry dla każdego agent type; zacznij od examples/configs/custom-openai.provider.yml w repozytorium i zastąp jego o3-mini, który OpenAI wycofuje 23 października 2026 r.

Failover

LLM_FALLBACK_PROVIDER wskazuje drugi provider: wbudowany, z danymi logowania w .env, na przykład anthropic, albo provider zapisany przez właściciela flow w Settings → Providers. Nieudane wywołanie modelu jest raz powtarzane na tym providerze, a przełączenie jest rejestrowane w śladzie; kolejne wywołanie zaczyna się ponownie na własnym providerze flow.

Wybór modeli

• Użyj swojego najsilniejszego modelu dla primary_agent, pentester i adviser; lżejsze modele sprawdzą się przy searcher, enricher i podsumowywaniu.
• W przypadku otwartych modeli poniżej 32B parametrów włącz monitorowanie wykonania i planowanie task.
• Settings → Providers przechowuje profile providerów, które tworzysz na bazie skonfigurowanych typów — Create Provider oferuje tylko te typy, dla których w .env podano dane uwierzytelniające — a formularz profilu testuje konfigurację przed jej zapisaniem.