LLM providers

O PentAGI precisa de pelo menos um provider de modelo de linguagem. As credenciais são definidas no servidor em .env; cada flow então escolhe o provider em que será executado, e cada agent type pode usar suas próprias configurações de modelo.

Providers integrados

Autenticação do AWS Bedrock

Defina BEDROCK_REGION e escolha um método:

BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...

Anthropic sem uma chave de longa duração

Em vez de ANTHROPIC_API_KEY, o Anthropic pode ser usado com Workload Identity Federation por meio de ANTHROPIC_FEDERATION_RULE_ID, ANTHROPIC_ORGANIZATION_ID, ANTHROPIC_SERVICE_ACCOUNT_ID e um token de identidade (ANTHROPIC_IDENTITY_TOKEN ou ANTHROPIC_IDENTITY_TOKEN_FILE).

Endpoints personalizados e compatíveis com OpenAI

Qualquer API compatível com OpenAI — vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, o plano Go da OpenCode ou uma implantação do Azure OpenAI — deve ser configurada como o provider personalizado:

LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml

LLM_SERVER_KEY é obrigatório: para um servidor sem autenticação, como o vLLM por padrão, defina qualquer valor não vazio — com uma chave vazia, o provider personalizado fica desabilitado. LLM_SERVER_API_TYPE=azure alterna o provider personalizado para Azure OpenAI. Um arquivo de configuração de provider permite atribuir um modelo e parâmetros por agent type; comece a partir de examples/configs/custom-openai.provider.yml no repositório e substitua seu o3-mini, que a OpenAI descontinuará em 23 de outubro de 2026.

Failover

LLM_FALLBACK_PROVIDER nomeia um segundo provider: um built-in com credenciais em .env, como anthropic, ou um provider que o dono do flow salvou em Settings → Providers. Uma chamada de modelo que falha é repetida uma vez nele e a troca é registrada no trace; a próxima chamada começa novamente no provider próprio do flow.

Escolhendo modelos

• Use seu modelo mais poderoso para primary_agent, pentester e adviser; modelos mais leves funcionam bem para searcher, enricher e sumarização.
• Para modelos abertos com menos de 32B parâmetros, ative o monitoramento de execução e planejamento de task.
• Settings → Providers contém os perfis de provider que você cria com base nos tipos configurados — Create Provider oferece apenas os tipos com credenciais em .env — e o formulário de perfil testa uma configuração antes de você salvá-la.