LLM providers

PentAGI nécessite au moins un provider de modèles de langage. Les identifiants sont configurés sur le serveur dans .env ; chaque flow sélectionne ensuite le provider sur lequel il s'exécute, et chaque agent type peut utiliser ses propres paramètres de modèle.

Providers intégrés

Authentification AWS Bedrock

Définissez BEDROCK_REGION et choisissez une méthode :

BEDROCK_DEFAULT_AUTH=true          # AWS SDK default credential chain (EC2/ECS roles)
# BEDROCK_BEARER_TOKEN=...         # bearer token
# BEDROCK_ACCESS_KEY_ID=...        # static credentials
# BEDROCK_SECRET_ACCESS_KEY=...

Anthropic sans clé à longue durée de vie

Au lieu de ANTHROPIC_API_KEY, Anthropic peut être utilisé avec la fédération d'identité de charge de travail via ANTHROPIC_FEDERATION_RULE_ID, ANTHROPIC_ORGANIZATION_ID, ANTHROPIC_SERVICE_ACCOUNT_ID et un jeton d'identité (ANTHROPIC_IDENTITY_TOKEN ou ANTHROPIC_IDENTITY_TOKEN_FILE).

Points de terminaison personnalisés et compatibles OpenAI

Toute API compatible avec OpenAI — vLLM, LiteLLM, OpenRouter, DeepInfra, Atlas Cloud, le plan Go OpenCode ou un déploiement Azure OpenAI — se connecte en tant que provider personnalisé :

LLM_SERVER_URL=https://your-endpoint/v1
LLM_SERVER_KEY=your_key
LLM_SERVER_MODEL=model-name
LLM_SERVER_CONFIG_PATH=/opt/pentagi/conf/custom.provider.yml

LLM_SERVER_KEY est requis : pour un serveur sans authentification, tel que vLLM par défaut, définissez n’importe quelle valeur non vide — avec une clé vide, le provider personnalisé est désactivé. LLM_SERVER_API_TYPE=azure bascule le provider personnalisé vers Azure OpenAI. Un fichier de configuration de provider permet d’attribuer un modèle et des paramètres par agent type ; prenez comme point de départ examples/configs/custom-openai.provider.yml dans le dépôt et remplacez son o3-mini, qu’OpenAI retire le 23 octobre 2026.

Basculement

LLM_FALLBACK_PROVIDER désigne un second provider : un provider intégré avec des identifiants dans .env, tels que anthropic, ou un provider que le propriétaire du flow a enregistré dans Settings → Providers. Un appel de modèle qui échoue est répété une fois sur celui-ci et la bascule est enregistrée dans la trace ; l’appel suivant reprend sur le provider propre au flow.

Choix des modèles

• Utilisez votre modèle le plus performant pour primary_agent, pentester et adviser ; des modèles plus légers suffisent pour searcher, enricher et la synthèse.
• Pour les modèles ouverts de moins de 32 milliards de paramètres, activez la surveillance de l'exécution et la planification de task.
• Settings → Providers contient les profils de provider que vous créez en plus des types configurés — Create Provider ne propose que les types dont les identifiants figurent dans .env — et le formulaire de profil teste une configuration avant que vous ne l'enregistriez.