Zum Inhalt springen
PentAGI
Konfiguration

Embeddings

Wählen Sie das Embedding-Modell für das Memory und die Wissenssuche von PentAGI.

Embeddings ermöglichen die semantische Suche im Memory, der Knowledge Base und vergangenen Ergebnissen. OpenAI ist der Standard-Provider; wenn kein EMBEDDING_MODEL festgelegt ist, wird text-embedding-ada-002 verwendet. Eine Beispielkonfiguration in .env:

EMBEDDING_PROVIDER=openai          # openai, ollama, mistral, jina, huggingface, googleai, voyageai
EMBEDDING_MODEL=text-embedding-3-small
# optional custom endpoint
EMBEDDING_URL=
# provider API key, if required
EMBEDDING_KEY=
EMBEDDING_BATCH_SIZE=512               # default
EMBEDDING_MAX_TEXT_BYTES=8192          # default

Jeder Dienst, der die /embeddings-API von OpenAI implementiert, funktioniert mit EMBEDDING_PROVIDER=openai und einem benutzerdefinierten EMBEDDING_URL.

Wenn Sie den Embedding-Provider oder das Modell wechseln, berechnen Sie die gespeicherten Vektoren mit docker exec -it pentagi /opt/pentagi/bin/etester reindex neu — Vektoren unterschiedlicher Modelle sind nicht vergleichbar. Führen Sie dafür nicht etester flush aus: Dies löscht jedes gespeicherte Dokument, einschließlich der Knowledge Base.

Benutzerdefinierte CA-Zertifikate

Wenn ein Modell-Backend oder Tool-Server eine private CA verwendet und Sie x509: certificate signed by unknown authority sehen, legen Sie das PEM-Bundle im Volume pentagi-ssl ab und verweisen Sie PentAGI darauf:

EXTERNAL_SSL_CA_PATH=/opt/pentagi/ssl/ca-bundle.pem
EXTERNAL_SSL_INSECURE=false

Starten Sie anschließend mit docker compose up -d pentagi neu.

Zuletzt aktualisiert am