Embeddings — PentAGI

Embeddings maken semantisch zoeken mogelijk in het memory, de knowledge base en eerdere resultaten. OpenAI is de standaardprovider; als er geen EMBEDDING_MODEL is ingesteld, wordt text-embedding-ada-002 gebruikt. Een voorbeeldconfiguratie in .env:

EMBEDDING_PROVIDER=openai          # openai, ollama, mistral, jina, huggingface, googleai, voyageai
EMBEDDING_MODEL=text-embedding-3-small
# optional custom endpoint
EMBEDDING_URL=
# provider API key, if required
EMBEDDING_KEY=
EMBEDDING_BATCH_SIZE=512               # default
EMBEDDING_MAX_TEXT_BYTES=8192          # default

Elke service die de /embeddings-API van OpenAI implementeert, werkt met EMBEDDING_PROVIDER=openai en een aangepaste EMBEDDING_URL.

Als je de embeddingprovider of het model wijzigt, bereken dan de opgeslagen vectoren opnieuw met docker exec -it pentagi /opt/pentagi/bin/etester reindex — vectoren van verschillende modellen zijn niet onderling vergelijkbaar. Voer hiervoor niet etester flush uit: dit verwijdert elk opgeslagen document, inclusief die in de knowledge base.

Aangepaste CA-certificaten

Als een modelbackend of toolserver een privé-CA gebruikt en je ziet x509: certificate signed by unknown authority, plaats dan de PEM-bundle in de pentagi-ssl-volume en verwijs PentAGI ernaar:

EXTERNAL_SSL_CA_PATH=/opt/pentagi/ssl/ca-bundle.pem
EXTERNAL_SSL_INSECURE=false

Start daarna opnieuw op met docker compose up -d pentagi.