Přejít na obsah
PentAGI
Konfigurace

Embeddingy

Vyberte model embeddingů pro memory a vyhledávání znalostí v PentAGI.

Embeddings umožňují sémantické vyhledávání v memory, knowledge base a minulých výsledcích. Výchozím provider je OpenAI; pokud není nastaveno EMBEDDING_MODEL, použije se text-embedding-ada-002. Příklad konfigurace v .env:

EMBEDDING_PROVIDER=openai          # openai, ollama, mistral, jina, huggingface, googleai, voyageai
EMBEDDING_MODEL=text-embedding-3-small
# optional custom endpoint
EMBEDDING_URL=
# provider API key, if required
EMBEDDING_KEY=
EMBEDDING_BATCH_SIZE=512               # default
EMBEDDING_MAX_TEXT_BYTES=8192          # default

Jakákoli služba implementující API /embeddings od OpenAI funguje s EMBEDDING_PROVIDER=openai a vlastním EMBEDDING_URL.

Pokud změníte embedding provider nebo model, přepočítejte uložené vektory pomocí docker exec -it pentagi /opt/pentagi/bin/etester reindex — vektory z různých modelů nejsou porovnatelné. Nepoužívejte pro tento účel etester flush: smaže všechny uložené dokumenty, včetně knowledge base.

Vlastní certifikáty CA

Pokud backend modelu nebo tool server používá soukromou certifikační autoritu a zobrazuje se chyba x509: certificate signed by unknown authority, umístěte svazek PEM do svazku pentagi-ssl a nasměrujte na něj PentAGI:

EXTERNAL_SSL_CA_PATH=/opt/pentagi/ssl/ca-bundle.pem
EXTERNAL_SSL_INSECURE=false

Poté restartujte pomocí docker compose up -d pentagi.

Naposledy aktualizováno