Przejdź do treści
PentAGI
Konfiguracja

Embeddingi

Wybierz model embeddingów używany przez memory i wyszukiwanie wiedzy w PentAGI.

Osadzanie umożliwia wyszukiwanie semantyczne w memory, knowledge base i wcześniejszych wynikach. Domyślnym provider jest OpenAI; jeśli nie ustawisz EMBEDDING_MODEL, system używa text-embedding-ada-002. Przykładowa konfiguracja w .env:

EMBEDDING_PROVIDER=openai          # openai, ollama, mistral, jina, huggingface, googleai, voyageai
EMBEDDING_MODEL=text-embedding-3-small
# optional custom endpoint
EMBEDDING_URL=
# provider API key, if required
EMBEDDING_KEY=
EMBEDDING_BATCH_SIZE=512               # default
EMBEDDING_MAX_TEXT_BYTES=8192          # default

Każda usługa implementująca API /embeddings od OpenAI działa z EMBEDDING_PROVIDER=openai i niestandardowym EMBEDDING_URL.

Jeśli zmienisz provider osadzania lub model, przelicz zapisane wektory za pomocą docker exec -it pentagi /opt/pentagi/bin/etester reindex — wektory z różnych modeli nie są porównywalne. Nie uruchamiaj etester flush w tym celu: usuwa on wszystkie zapisane dokumenty, w tym knowledge base.

Niestandardowe certyfikaty CA

Jeśli backend modelu lub serwer tool korzysta z prywatnego CA i widzisz błąd x509: certificate signed by unknown authority, umieść pakiet PEM w woluminie pentagi-ssl i wskaż go w PentAGI:

EXTERNAL_SSL_CA_PATH=/opt/pentagi/ssl/ca-bundle.pem
EXTERNAL_SSL_INSECURE=false

Następnie uruchom ponownie za pomocą docker compose up -d pentagi.

Ostatnia aktualizacja