임베딩 — PentAGI

PentAGI의 memory 및 지식 검색에 사용될 임베딩 모델을 선택하세요.

임베딩은 memory, knowledge base 및 과거 결과에 대한 의미론적 검색을 지원합니다. OpenAI가 기본 provider이며, EMBEDDING_MODEL이(가) 설정되지 않은 경우 text-embedding-ada-002을(를) 사용합니다. .env의 구성 예시는 다음과 같습니다:

EMBEDDING_PROVIDER=openai          # openai, ollama, mistral, jina, huggingface, googleai, voyageai
EMBEDDING_MODEL=text-embedding-3-small
# optional custom endpoint
EMBEDDING_URL=
# provider API key, if required
EMBEDDING_KEY=
EMBEDDING_BATCH_SIZE=512               # default
EMBEDDING_MAX_TEXT_BYTES=8192          # default

OpenAI의 /embeddings API를 구현하는 모든 서비스는 EMBEDDING_PROVIDER=openai와 사용자 지정 EMBEDDING_URL을 설정하여 사용할 수 있습니다.

임베딩 provider나 모델을 변경할 경우, docker exec -it pentagi /opt/pentagi/bin/etester reindex로 저장된 벡터를 다시 계산하십시오. 서로 다른 모델의 벡터는 비교할 수 없습니다. 이 작업을 위해 etester flush를 실행하지 마십시오. 이 명령은 knowledge base를 포함하여 모든 저장된 문서를 삭제합니다.

사용자 지정 CA 인증서

모델 백엔드나 tool 서버가 사설 CA를 사용하는데 x509: certificate signed by unknown authority 오류가 발생하는 경우, PEM 번들을 pentagi-ssl 볼륨에 넣고 PentAGI가 이를 참조하도록 설정하십시오:

EXTERNAL_SSL_CA_PATH=/opt/pentagi/ssl/ca-bundle.pem
EXTERNAL_SSL_INSECURE=false

그런 다음 docker compose up -d pentagi 명령으로 재시작하십시오.