Observabilita — PentAGI

Sledujte každé volání LLM pomocí Langfuse a monitorujte celý systém pomocí Grafana a OpenTelemetry — dva volitelné stacky vedle vestavěného dashboardu.

Dva volitelné zásobníky ukazují, co PentAGI dělá: Langfuse pro volání modelů a Grafana s OpenTelemetry pro zbytek systému.

Vlastní Dashboard PentAGI již zobrazuje jednotlivé flow, tool calls, spotřebu tokenů a náklady v čase; níže uvedené zásobníky přidávají úplné trasy a systémové metriky.

Vestavěný dashboard

Langfuse

Langfuse zaznamenává prompty, dokončení, tokeny a náklady pro každého agenta.

LANGFUSE_BASE_URL=http://langfuse-web:3000
LANGFUSE_PROJECT_ID=same_as_LANGFUSE_INIT_PROJECT_ID
LANGFUSE_PUBLIC_KEY=same_as_LANGFUSE_INIT_PROJECT_PUBLIC_KEY
LANGFUSE_SECRET_KEY=same_as_LANGFUSE_INIT_PROJECT_SECRET_KEY

Nastavte konfigurační hodnoty pro Langfuse v souboru .env (LANGFUSE_POSTGRES_*, LANGFUSE_CLICKHOUSE_*, LANGFUSE_REDIS_AUTH, LANGFUSE_SALT, LANGFUSE_ENCRYPTION_KEY, LANGFUSE_NEXTAUTH_SECRET, LANGFUSE_INIT_USER_* a klíče projektu) a poté spusťte zásobník:

curl -O https://raw.githubusercontent.com/vxcontrol/pentagi/main/docker-compose-langfuse.yml
docker compose -f docker-compose.yml -f docker-compose-langfuse.yml up -d

Uživatelské rozhraní Langfuse je dostupné na adrese http://localhost:4000.

Grafana a OpenTelemetry

OTEL_HOST=otelcol:8148

git clone --depth 1 https://github.com/vxcontrol/pentagi.git pentagi-src
cp -r pentagi-src/observability ./observability
rm -rf pentagi-src
curl -O https://raw.githubusercontent.com/vxcontrol/pentagi/main/docker-compose-observability.yml
docker compose -f docker-compose.yml -f docker-compose-observability.yml up -d

Grafana je dostupná na adrese http://localhost:3000, s metrikami ve VictoriaMetrics, trasami v Jaegeru a logy v Loki.

Chcete-li odesílat telemetrii Langfuse do stejného zásobníku, nastavte LANGFUSE_OTEL_EXPORTER_OTLP_ENDPOINT=http://otelcol:4318.

Vše dohromady

git clone --depth 1 https://github.com/vxcontrol/pentagi.git pentagi-src
cp -r pentagi-src/examples/graphiti ./graphiti
cp -r pentagi-src/examples/neo4j ./neo4j
rm -rf pentagi-src
curl -O https://raw.githubusercontent.com/vxcontrol/pentagi/main/docker-compose-graphiti.yml
docker compose \
  -f docker-compose.yml \
  -f docker-compose-langfuse.yml \
  -f docker-compose-graphiti.yml \
  -f docker-compose-observability.yml \
  up -d