Lexery Wiki

Lexery - Provider Topology

3 хв читання

Lexery — Provider Topology

Lexery’s backend spans multiple external providers. This note is a map, not a billing sheet: use it to know who owns what dependency when debugging Brain, LLDBI, and API.

LLM routing: OpenRouter

OpenRouter є єдиним LLM provider для всіх model calls у системі. Замість прямих API-ключів до OpenAI, Anthropic чи інших провайдерів, Lexery маршрутизує всі запити через OpenRouter, що дає:

  • Multi-model routing — один API endpoint для всіх моделей, без окремих SDK чи credentials per vendor
  • Cost tracking — централізований dashboard з per-request cost visibility, budget alerts, usage breakdowns по моделях
  • Fallback — якщо primary model provider недоступний, OpenRouter може автоматично переключитися на альтернативу
  • Unified billing — один рахунок замість N окремих provider invoices

Key Precedence

Система використовує ієрархію API ключів:

  1. OPENROUTER_API_KEY_BRAIN — dedicated key для Brain pipeline; має priority і окремий budget ceiling
  2. OPENROUTER_API_KEY_ONLINE — fallback key для online/portal requests; використовується коли Brain key не задано або для non-pipeline calls

Ця ієрархія дозволяє ізолювати Brain pipeline billing від Portal user-facing traffic.

Model Tiers

Кожна модель обрана під конкретний тип задачі в pipeline:

TierModelПризначенняВартість
Premiumgpt-5.2ORCH decisions, U8 Legal Reasoning, U10 Writer — задачі, де якість юридичного аналізу критичнаВисока
Classificationgpt-4o-miniU2 Query Profiling, meta-triage, intent classification — швидкі lightweight tasksНизька
Routinegpt-5-nanoDelta summaries, memory operations, routine formatting — максимально дешеві повторювані задачіМінімальна

Model drift

Exact model IDs змінюються з evals; трактуйте OpenRouter як integration point, а code/config як source of truth.

Compute / hosting: Azure

Azure є задокументованою deployment target для Brain і API (див. docs/architecture/backend in-repo). Pair with Lexery - Deployment and Infra для environments і secrets.

Databases: Supabase (два проєкти)

Lexery використовує два окремі Supabase проєкти (не просто logical databases):

  • LegalAgentDB (lexery-legal-agent-db) — runs, import proposals, legal-agent tables, sessions, memory
  • Legislation RAG DB (legislation-RAG) — legislation documents, import jobs, catalog metadata для DocList

Обидва — Postgres під капотом; ізоляція — на рівні Supabase projects і credentials. Cross-DB joins не існують на SQL рівні.

Redis

Redis забезпечує:

  • BullMQ job queues — зазвичай one queue per pipeline stage (Lexery - Brain Architecture)
  • Run context cache — per-run working state під час активної обробки, що зберігає intermediate results між stages
  • Shared client management (наприклад, redis-shared.ts patterns) з namespace isolation через REDIS_QUEUE_NAMESPACE

Див. Lexery - Storage Topology для різниці між Redis ephemeral state і durable snapshots.

Qdrant Cloud

Qdrant Cloud — vector database для legislation і memory collections:

  • lexery_legislation_acts — metadata по ~374 нормативних актах
  • lexery_legislation_chunks — ~21,266 текстових chunks для semantic search
  • Lexery-LA Memory — semantic index для long-horizon agent memory
  • MM Docs — vectors для document assembly і multi-modal content

Cross-link: Lexery - LLDBI Surface.

Object storage: Cloudflare R2 (два бакети)

Cloudflare R2 зберігає дані у двох окремих бакетах:

  • legislation — canonical act JSON files, structured legislation data від Rada catalog
  • lexery-legal-agent — run artifacts, MM offload, document chunks, user uploads

Доступ через presigned URLs для controlled direct access. Pair з retrieval при debug “file present but chunks missing.”

Cloudflare Workers

Cloudflare Workers хостять lightweight API services:

  • @lexery/doclist-resolver-api — act resolution і disambiguation endpoint для DocList
  • Інші workers для edge-level routing і caching

Legislative source: Rada API

Verkhovna Rada data feeds забезпечують DocList catalog updates і related importers.

CI: GitHub Actions

GitHub Actions запускає portal CI і scheduled jobs, зокрема .github/workflows/lldbi-brain-admin.yml для LLDBI brain-admin scanning.

See Also

Вигляд графа

Зворотні посилання