Why
- src/services/ was an unordered mix of single-file services and module
directories with no shared classification axis, plus several long-dead
admin batch helpers that survived the move to the simpler synchronous
admin-flux-grants flow.
What
- services/ now has two top-level layers:
domain/ — DB state + business rules (billing, characters, chats,
flux, flux-transaction, llm-router, providers, request-log,
stripe, user-deletion, admin/{flux-grants,router-config})
adapters/ — thin wrappers over external SDKs / infra (config-kv, email,
posthog, tts/)
- admin/* moved under domain/admin/ with consistent plural names
(flux-grants, router-config).
- tts-adapters/ collapsed to adapters/tts/ (no redundant -adapters suffix
once nested under adapters/).
- 63 src files + scripts/e2e-llm-router.ts + tests/verifications/_harness.ts
had relative imports rewritten; git mv preserves blame.
- apps/server/CLAUDE.md and docs/ai-context/*.md updated to match new paths.
Dead code removed
- services/admin-flux-grant-batches/ (service + worker + tests, 1090 LOC) —
superseded by admin-flux-grants and never wired into app.ts.
- routes/admin/flux-grant-batches/ — same.
- utils/redis-compressed.ts + test — zero production call sites.
- llm-router/index.ts re-exports trimmed from 26 to 6; only symbols with
external consumers are kept.
Intentionally kept
- schemas/flux-grant-batch.ts and its schemas/index.ts export remain so the
drizzle-kit generate diff stays empty. Removing them is a separate PR
that owns the drop-table migration for flux_grant_batch /
flux_grant_batch_recipient.
Verification
- pnpm -F @proj-airi/server typecheck: passes.
- pnpm exec eslint apps/server: 49 errors, identical to main baseline
(all are pre-existing node/prefer-global/buffer in envelope-crypto and
scripts/e2e-llm-router; untouched by this change).
- Vitest passes per-file; the 6 mockDB hook timeouts under full-parallel
run are the known pushSchema-per-worker infra cost, not a regression.
5.1 KiB
5.1 KiB
Server Architecture Overview
一句话总结
apps/server 是一个基于 Hono 的 Node 服务端,负责认证、角色/聊天/Provider 配置、Flux 余额、Stripe 充值和面向 gateway 的 LLM 代理。整体模式是:
- 路由层负责参数校验、鉴权、错误映射
- 服务层负责业务逻辑和数据库事务
Postgres负责持久化与账本真相Redis负责缓存、配置 KV、Pub/Sub(不再使用 Streams)injeca负责把这些依赖组装成一个可启动应用
入口与装配
核心入口在 src/app.ts:
createApp()- 初始化 logger
- 解析环境变量
- 初始化 OpenTelemetry
- 建立 Postgres / Redis 连接
- 执行数据库迁移
- 构建各个 service
- 注册路由和中间件
runApiServer()- 启动 HTTP 服务
- 注入 WebSocket
- 绑定
uncaughtException/unhandledRejection
CLI 入口在 src/bin/run.ts,只有一种角色:
api(HTTP/WS;没有常驻后台 loop,也没有 fire-and-forget 异步任务。admin flux grant 在 POST 请求线程内同步处理完返回;详见workers-and-runtime.md)
依赖注入结构
app.ts 使用 injeca.provide() 注册依赖,依赖关系大致如下:
- 基础设施
envoteldbredisconfigKV
- 服务
authcharacterServiceproviderServicechatServicestripeServicefluxTransactionServicefluxServicerequestLogServicebillingServiceadminFluxGrantsServicettsMeteruserDeletionServiceemailService
这个装配顺序说明了几个事实:
billingService依赖db + redisfluxService只读余额,不承担余额写入职责auth直接绑定数据库 schema,不是外部独立服务
应用层边界
1. HTTP / WS 传输层
在 src/routes/ 和 src/middlewares/:
- 参数校验使用
valibot - 用户身份来自
sessionMiddleware和authGuard - 业务异常统一抛
ApiError - 全局
onError转成标准 JSON 错误响应
2. 业务服务层
在 src/services/:
characters.tschats.tsproviders.tsflux.tsbilling-service.tsstripe.ts
这里是主要改动面。大多数业务改动都不应该直接写进 route handler。
3. 持久化层
在 src/schemas/:
- Drizzle schema 基本覆盖了所有核心表
- 数据迁移由
@proj-airi/server-schema提供 app.ts启动时会执行迁移
中间件与通用约束
全局中间件链路大致是:
/api/*启用 CORShono/logger- 可选的
otelMiddleware sessionMiddlewarebodyLimit(1MB)- 各 route 的局部 guard
需要记住的行为:
- WebSocket
/ws/chat在bodyLimit之前注册 sessionMiddleware不会阻断匿名请求,只是往 context 填user/sessionauthGuard才会真正返回 401rate-limit.ts目前是内存限流,不是分布式限流
错误模型
统一错误类型在 src/utils/error.ts:
ApiError(statusCode, errorCode, message, details)
约定:
- 业务层可以直接抛
ApiError - 未知异常会被包装成
500 INTERNAL_SERVER_ERROR - 参数错误、权限错误、余额不足都已有明确 helper
关键设计取舍
Flux 读写分离
FluxService- 面向读取
- Redis cache-aside
- 新用户首次读取时初始化余额
BillingService- 面向写入
- debitFlux / credit 方法:事务内同步更新余额并写
flux_transactionledger;事务提交后 best-effort 刷 Redis 余额缓存
这是服务端最重要的边界之一,尽量不要把写余额逻辑重新塞回 flux.ts。
LLM/TTS 路由在进程内,而不是本地 provider 编排
/api/v1/openai 由 services/domain/llm-router 读取 LLM_ROUTER_CONFIG 后按 upstream 链路 + key rotator 直接调 provider(OpenRouter、Azure Speech、阿里云 DashScope、火山引擎 等),不再依赖外部 knoway sidecar。因此:
- 服务端关心的是鉴权、限流、计费、日志、观测、上游路由与 key 健康
- 具体模型协议翻译由
services/domain/llm-router与services/adapters/tts的 adapter 完成
Redis 有多种职责,但都不是余额真相源
Redis 在这里同时承担:
- Flux 余额缓存
- 运行时配置 KV
- WebSocket 跨实例广播 Pub/Sub
- Sub-Flux 计量债务账本(TTS 字符等,TTL 抹零,详见
flux-meter.md) - TTS voices 上游响应缓存
但余额真相仍然在 Postgres。Redis Streams 已全部移除,详见 redis-boundaries-and-pubsub.md 的 NOTICE。
当前值得注意的实现信号
/api/v1/openai当前开放:POST /chat/completions、POST /chat/completion、POST /audio/speech、GET /audio/voices。handleTranscription路由尚未挂载。flux_grant_batchschema 已被简化版admin-flux-grants取代。代码层(service / route / worker / tests)已删。但src/schemas/flux-grant-batch.ts仍在并跟随schemas/index.ts导出,对应生产 DB 表flux_grant_batch/flux_grant_batch_recipient也仍在。下次清理要删 schema 文件 + 生成 drop table migration,属破坏性 DDL,需单独 PR 处理。