Commit Graph
11 Commits
Author SHA1 Message Date
admin e02ad9e77b feat(stats): /api/v1/me 增量聚合 + 自上线以来累计 (1.0.32)
1. **/api/v1/me 增量聚合**:
   - 新增 shm 前缀 `usum:`(值 JSON),key = `usum:<username>`
   - 持久化 `{calls, tin, tout, by_slot, last_ts, last_slot, last_status}`
   - 每次 user_recent 只扫 audit delta (`ts > last_ts`),累加进 shm 后写回
   - 24h hour / 24h totals / 7d by_slot 是**滚动数据**,每次现算(持久化会过期)
   - dump 走 stats_persist 的 PREFIXES 白名单 → 自动落 llm-stats.json → 跨重启不丢
   - **冷启动**:`last_ts=0` → 第一次 user_recent 全量扫 audit 重建索引
   - 后续请求:`last_ts` 跟上 → 增量扫 audit → 写入持久化

2. **/api/admin/usage 自上线以来累计**:
   - 新增 `tokens.all_time` 字段(1.0.32),来自 audit meta.jsonl 全聚合
   - 真源聚合,不依赖 shm 日桶,**不受 stats 落盘/恢复影响**
   - audit 容量 1GB = 14 年历史,**自服务上线以来覆盖完整**
   - overview.html 新增 stat 卡片「累计 token (自上线)」+ since 日期

回归 238/0 全绿。
2026-09-15 18:12:29 +08:00
admin fe7816450e feat(/me): recent 块 —— 一次拿全「我最近调用/消耗/主要 slot」 (1.0.29)
同事反馈:希望 `/api/v1/me` 直接带自己最近的调用/消耗数据,不再需要二次
调 `/api/v1/usage` + `/api/v1/upstreams`。

**1.0.29**:在 `/api/v1/me` 顶层加 `recent` 块,数据从 audit meta.jsonl 实时
聚合——**不依赖 stats 落盘周期**,log 阶段落盘即聚合,零延迟。

`recent` 字段:
- `calls_24h` / `calls_7d`:24h / 7 天总调用数(含被拒 401/404,**与 shm 日桶
  只统计成功转发不同**——审计全量)
- `tin_24h` / `tout_24h` / `tin_7d` / `tout_7d`:token 数
- `hour_24h`:24 长度的数组,索引 = 小时(按本地时区切分),值 = 该小时调用数
- `by_slot`:\[\{slot, calls_24h, calls_7d, tin_7d, tout_7d, last_status\}\]
  按 calls_7d 降序
- `last_at` / `last_slot`:最近一次调用的时间 / 哪个 slot

**实现要点**:
- `plugin_llm::llm_audit::user_recent(username, days)` 新增聚合 helper,复用
  已有 `read_day` 路径(不重新发明读 meta.jsonl 的轮子)
- gateway::decorate_me 装配根调它,往 `/api/v1/me` view 里塞 `recent` 字段
  —— 插件依赖方向依然 `plugin → core`,gateway 反向装配,不破坏插件边界
- 失败兜底:audit 无数据 / 权限 → 返回空统计(不阻塞 /me)

回归 238/0 全绿(§10 账号态端点新增 6 条 me.recent 断言)。
2026-09-15 17:22:42 +08:00
admin 67776334a5 feat(llm/audit): 智能 excerpt —— 长请求体优先摘 user content (1.0.27)
原 100 字节截前 N 字节的方式在大 body 上**全是噪声**:
- 165 KB / 238 KB 请求体(带 context_management / tools 数组 / 多轮 history),
  前 100 字节几乎全是 `{"context_management":{"edits":[...]}` 这种元数据
- 真正想问的 user content 完全看不到
- 之前 100 KB+ 请求复盘只能看出「这请求很大」「用了哪个模型」,看不出
  「用户问了啥」

**1.0.27 智能摘录**(按 body_bytes 长度分支):
- ≤ `AUDIT_EXCERPT_BYTES` (100B):保留原文(含 model + messages 完整结构,
  短 query 一眼能看出完整对话)
- > 100B:解析 JSON → 提取 `model` + 最后一个 role=user 的 message 的 `content`,
  按 `AUDIT_CONTENT_CHARS` (200 字) 截前 N 个字符 → 输出
  `{"model":"...","content":"<user 内容前 200 字>"}`
- 兼容 OpenAI(content 字符串)与 Anthropic(content 是 `[{type,text}]` 数组)
- 大 body 解析只读前 `AUDIT_JSON_PARSE_BYTES` (16KB),不把 165 KB 全读进内存

**保留字段不变**:body_bytes / body_hash 仍记录全文长度 + SHA256 前 16 hex;
excerpt 仍是 meta.jsonl 单行;不存 body 副本。

附带:管理台「小时级趋势」直接读取 meta.jsonl 的端点
`GET /api/admin/audit/days` + `GET /api/admin/audit/day?day=YYYY-MM-DD`
(admin 鉴权,剔除 excerpt / body_hash 省流量)。前端按 `ts / 3600` 自己聚合。

回归 232/0 全绿(§13 改造为智能摘录断言,新增 4 条原文/摘要/脱敏相关)。
2026-09-15 16:24:53 +08:00
admin 24ced30d41 fix(upstreams): accounts=None 保留顶层 accounts 字段(不再清空) (1.0.26)
`accounts = None` 走 legacy auth 路径时**写空 vec 覆盖**了 existing.accounts,
导致管理台 toggle「停用/启用」(只发 {slot, enabled})会把账号清单
全部清空——用户现场踩坑:minimax 2 个账号点停用变 0 个。

修:`accounts = None` 时保留 `existing.accounts`(含 note/resets),
与 base/models/note 字段的 None = 保留原值语义对齐。

回归 228/0 全绿。
2026-09-15 15:30:35 +08:00
admin bbe54f109b fix(upstreams): upsert base_raw 改 Option,空串保留原值 (1.0.25)
`upsert` 其他字段(models/auth/note)语义都是 None / Some("") = 保留原值,
Some(有效) = 校验覆盖。`base_raw` 是 `&str`,"" 被 `validate_base`
直接拦截报「缺少 base 参数」。

现场踩坑:用户改 minimax 槽位 resets 时点了「停用」按钮,前端只
发 `{slot: minimax, enabled: 0}`(其他字段没填),被 base 校验拦下。

修:`base_raw` 改 `Option<&String>`,与现有约定对齐。新建必填校验
移进闭包(existing.base 兜底),编辑「停用」/「改备注」/「改账号」
等不需要回填 base 的场景不再被拦。

回归 228/0 全绿。
2026-09-15 15:19:03 +08:00
admin 2c37a36d9f fix(time): 容器 TZ=Asia/Shanghai + RESET_DAY_OFFSET_SEC=0 (1.0.24)
容器默认 TZ=UTC 导致所有时间显示比北京慢 8h,'今日'配额/趋势日桶
在北京 08:00 切日(不是 00:00),反直觉。同时 `cool_until_until` 用
`RESET_DAY_OFFSET_SEC=28800` 手工补 8h 算'上海 0 点'——**两处口径不一致**,
趋势日界比冷却边界早 8h。

按 memory 红线要求同时动两处:
1. Dockerfile 加 `tzdata` + `ENV TZ=Asia/Shanghai`
   - `util::day_id`/`fmt_time` 走 localtime_r 自动按上海 0:00 切日
   - `day_id` 输出 = `tm_year*1000 + tm_yday`(Shanghai yday)
2. `RESET_DAY_OFFSET_SEC` 从 28800 改成 0
   - `(now - 0).div_euclid(DAY)` 直接 = 当前上海 0 点对应 epoch
   - 与 `day_id` 口径一致(都按上海 0:00 切)

**副作用**:线上 `uda:`/`uex:` 等冷却类键按 epoch 算(不走 day_id),
不受影响。**真正受影响的是 `ud:`/`udu:`/`uds:` 趋势日桶的 yday key**——
同一天 UTC 算 vs 上海算差 ±1(跨 UTC 16:00 / Shanghai 0:00 边界时),
因此发版后 14 天趋势按新 key 重算,旧 14 天逐步过期(滚动窗口允许丢)。

回归 228/0 全绿(网关上一轮已 106/0,本次 LLM 无新增)。
2026-09-15 15:09:16 +08:00
admin 1bc316e014 fix(stats): 「上次落盘」记录移入共享内存(1.0.19)
1.0.18 首次线上验证暴露:error.log 里有 10 次 [stats] 落盘(来自 6#0/18#0/23#0
多个 worker),GET /api/admin/stats/persist 却报「本进程还没落过」。

根因:LAST_DUMP_AT 是每 worker 的进程内静态量。maybe_dump() 挂在记账路径上,
而记账每 worker 各算各的 → 落盘时刻也就每 worker 一份;接口落到没落过盘的
worker 就报 0。与 1.0.18 已修过的 spr:last(上次恢复)是同一类错误。

修法:发布到共享内存 spd:last(publish_dump 取 max)。一次解决两件事:
* 上报一致 —— 所有 worker 报同一份;
* 节流收敛 —— maybe_dump 新增慢路径查它,把「8 个 worker 各写一遍同一个文件」
  收敛成「全局每间隔一次」。快路径仍是原子比较,热路径代价不变。

顺带:
- 新增回归断言「状态页报告的上次落盘时刻非空」(套件开 2 worker,能暴露该分歧)
- deploy/agent.sh 加 stats-persist / stats-dump 子命令(线上观测口)
- 统一文档里过期的断言条数(90/111/160/179/196/262/298 → 实际值)
- 记录审计容量巡检 LAST_PURGE_AT/PURGING 同为每 worker 静态量(另案)

回归:bash tests/run.sh all → 299 条全绿(网关 102 + LLM 197)。
2026-09-14 20:05:51 +08:00
admin 16cf68d132 feat(stats): 运行期统计落盘/恢复 + 审计口径收口 (1.0.18)
起因:发版后管理台「用量」与「趋势」从 0 重新长起来。根因是统计类键
(ust:/ums:/utt:/utms:/ud:/udu:/uds:/uda:/uex:/uh:)只活在共享内存,
进程退出即消失;而上游/账号/域名/用户都有 data/*.json 所以不丢。

统计落盘(新 stats_persist.rs):
- 快照 data/llm-stats.json(与 users.json 同级),原子写 <path>.tmp.<pid> + rename
- 两个落盘点互补:worker 退出钩子 exit_process(发版/docker stop,零丢失)
  + 记账后按间隔节流落盘(默认 60s,覆盖 SIGKILL/OOM/断电)
- 启动 init_process 恢复,put-if-absent → 多 worker 幂等、不覆盖新数据
- 白名单 10 个统计前缀;刻意排除配置类/ukb:/内核态(各有数据文件或重启清零更安全)
- 恢复结果发布 shm spr:last(不再放进程内静态量,否则接口落到哪个 worker 报哪个数)
- 接口 GET /api/admin/stats/persist + POST /api/admin/stats/dump
- 指令 ipass_stats_persist <秒>(0=只留退出钩子);生产 conf 刻意不写

fix(audit): excerpt 双重编码
- json_quote_bytes(手工转义+两侧引号)塞进 json!() 被二次转义,落盘成
  "excerpt":"\"{\\\"model\\\"…",解码后多一层引号,消费方全解析不到
- 改为 excerpt_text():只 from_utf8_lossy,转义交给 serde

docs: 新增 docs/llm/STATS_PERSISTENCE.md(含 runbook)、docs/llm/AUDIT_LOG.md
  (两者此前被代码注释与 Dockerfile 引用但文件并不存在)

tests:
- 新增【15】统计落盘/重启恢复 13 条(间隔压 1s → 快照产出与白名单 →
  nginx -s quit → 恢复键数 == 快照键数、用量不变、再打一笔 +1、趋势仍在)
- 【13】「不再生成 body 副本」改断言本轮增量 = 0(对历史残留免疫);
  选择器改 body_bytes>400 且取最后一条匹配(目录里有首版的双重编码行)
- run.sh 复位改用 mv(rename 不算删除)——本机 safe-delete 钩子在累计删除
  超 50 个文件后会静默拦掉后续删除,rm -rf 与 python rmtree 同样被拦
- 回归 298 全绿(网关 102 + LLM 196)
2026-09-14 19:32:17 +08:00
admin f34ba3d198 fix(llm): auth 规范化兜住「只填裸 key」+ 排障子命令 (1.0.15)
线上 minimax 2 把 Key 点「测试」红字:1004 Please carry the API secret key
—— 根因是表单 placeholder 写 sk-...,用户照着填了**裸 key**(无 Bearer ),
而 accounts[].auth 语义是「完整 Authorization 头值」,转发时原样发就 1004。
agent.sh upstreams 一打就看出对照组:deepseek=Bearer s...d425(正常),
minimax=sk-cp-...(**无 Bearer **)——光看截图红字只会猜「额度用完」。

plugin-llm
- upstreams::normalize_auth:trim 后含空白→已完整;否则补「Bearer 」。
  **双处应用**:upsert 写入(下次保存自愈) + read_upa 读出(让线上坏数据
  立即可用,无需用户重填——存量 10 把 Key 根本不可能通知用户重填)。
- 兼容 Basic / 自定义 scheme / 前后空格 / 内部含空格共 6 个边界,
  干跑 + e2e 2 条新断言全过(裸 key 200 + 靶机实收 Bearer sk-NORM-NO-SCHEME)。

前端
- placeholder 改为「Bearer sk-…(... 留空=保留原值;只填裸 key 也会自动补 Bearer)」
  ——placeholder 写「前缀」会诱导漏填必要部分,写「字面值」才能正确引导。
- 多账号小节加说明文字(只填裸 key 也会自动补 Bearer)。

deploy/agent.sh
- 新增 upstreams(逐账号掩码/冷却/今日负载;掩码为空显式标 **空** —— 这条
  是发现「只填裸 key」类问题的关键指示器,旧镜像的回显脱敏后看不出问题)
- 新增 upstream-test <slot>(调测试接口并打印厂商真实 status_code + body),
  避免再靠「管理台截图 OCR」排障。

回归 281 全绿(网关 102 + LLM 179);专章 docs/llm/MULTI_ACCOUNT_ROUTING.md §10
记录现象/规则/兼容表/自检工具。
2026-09-14 14:21:48 +08:00
admin bfa3cf8ff8 feat(llm): 上游多账号路由 + 账号级负载统计 (1.0.14)
一个 slot 挂多把上游账号 Key,解决厂商「单账号额度/并发受限」与
「同一用户缓存命中」两个矛盾诉求。

多账号路由 (plugin-llm)
- models: Upstream.accounts[] (auth/note/resets) + 上游级
  exhaust_status/exhaust_markers;顶层 auth 保留兼容(accounts 为空时合成单账号)
- upstreams::pick_account:粘性绑定 ukb:<key> 优先 → 无绑定时
  FNV-1a(下游 Key) % 可用数 冷分散 → 绑定账号冷却则重新分散 → 全冷却取最早恢复
  * 分散避开厂商单账号 agent 并发上限;落点固定保住 prompt/token 缓存
- cool_until_until 天锚定冷却:boundary = day0 + ceil(已过/窗口)*窗口,
  封顶次日 0 点(MiniMax 5h 窗口、24=5*4+4 → 末段 20:00-24:00 只有 4h 随天重置)
- 耗尽双检测 (log 阶段):$upstream_status 命中 exhaust_status,或
  usage_filter 流式扫到 marker → $llm_acct 定位本次账号 → 写冷却 uac:
- shm: up:/upa:/uac:/ukb:/upe: 五类前缀;$llm_acct 变量 (NOCACHEABLE)

账号级负载统计(问题发现与跟踪)
- 新增 uda:<slot>:<idx>:<day>(请求/token)与 uex:(耗尽次数) 日桶,
  复用内核 usage::bump_day —— 无数据库、无新进程(项目红线)
- 计数点只在 log 阶段一次;pick_account 会被 $llm_target/$llm_auth/$llm_acct
  三个变量各触发一次,放进那里会三倍计数
- view() 投影带每账号 load 与 account_trend + trend_labels(日期由后端算)
- 管理台「上游」页密钥列:各 Key 今日请求/token/耗尽 + 负载比例条 +
  14 天迷你趋势(自绘 SVG,零第三方依赖)+ 冷却/耗尽徽标 + 上游合计

测试与验证
- 回归 279 条全绿(网关 102 + LLM 177),新增 6 条多账号/负载断言
- 假上游新增 UPSTREAM_FAIL_AUTH 模拟账号额度耗尽;靶机验证 Key 真被替换
- 前端以真实 admin.css + upstreams.js 渲染路径做无头浏览器断言:
  比例条与负载成比例(412 vs 96 → 100%/23%)、每账号 14 条块、
  悬停峰值日期与数据逐位吻合、单账号/无账号兜底正常、无横向溢出、零 JS 错误

文档
- 新增 docs/llm/MULTI_ACCOUNT_ROUTING.md(数据模型/路由/冷却数学/shm 布局/负载统计)
- readme §11 数据模型 + §15 上游配置 + §15 用量统计 + §12.6 tag 表 + §16 变更记录
- 修正 docs/llm/*.md 中插件化前的过时路径(rust/src/* → crates/plugin-llm/src/*)
2026-09-14 11:57:08 +08:00
admin 0d8e1c94d1 refactor(plugin): P3 拆 plugin-llm —— LLM 路由/配额/计量/审计/趋势迁入独立插件
- plugin-llm 新 crate:llm/upstreams/usage_filter/llm_audit/stats/handlers/api/config/models/store
- 下行契约(downstream_key/identity/check_quota/fail)与记账原语(usage::bump/read/bump_day)已下沉 ipass-core
- usage_filter 改走 loc::enabled(Switch::Llm) + core::plugin::ctx_index(解除对 gateway 私有 ModuleConfig 的依赖)
- gateway 收缩为壳:LlmHandler/LlmHealthHandler/AuditHandler 随 LlmPlugin 装配;
  /api/admin/trend 留 gateway(需 users+upstreams+apix 三方名册,组合根职责)
- 行为等价:262 项回归全绿(gateway 102 + llm 160)
2026-09-13 12:08:34 +08:00