Commit Graph
3 Commits
Author SHA1 Message Date
admin f34ba3d198 fix(llm): auth 规范化兜住「只填裸 key」+ 排障子命令 (1.0.15)
线上 minimax 2 把 Key 点「测试」红字:1004 Please carry the API secret key
—— 根因是表单 placeholder 写 sk-...,用户照着填了**裸 key**(无 Bearer ),
而 accounts[].auth 语义是「完整 Authorization 头值」,转发时原样发就 1004。
agent.sh upstreams 一打就看出对照组:deepseek=Bearer s...d425(正常),
minimax=sk-cp-...(**无 Bearer **)——光看截图红字只会猜「额度用完」。

plugin-llm
- upstreams::normalize_auth:trim 后含空白→已完整;否则补「Bearer 」。
  **双处应用**:upsert 写入(下次保存自愈) + read_upa 读出(让线上坏数据
  立即可用,无需用户重填——存量 10 把 Key 根本不可能通知用户重填)。
- 兼容 Basic / 自定义 scheme / 前后空格 / 内部含空格共 6 个边界,
  干跑 + e2e 2 条新断言全过(裸 key 200 + 靶机实收 Bearer sk-NORM-NO-SCHEME)。

前端
- placeholder 改为「Bearer sk-…(... 留空=保留原值;只填裸 key 也会自动补 Bearer)」
  ——placeholder 写「前缀」会诱导漏填必要部分,写「字面值」才能正确引导。
- 多账号小节加说明文字(只填裸 key 也会自动补 Bearer)。

deploy/agent.sh
- 新增 upstreams(逐账号掩码/冷却/今日负载;掩码为空显式标 **空** —— 这条
  是发现「只填裸 key」类问题的关键指示器,旧镜像的回显脱敏后看不出问题)
- 新增 upstream-test <slot>(调测试接口并打印厂商真实 status_code + body),
  避免再靠「管理台截图 OCR」排障。

回归 281 全绿(网关 102 + LLM 179);专章 docs/llm/MULTI_ACCOUNT_ROUTING.md §10
记录现象/规则/兼容表/自检工具。
2026-09-14 14:21:48 +08:00
admin bfa3cf8ff8 feat(llm): 上游多账号路由 + 账号级负载统计 (1.0.14)
一个 slot 挂多把上游账号 Key,解决厂商「单账号额度/并发受限」与
「同一用户缓存命中」两个矛盾诉求。

多账号路由 (plugin-llm)
- models: Upstream.accounts[] (auth/note/resets) + 上游级
  exhaust_status/exhaust_markers;顶层 auth 保留兼容(accounts 为空时合成单账号)
- upstreams::pick_account:粘性绑定 ukb:<key> 优先 → 无绑定时
  FNV-1a(下游 Key) % 可用数 冷分散 → 绑定账号冷却则重新分散 → 全冷却取最早恢复
  * 分散避开厂商单账号 agent 并发上限;落点固定保住 prompt/token 缓存
- cool_until_until 天锚定冷却:boundary = day0 + ceil(已过/窗口)*窗口,
  封顶次日 0 点(MiniMax 5h 窗口、24=5*4+4 → 末段 20:00-24:00 只有 4h 随天重置)
- 耗尽双检测 (log 阶段):$upstream_status 命中 exhaust_status,或
  usage_filter 流式扫到 marker → $llm_acct 定位本次账号 → 写冷却 uac:
- shm: up:/upa:/uac:/ukb:/upe: 五类前缀;$llm_acct 变量 (NOCACHEABLE)

账号级负载统计(问题发现与跟踪)
- 新增 uda:<slot>:<idx>:<day>(请求/token)与 uex:(耗尽次数) 日桶,
  复用内核 usage::bump_day —— 无数据库、无新进程(项目红线)
- 计数点只在 log 阶段一次;pick_account 会被 $llm_target/$llm_auth/$llm_acct
  三个变量各触发一次,放进那里会三倍计数
- view() 投影带每账号 load 与 account_trend + trend_labels(日期由后端算)
- 管理台「上游」页密钥列:各 Key 今日请求/token/耗尽 + 负载比例条 +
  14 天迷你趋势(自绘 SVG,零第三方依赖)+ 冷却/耗尽徽标 + 上游合计

测试与验证
- 回归 279 条全绿(网关 102 + LLM 177),新增 6 条多账号/负载断言
- 假上游新增 UPSTREAM_FAIL_AUTH 模拟账号额度耗尽;靶机验证 Key 真被替换
- 前端以真实 admin.css + upstreams.js 渲染路径做无头浏览器断言:
  比例条与负载成比例(412 vs 96 → 100%/23%)、每账号 14 条块、
  悬停峰值日期与数据逐位吻合、单账号/无账号兜底正常、无横向溢出、零 JS 错误

文档
- 新增 docs/llm/MULTI_ACCOUNT_ROUTING.md(数据模型/路由/冷却数学/shm 布局/负载统计)
- readme §11 数据模型 + §15 上游配置 + §15 用量统计 + §12.6 tag 表 + §16 变更记录
- 修正 docs/llm/*.md 中插件化前的过时路径(rust/src/* → crates/plugin-llm/src/*)
2026-09-14 11:57:08 +08:00
admin 0d8e1c94d1 refactor(plugin): P3 拆 plugin-llm —— LLM 路由/配额/计量/审计/趋势迁入独立插件
- plugin-llm 新 crate:llm/upstreams/usage_filter/llm_audit/stats/handlers/api/config/models/store
- 下行契约(downstream_key/identity/check_quota/fail)与记账原语(usage::bump/read/bump_day)已下沉 ipass-core
- usage_filter 改走 loc::enabled(Switch::Llm) + core::plugin::ctx_index(解除对 gateway 私有 ModuleConfig 的依赖)
- gateway 收缩为壳:LlmHandler/LlmHealthHandler/AuditHandler 随 LlmPlugin 装配;
  /api/admin/trend 留 gateway(需 users+upstreams+apix 三方名册,组合根职责)
- 行为等价:262 项回归全绿(gateway 102 + llm 160)
2026-09-13 12:08:34 +08:00