admin
|
f34ba3d198
|
fix(llm): auth 规范化兜住「只填裸 key」+ 排障子命令 (1.0.15)
线上 minimax 2 把 Key 点「测试」红字:1004 Please carry the API secret key
—— 根因是表单 placeholder 写 sk-...,用户照着填了**裸 key**(无 Bearer ),
而 accounts[].auth 语义是「完整 Authorization 头值」,转发时原样发就 1004。
agent.sh upstreams 一打就看出对照组:deepseek=Bearer s...d425(正常),
minimax=sk-cp-...(**无 Bearer **)——光看截图红字只会猜「额度用完」。
plugin-llm
- upstreams::normalize_auth:trim 后含空白→已完整;否则补「Bearer 」。
**双处应用**:upsert 写入(下次保存自愈) + read_upa 读出(让线上坏数据
立即可用,无需用户重填——存量 10 把 Key 根本不可能通知用户重填)。
- 兼容 Basic / 自定义 scheme / 前后空格 / 内部含空格共 6 个边界,
干跑 + e2e 2 条新断言全过(裸 key 200 + 靶机实收 Bearer sk-NORM-NO-SCHEME)。
前端
- placeholder 改为「Bearer sk-…(... 留空=保留原值;只填裸 key 也会自动补 Bearer)」
——placeholder 写「前缀」会诱导漏填必要部分,写「字面值」才能正确引导。
- 多账号小节加说明文字(只填裸 key 也会自动补 Bearer)。
deploy/agent.sh
- 新增 upstreams(逐账号掩码/冷却/今日负载;掩码为空显式标 **空** —— 这条
是发现「只填裸 key」类问题的关键指示器,旧镜像的回显脱敏后看不出问题)
- 新增 upstream-test <slot>(调测试接口并打印厂商真实 status_code + body),
避免再靠「管理台截图 OCR」排障。
回归 281 全绿(网关 102 + LLM 179);专章 docs/llm/MULTI_ACCOUNT_ROUTING.md §10
记录现象/规则/兼容表/自检工具。
|
2026-09-14 14:21:48 +08:00 |
|
admin
|
bfa3cf8ff8
|
feat(llm): 上游多账号路由 + 账号级负载统计 (1.0.14)
一个 slot 挂多把上游账号 Key,解决厂商「单账号额度/并发受限」与
「同一用户缓存命中」两个矛盾诉求。
多账号路由 (plugin-llm)
- models: Upstream.accounts[] (auth/note/resets) + 上游级
exhaust_status/exhaust_markers;顶层 auth 保留兼容(accounts 为空时合成单账号)
- upstreams::pick_account:粘性绑定 ukb:<key> 优先 → 无绑定时
FNV-1a(下游 Key) % 可用数 冷分散 → 绑定账号冷却则重新分散 → 全冷却取最早恢复
* 分散避开厂商单账号 agent 并发上限;落点固定保住 prompt/token 缓存
- cool_until_until 天锚定冷却:boundary = day0 + ceil(已过/窗口)*窗口,
封顶次日 0 点(MiniMax 5h 窗口、24=5*4+4 → 末段 20:00-24:00 只有 4h 随天重置)
- 耗尽双检测 (log 阶段):$upstream_status 命中 exhaust_status,或
usage_filter 流式扫到 marker → $llm_acct 定位本次账号 → 写冷却 uac:
- shm: up:/upa:/uac:/ukb:/upe: 五类前缀;$llm_acct 变量 (NOCACHEABLE)
账号级负载统计(问题发现与跟踪)
- 新增 uda:<slot>:<idx>:<day>(请求/token)与 uex:(耗尽次数) 日桶,
复用内核 usage::bump_day —— 无数据库、无新进程(项目红线)
- 计数点只在 log 阶段一次;pick_account 会被 $llm_target/$llm_auth/$llm_acct
三个变量各触发一次,放进那里会三倍计数
- view() 投影带每账号 load 与 account_trend + trend_labels(日期由后端算)
- 管理台「上游」页密钥列:各 Key 今日请求/token/耗尽 + 负载比例条 +
14 天迷你趋势(自绘 SVG,零第三方依赖)+ 冷却/耗尽徽标 + 上游合计
测试与验证
- 回归 279 条全绿(网关 102 + LLM 177),新增 6 条多账号/负载断言
- 假上游新增 UPSTREAM_FAIL_AUTH 模拟账号额度耗尽;靶机验证 Key 真被替换
- 前端以真实 admin.css + upstreams.js 渲染路径做无头浏览器断言:
比例条与负载成比例(412 vs 96 → 100%/23%)、每账号 14 条块、
悬停峰值日期与数据逐位吻合、单账号/无账号兜底正常、无横向溢出、零 JS 错误
文档
- 新增 docs/llm/MULTI_ACCOUNT_ROUTING.md(数据模型/路由/冷却数学/shm 布局/负载统计)
- readme §11 数据模型 + §15 上游配置 + §15 用量统计 + §12.6 tag 表 + §16 变更记录
- 修正 docs/llm/*.md 中插件化前的过时路径(rust/src/* → crates/plugin-llm/src/*)
|
2026-09-14 11:57:08 +08:00 |
|
 adminand小K
|
1fb83e4dda
|
feat(admin/apix): 编辑改弹出卡片 + API 代理去「市场」概念 + 修示例地址拼接
1. LLM 上游 / API 代理的「新建 / 编辑」改为弹出卡片(IP.modal),
列表页只留复制地址 / 测试 / 编辑 / 启停 / 删除,体验更轻。
2. API 代理彻底去「API 市场 / 平台级凭据」概念:souyi 仅作供应商之一,
每条代理自带 base / 供应商 Key / asset_id(后端 platform 概念已移除),
源码与文档均不再出现 souyi / AIMALL 品牌与目录直拉。
3. 修 apix.js 示例地址拼接 bug:之前末尾出现 `?q=?q=`,
现 url 只拼一次 `?q=`、示例给出 `?q=关键词`(base 由后端返回纯基址)。
Co-Authored-By: 小K <[email protected]>
|
2026-09-13 10:19:33 +08:00 |
|
admin
|
dbee9ff3fd
|
fix(admin): 登录页因会话探测 401 被通用兜底重定向,导致自刷新死循环
登录页通过 GET /api/admin/session 探「是否已登录」,未登录时后端返回 401。
core.js 的 api() 通用兜底『401 且路径不含 /login → 跳 login.html』会把这个
本属正常的 401 也当作会话过期重定向回 login.html,形成自刷新死循环,
使未登录用户永远卡在刷新、无法进入。
修复:将 /api/admin/session 排除出通用 401 兜底(其 401 = 未登录,本就该留页)。
已逐条验证:未登录留页 / 已登录跳 overview / 后台页过期跳登录 / 其它接口 401 兜底不变。
|
2026-09-13 09:30:03 +08:00 |
|
admin
|
1f548ac953
|
feat(api-proxy): 新增「API 代理」板块,把外部免费 API 市场挂到网关下
后端(rust/src/apix.rs,新模块)
- /apix/<slug>?<参数> → 市场 POST /api/v1/ai/request;复用 LLM 的 sk_ 鉴权 +
配额 + 用量统计(slot 带 api/ 前缀,天然归组)
- 请求体由网关从 query 拼:asset_id 服务端决定(调用方只能选参数),堵住
「客户端自选最贵资产」的口子;GET 经 proxy_method POST + proxy_set_body 转带体
- data/api-proxies.json(含平台真 Key,等同 users.json 敏感度):base+key+items
shm 写穿 ax:,停用=摘键;平台 Key 不回显(只给掩码)
- 6 个 nginx 变量 + /_apix_probe/<slug>(internal)免费预估探测,复用 $apix_probe_*
前端(www/apix.html + assets/apix.js)
- 市场凭据配置 / 目录直拉(GET /api/v1/assets,跨域已开)/ 代理增删启停 /
复制地址 / 免费预估测试(带回平台余额)
验证
- 回归 261 条全绿(网关 102 + LLM 159,新增 34 条 apix 断言)
- 涵盖:无/坏 Key→401、不存在/停用 slug→404、GET 改写 POST、换平台 Key、
体由网关拼、下行 Key 不泄漏、写穿 shm、探测归 api/<slug>
文档
- readme §15.1 API 代理使用 + 变更日志;CLAUDE.md location 表补 ipass_apix
|
2026-09-13 02:46:35 +08:00 |
|
admin
|
c426789734
|
feat(admin): 用量图表(趋势/token/按人/按 API 组)+ 管理台单页拆分多页
后端
- 新增日桶 ud:/udu:/uds:(键名带日窗 id,TTL 90 天),record 记请求、
add_tokens 记 token,两者写同一批键、字段互补;forget 同步清 udu:
- 新增 GET /api/admin/trend?days=N(默认 14、上限 90),返回图表可直接吃的
{labels,total,users,slots},每条含 requests/in/out 三条等长数组
- util::fmt_day 供 x 轴用(%m-%d)
前端(原 www/admin.html 1100+ 行单文件)
- 拆为 login.html + overview/review/domains/users/upstreams/usage.html
- 抽出 assets/:admin.css + core.js(请求/登录守卫/外壳)+ chart.js(自绘 SVG)
- 每页 <base href="/admin/">;nginx 侧 /admin 仍进总览,/admin/ alias 到 www/
- 图表零第三方依赖(CDN 会让内网部署白屏,本地副本要塞几百 KB 进镜像)
验收
- 回归 227 条全绿(网关 102 + LLM 125)
- agent.sh verify 新增「趋势接口返回 7 天序列」作为镜像换新证据
|
2026-09-13 00:42:13 +08:00 |
|
admin
|
12f20dd342
|
fix(admin): 管理台布局改为自适应(去掉 1180px 居中和宽度锁)
大屏上 .wrap 的 max-width:1180px 让面板只占中间一小块,右侧留大片空白、
表格被压窄。改为铺满视口,面板/表格跟着自适应。
配套给 .grid-form 限宽 1100px:面板铺满后 auto-fit 的 minmax(160px,1fr)
会把字段摊成十几列;限住表单容器宽度即可让列数自然收敛,表格不受影响。
1920 视口实测:面板 1872px / 表格 1830px(改造前 ~1132px),表单 1100px。
|
2026-09-12 16:11:28 +08:00 |
|
admin
|
e14d2c6512
|
feat(domains): 子域名规则固化为 i + 8 位随机数 + dm
管理台「新建域名(直接放行)」的子域名不再是自由输入,改为三段拼装:
固定 i + 8 位随机数字(带「换一个」)+ 固定 dm。
- **规则真源收敛到 config.rs**(ENTERPRISE_ZONE / SUBDOMAIN_PREFIX /
SUBDOMAIN_SUFFIX / SUBDOMAIN_RAND_DIGITS / SUBDOMAIN_GEN_ATTEMPTS),
经 GET /api/admin/domains 的 subdomain_rule 下发给面板,前端不硬编码。
- **dm 后缀是硬约束**:conf/nginx.conf 企业域名 server 的 `^(?<subdomain>.+dm)`
要求捕获组以 dm 结尾,否则域名建出来也匹配不上转发 server。已在
config.rs / CLAUDE.md / readme §4 三处互标(改一处必改另一处)。
- **API 同规则**:POST /api/admin/domains/create 的 subdomain 缺省/空串即
自动生成同形态子域名,撞车自动换号重试(最多 5 次);手填撞车直接报错。
管理台与 API 共用 domains::create_by_admin,规则不会两处漂移。
- **域名列表点完整域名即复制**,且带端口——端口跟随调用方(location.port),
用 :88 打开面板就复制成 …:88;view() 增 host 字段供面板渲染。
- util::rand_digits 用**拒绝采样**(只收 <250 的字节)保证 0-9 等概率;
随机源不可用时退化 xorshift,绝不 panic(panic=abort 会打死 worker)。
回归:网关 +13 条(→90),全量 **201 条**(网关 90 + LLM 111)失败 0;
新增段覆盖规则下发 / 形态 ^i[0-9]{8}dm$ / 空串同自动 / 两次随机不同 /
手填合规 / 重复手填 400。另用真实 Chromium 实测布局、换号、非数字过滤、复制。
顺带纠正文档里偏 1 的旧条数(78→90 / 77→111),readme §16 补本条目。
|
2026-09-12 15:43:12 +08:00 |
|
admin
|
1b0bde9f72
|
feat(llm): 上游健康自动标记 + 管理台连通性测试 + 可复制 API 地址
- 健康标记(log 阶段):真实转发的上游状态码写入 uh:<slot>(4xx=活着,
5xx/502/504=失效,下次成功自动自愈),数据来源就是真实流量本身,
无需常驻探测进程。状态码读 $upstream_status 变量(r->upstream 在
上游 finalize 时已置空,log 阶段读不到——access log 同款手法)。
- 管理台「测试」按钮:POST /api/admin/upstreams/test?slot=X,校验后
ngx_http_internal_redirect 到管理 server 内部 location /_upstream_test,
复用 LLM 链路的取 slot / 拼路径 / 换真 Key 逻辑,上游原话透传给面板。
⚠️ 内部重定向只浅拷贝 ngx_str_t,URI 必须拷进请求池——否则函数返回
即悬垂,log 阶段 r->uri 全是 NUL,健康标记静默失效(实测踩坑)。
- 上游列表每行 slot 旁 OpenAI / Anthropic 两枚点击复制地址按钮,
模型发现(/v1/models 与 /api/v1/models、/api/v1/upstreams)附
anthropic_base_url 与健康状态;anthropic_base_url 统一收口
upstreams::anthropic_base_url(),base 已钉 /anthropic 时不重复追加。
- 统计卡片挪进独立「数据总览」tab 并设为默认页。
- 回归 +12 条(第 12 节健康标记断言),LLM 111 + 网关 78,失败 0。
- 测试卫生:run.sh 启动靶机前 pkill 残留进程(占 18999 会造成假 200)。
|
2026-09-12 14:42:32 +08:00 |
|
admin
|
2ad9ac7815
|
fix(admin): 上游表单的地址/密钥输入框独占整行,不再被网格压到 ~170px
问题:`.grid-form` 用 `repeat(auto-fit,minmax(160px,1fr))`,在 1180px 容器里
排成 6 列、每格仅 172px。上游地址(如 https://api.minimaxi.com/anthropic
约需 266px)与密钥(60+ 字符约需 670px)必然显示不全。
改动(www/admin.html):
- 新增 `.span-all{grid-column:1/-1}`,上游表单用 `.up-form` 收成两列:
slot / 备注 各一列(539px),地址 / 密钥 / 模型各独占整行(1090px)
- 窄屏(≤600px)收成一列
- 地址 / 密钥输入框加 `.field-mono`(等宽字体,便于逐字符核对路径与密钥)
- 地址标签补「含路径段,如 /v1」,placeholder 换成真实在用的带路径地址
- 上游列表的地址列加 `word-break:break-all`,长地址折行而非撑破表格
实测(Playwright 无头 Chromium,1440 / 1180 / 420 三种视口):
- 地址框 1090px(可用文本 1068px)vs 需要 266px → 余量充足
- 密钥框 1090px vs 需要 673px → 完整可见(约可容纳 127 字符)
- 窄屏 420px 收成一列(330px),地址完整显示
- 上游列表表格宽 1090px < 面板 1132px,未撑破;地址单元格折行
回归:bash tests/run.sh all → 网关 78 / LLM 77 = 155 条,失败 0。
|
2026-09-12 12:06:09 +08:00 |
|
admin
|
e38237dc4a
|
feat(deploy): 新增 .11 一键更新脚本 + 上游多模型/模型发现/用量统计
功能(本轮 5 项需求的落地):
- 上游可挂多模型:llm-upstreams.json 每上游新增 models 清单(仅用于模型发现,不参与路由)
- 模型发现:GET /v1/models(OpenAI {object:list} 形状,网关本地应答)+ /api/v1/models + /api/v1/upstreams
- 用量统计:/api/admin/usage(管理台「用量统计」Tab)+ /api/v1/usage + /me 的 llm_usage 摘要
口径:只统计真正转发出去的请求,401/403/404/429 不计;与配额计数 st: 刻意分开
- 账号展示名 display_name(纯展示,不进 ukey:)
- 修复 /v1 版本段重复拼接(llm::join_target)→ 上游 base 自带 /v1 时不再 404 空体
- 修复删账号未清用量键(stats::forget)
部署脚本 deploy/update-ipass.sh:
- 拉镜像 → tar 备份数据 → 删旧容器 → 按旧容器复刻端口/挂载/网络起新容器 → 自检
- 参数从 docker inspect 静态配置读取(docker port 对停止态容器返回空,会让端口静默回落)
- 端口按 host:container 去重(inspect 同一映射含 IPv4/IPv6 两项,重复 -p 会 address already in use)
- --bg 用 setsid/start_new_session 真正脱离会话(仅 nohup & 会被父进程组连带杀掉)
- 旧镜像自动打 rollback-<时间> 标签,收尾打印回滚命令
回归:bash tests/run.sh all → 网关 78 + LLM 75 = 153 条断言全绿。
文档:readme §12.4 / §15 / §16、CLAUDE.md 常用操作 + 排障速查已同步。
|
2026-09-12 10:09:56 +08:00 |
|
admin
|
b080edf1b8
|
管理台标题改为「尚数网 山海关」(登录页 title/h1/顶栏 3 处)
|
2026-09-11 15:50:28 +08:00 |
|
admin
|
5c307ba1aa
|
iPass 山海关:Rust 动态模块版全量入库
- vanilla nginx + Rust 动态模块(取代 OpenResty+Lua),共享内存为运行期真源
- 三域名分流 18098 ssl:mdm 管理台 / lm LLM 代理 / *.dm 企业转发,共用 *.mayishangshu.cn 通配符证书(证书不入库)
- LLM 统一出口:同 Key 鉴权、上游 Key 替换、白名单、限流配额、SSE
- 回归夹具 tests/(网关 55 + LLM 34 = 89 断言,夹具 cp 覆盖重置)
- 文档:readme(16 章)+ CLAUDE.md + conf/tls/README(acme.sh 证书管理、hairpin 环回链路)
|
2026-09-11 15:37:09 +08:00 |
|