admin
|
fea806eb33
|
chore: 本机路径迁到 ~/Documents/ipass,修正 ngxbuild 多余的 build/ 段
conf/nginx.conf 的 dev root/alias 与 tests/run.sh 的 NGINX_BIN/NGINX_BUILD_DIR
从 Desktop/workspace/iPass 迁到 Documents/ipass;ngxbuild 在仓顶层,
原写法 build/ngxbuild 指向不存在的路径,默认启动会找不到 nginx 二进制。
|
2026-11-04 10:43:05 +08:00 |
|
 adminandClaude Opus 4.8
|
bf2528de0f
|
refactor: depend on ../ipass-plugin-{domain,llm,apix} + ../ipass-core; strip local copies
Ruling 16:删除危险的 /static/plugins alias(暴露整个 workspace 根,含各仓
data/*.json),改为 scripts/collect-plugin-dist.sh 收集 core 壳与各启用插件
www dist 进 build/{shell,static-plugins}(build/ 已 gitignore),conf 与
tests 模板同构改指收集目录。www/*.html 多页管理台删除后由 ipass-core 壳接管。
deploy/data-seed/plugin-config.json 种子三插件配置(tracked)。
Co-Authored-By: Claude Opus 4.8 <[email protected]>
|
2026-09-24 18:34:32 +08:00 |
|
admin
|
f179e6e987
|
fix(llm): is_probe 跳过 mark_exhausted/bump,只留 mark_health (1.1.2)
线上事故回归:面板「测试」按钮走 /_upstream_test 真实转发,账号由 pick 随机
选;上游一旦回耗尽形态(状态码命中 upe 或 body 命中 marker),旧逻辑会把
「管理员手抖点测试」当成「账号额度耗尽」冷却一把好钥匙,恢复要走完整退避/
探测。13:50 一次面板测试轮把 minimax 三把好 key 全部点进冷却,整池不可用。
* handlers.rs LlmHealthHandler:is_probe URI 前缀请求**不写冷却/耗尽**;只
跑 mark_health(健康展示仍需)。2xx clear_cool 保留——测试成功 = 该账号此刻
健康,是正向证据。bump_acct_load 保留(测试也是真转发,统计有用)。
* tests/llm/e2e.sh:新增「管理台测试按钮不得写路由状态」剧本,6 条断言;
fixture probetest 单账号 Bearer probe-dead + exhaust_status=[401] +
markers 一并命中——status 通道 + body 通道都能触发,真实分流修复前 cool
必须为 true,修复后为 false;真实流量同时仍正常冷却(不能为避 bug 把真标记
也关掉)。
* tests/llm/fixtures/llm-upstreams.json:加 probetest 槽位(同形 401+marker)。
回归:bash tests/run.sh llm → 270/0 全绿(原 262 + 8)。
|
2026-09-18 12:10:33 +08:00 |
|
admin
|
6081151410
|
fix(release): 发版链路三处缺陷(1.1.1 发版误回滚暴露)
1. me_catalog.py 把 .env 约定的**裸主机名**当完整 URL 用:release 里
agent.sh source .env 后子进程继承,live_check 两步探针 ValueError 崩退 1,
被三态口径判成「网关侧故障」触发自动回滚(1.1.1 实测,健康版本差点被回)。
现在补 scheme + IPASS_PUBLIC_PORT;探针脚本未捕获异常统一退 2(验证不可用),
崩溃永远不该触发回滚。
2. rollback 参数键位漂移:远端控制面对 release 发的 {"tag":...} 报「需要显式传
tag」→ 自动回滚 job 失败。agent.sh 的 rollback/回滚体改 python 拼 JSON 并
tag/image 双写;ipass-agent 1.0.4 的 op_rollback 两种键都认、短 tag/裸版本
用受管容器仓库段补全;release 版本闸门抬到 1.0.4(自动回滚必须先证明可用)。
3. 线上默认 tag 迁出 .env → deploy/image.conf(非秘密、入库):release 成功
自动回写 + commit,不再需要人肉同步;.env 的 IPASS_IMAGE_TAG 仅临时覆盖。
另修 agent.sh upstream-test:旧契约(slot 塞 body、无探测体)换成面板同款
(query slot + 第一个登记模型),实测 minimax 200。
|
2026-09-17 18:52:22 +08:00 |
|
admin
|
eae2063bef
|
fix(llm): 探测通道删掉 proxy_set_body 注入体,恢复「探测体原样转发」
面板「测试」报 minimax unknown model 'test' (2013) 的根因:1.0.43 为当时的
空 body 探测兜底,在 conf/nginx.conf 的 /_upstream_test/ 注入了 model=test 的
最小 dummy 体;而 nginx proxy_set_body 是无条件覆盖——把面板发来的「第一个
登记模型」探测体整个换掉,严格校验模型名的厂商一律误报「不通」(健康徽章因
4xx 算存活仍显示正常,二者口径不一致)。测试模板本就无此行,所以本机回归全绿
——典型的 conf/模板漂移,本次连 gateway 模板里同款遗留一并清掉。
- conf/nginx.conf + tests/gateway/nginx.conf.in:删注入行,注释改写成「别加回来」的告诫
- tests/llm/e2e.sh【11】:动态闸(探测体原样到靶机)+ 静态闸(生产 conf 探测块禁 proxy_set_body)
- CLAUDE.md 排障表补一行
llm 264 / gateway 108 全绿
|
2026-09-17 18:22:31 +08:00 |
|
admin
|
42a316b964
|
docs(tests): README 同步目录驱动 + 三态口径 + 退出码语义
|
2026-09-17 08:42:59 +08:00 |
|
admin
|
762d308745
|
test+deploy: 探针改目录驱动 + 三态判定 + 发版失败自动回滚(镜像+数据)
两件事:
1) 验证脚本统一从 /api/v1/me 拉能力目录(新增 tests/me_catalog.py 共享模块)。
之前 slot×模型、apix 条目写死在脚本里——配置是管理台动态的,改配置后探针
要么漏验新上游、要么拿旧模型名误报。现在 test_models 按 upstreams×models
全展开(both 双格式并发),apix_check 按目录逐条探;拉不到目录退出码 2
(验证失效 ≠ 上游没问题,不许假绿)。
三态口径:❌ 网关侧故障(错误体归属 + HTTP 码 + error.code 值三重判据——
智谱 401 体也是 {"error":{code,message}} 形状,光看形态会把欠费误判成发版
故障);⚠️ 上游/厂商侧(欠费 402、不可达 502/504、WAF、200 软错误)
**如实汇总反馈但不染红发版**;网关 429 限流按 GW_WARN 处理。
live_check.sh 退出码语义固定:0 过 / 1 网关侧故障 / 2 验证不可用。
分类器 15 个边界场景离线单测全对(撞形状/码集合/软错误/不误伤正常 200)。
2) agent.sh release 改 4/4 步:验证失败不再停在原地——
抓 PRE_IMG + update job 的备份路径 → live_check → rc=1 时自动
POST /rollback {tag, restore_backup} 回滚镜像并恢复 data/audit,回滚后
再跑 verify 自检;rc=2(验证不可用)**不回滚**(盲回滚比带病观察危险)。
ipass-agent 1.0.2:rollback 本地无镜像自动 pull(自动路径不许卡「先手动拉」);
新增 restore_data——先 stop 容器(防周期落盘把污染写回)、备份 tar 解包顶替
data/audit、现目录改名 .broken-<ts> 留证、只认 ~/ipass/backup/ 下的 tar。
restore_data 本地单测过(恢复/留证/staging 清理/越界拒绝)。
release 开头加控制面版本闸门:<1.0.2 会静默忽略 restore_backup → 中止
(IPASS_FORCE_RELEASE=1 可跳过),⚠️ 线上控制面还是 1.0.1,发版前先上 .11
跑 §12.5 自更新。
附带修 bash 老坑:`$VAR` 紧跟全角字符被吞进变量名(unbound variable,
live_check A 路径实测炸出),统一 ${VAR}。
线上实测:live_check 三步全绿(LLM 10/10 目录全展开 + apix 3/3 + 验收)。
只动 tests/deploy,不进镜像;ipass-agent 属控制面(跑宿主),需单独自更新。
|
2026-09-17 08:41:48 +08:00 |
|
admin
|
cde14e1f1b
|
test: apix 纳入上线后验证(tests/apix_check.py + live_check.sh 三步)
apix 发版后最容易静默失效:location 没挂 / shm 没装载都不报错,只是 404,
而回归打假上游、agent.sh verify 又不发真实请求 —— 之前完全没有覆盖。
新增 tests/apix_check.py:
- 从 /api/v1/me(mdm host + X-API-Key 头)拉能力目录,逐个探 enabled 条目;
- vendor → GET /apix/<slug>?<p>=<占位>;passthrough → GET /apixp/<slug>/health;
- **无效 Key 预检**:证明 location 挂着 + 鉴权生效(与上游是否抽风无关);
- 判定按错误体归属:网关体({"error":{...}} / {"code":..,"msg":..})→ 失败;
上游体({"detail":...} / WAF 页)→ 只告警,不染红发版验证。
实测踩到的三个坑(已写进 README):
1. urllib 默认 UA `Python-urllib/3.x` 被供应商边缘 Cloudflare 拦(403 error code:
1010),看着像 IP 被封,换 curl UA 立刻 200;
2. passthrough tail 是 /apixp/<slug> 之后的全部(上游 /health → /apixp/ocr/health),
usage_hint 里的 /<tail> 要换成 slug,照抄是上游 404;
3. vendor 参数要放白名单值:accel 给 example.com 是 400 target host not allowed
(链路通,属告警),换 raw.githubusercontent 小文件即 200。
live_check.sh 改为三步(LLM 真实流量 / apix 探针 / 环境验收),加 --apix-only。
线上实测:LLM 8/8 + apix 3/3 + 验收全绿。
|
2026-09-17 07:56:25 +08:00 |
|
admin
|
81f83f6f50
|
test: 加 tests/live_check.sh —— 上线后验证(真实流量 + 环境验收)
回归(tests/run.sh)打的是假上游,deploy/agent.sh verify 又只验管理台不发真实
LLM 请求,两半都跑不到「新版在线上真能干活」。新脚本把两者合成一条命令:
- 真实流量:test_models.py 4 slot × OpenAI/Anthropic + /v1/models;
- 环境验收:deploy/agent.sh verify(登录 / 页面标记 / subdomain_rule / 趋势 / 账号 load)。
- --models-only / --verify-only 可只跑一半;key 文件默认 ~/ssw.txt。
顺带:
- test_models.py 补退出码(原来失败也退 0,包装脚本判不出失败);
- key 文件解析支持 `sk=<key>` 与 # 注释行(取整行会拿到 sk=sk_xxx → 全量 401);
- tests/README.md 断言数同步到 108 + 262 = 370,补两个脚本说明。
实测:8/8 通过 + 验收全绿;错 key / 缺 key 文件均退出 1。
|
2026-09-17 07:37:08 +08:00 |
|
admin
|
0a9047840d
|
feat(llm): 上游账号冷却改指数退避 + 真实请求探测闭环 (1.0.44)
天锚定重置边界计算(resets)删掉:锚点算错过两次(1.0.14 / 1.0.24),
线上表现为「厂商 15:00 已重置、网关锁到 18:00」。resets 只存不路由。
新口径:uac: = <backoff>:<next_probe>:<hard_cap>
- 到期放一个「无绑定/绑定失效」的真实请求过去探测,2xx → clear_cool 回队;
- 仍耗尽 → 退避翻倍(首轮 ipass_probe_min,默认 60s,30min 硬顶无条件回队自愈);
- 绑定流量永不被劫持当探测(保 prompt 缓存亲和)。
- pick_account 必须纯决策:四个 $llm_* 变量各求值一次,副作用只在 log 阶段记一次。
fix: 探测窗口判定改严格小于 —— 秒级时钟下 >= 会让「标记于 45.95s、next_probe=46」
的账号在 46.05s 即被当探测目标,1s 退避实际只等 0.05s,冷却形同虚设(回归暴露)。
回归 370 条全绿(网关 108 + LLM 262,新增「探测恢复闭环」剧本)。
|
2026-09-17 07:19:35 +08:00 |
|
admin
|
515dcb3134
|
fix(llm): 探测通道注入最小 dummy 体,避开智谱 model=null NPE 误报 (1.0.43)
管理台「测试」按钮发的是空 body POST,智谱 4.x SDK 在 model 缺失时
NPE 兜底成 200 + body.error.code=500,被误读成「模型不存在」。
/_upstream_test location 加 proxy_set_body 注入最小探测体
(model=test/max_tokens=1/messages=hi),让上游真做一次最小生成,
费用与可观测性可控。tests 同步。
另收 tests/test_models.py:网关多模型 × OpenAI/Anthropic 双协议验证脚本。
|
2026-09-16 21:01:27 +08:00 |
|
admin
|
9e0a1e53b9
|
fix(llm): join_target 剥 /v1 仅 OpenAI 协议生效,Anthropic 保留 /v1 (1.0.42)
1.0.41 把 Anthropic 协议的 /v1/messages 也剥了,漏版本段必 404。
修正为:join_target 接 anthropic 参数,仅 OpenAI + base 自带路径段时
剥客户端冗余 /v1;Anthropic 协议始终原样拼(版本段必保留)。
同步 e2e §4 期望(新设计:base 自带路径 → 客户端 /v1 必须被剥)。
|
2026-09-16 18:36:43 +08:00 |
|
admin
|
49a8b81647
|
fix(llm): join_target 剥掉 base 自带路径时客户端多余的 /v1 (1.0.41)
智谱(glm) OpenAI 基址 …/api/coding/paas/v4、阿里(qwen) …/compatible-mode/v1
已自带版本路径段,而真实客户端统一带 /v1(/openai/v1/chat/completions 约定),
旧逻辑只在 base_path==/v1 时去重,导致 glm 被拼成 …/v4/v1/chat/completions
被智谱严格 404、qwen 双 /v1(阿里容忍但脏)。
改为:base 自带路径段(非裸 host)时,剥掉客户端冗余的 /v1 再拼;
裸 host(deepseek/minimax 的 https://api.x.com)保留客户端 /v1。
覆盖 glm/qwen 双协议与 deepseek/minimax 裸 host 四种形态,单测 + e2e §9.5 锁回归。
|
2026-09-16 18:31:20 +08:00 |
|
admin
|
1e52eae468
|
feat(llm): 上游拆 OpenAI/Anthropic 双地址 (1.0.40)
每上游存 base(OpenAI) + base_anthropic(Anthropic) 两条完整真实 URL;
网关出口纯 /<slot> 与 /<slot>/anthropic,厂商协议路径段原样留在 base* 里,
由 join_target 拼到 SDK 余下路径前。解决智谱/阿里单 base 无法表达
不同 OpenAI 与 Anthropic 路径段导致 404 进冷却的问题。
- models.rs: Upstream 加 base_anthropic 字段
- upstreams.rs: derive_anthropic/effective_anthropic、shm payload 三字段、
read_up 三元组、pick_account 按协议选 base、base_url/anthropic_base_url
纯网关出口、upsert 支持 base_anthropic 保留语义、view 回显 base_anthropic
- llm.rs: is_anthropic 按 /anthropic 段分流、upstream_uri 剥标记段防重复拼
- api.rs/upstreams.js/me.js: 管理台双地址输入与回显
- tests: GLM 双协议夹具 + §9.5 路由断言,回归 245/0
|
2026-09-16 18:07:25 +08:00 |
|
admin
|
ac40738c30
|
fix(upstreams): anthropic_base_url 不带 /v1(Anthropic SDK 自己拼) (1.0.38)
**Anthropic SDK 与 OpenAI SDK 行为不同**:
- OpenAI SDK:用 base_url 直接拼 /chat/completions,**不会自动加 /v1**
→ base_url 必须带 /v1
- Anthropic SDK:用 base_url 拼 /messages,**会自动拼 /v1**
→ base_url **不要带 /v1**,否则 SDK 拼出 /v1/v1/messages 404
1.0.37 把 anthropic_base_url 也加 /v1 是错的——Anthropic SDK 拿到后会
拼成 /v1/v1/messages 上游 404。同时 upstreams.js 的 apiUrls 函数
拿已经带 /v1 的 base_url 再拼 /anthropic,得到 `…/v1/anthropic` 错 URL
(现场复制)。
修:
- 后端 anthropic_base_url **不带 /v1**(让 SDK 拼)
- upstreams.js apiUrls 函数**不再拼**,直接用后端返回的 base_url /
anthropic_base_url 字段(前端正则拼接是 1.0.37 之前的兜底,不再需要)
- e2e 断言同步改:anthropic_base_url 不含 /v1
回归全绿。
|
2026-09-15 20:53:41 +08:00 |
|
admin
|
cc4406738c
|
fix(upstreams): base_url 强制带 /v1(OpenAI SDK 需要) (1.0.37)
OpenAI Python SDK 用法:`client = OpenAI(base_url=...)` 内部拼
`/chat/completions`,**不会自动加 /v1**。
但网关 location 只接 `/<slot>/v1/...`(slot 拆完路径必须是
`/v1/chat/completions`,上游 base `https://api.deepseek.com` 也要求
带 /v1)。
旧 base_url 函数:上游 base 无路径时,输出
`https://lm.mayishangshu.cn:88/openai`(**无 /v1**)——SDK 拼出
`/openai/chat/completions` → 网关拆 slot 后路径是 /chat/completions →
转发到上游 → 404 且响应体为空。
修:
- base_url 出口保证末尾是 `/v1`(上游已有 /v1 时不加,避免 /v1/v1)
- anthropic_base_url 末尾保证 `/anthropic/v1`
- e2e 测试断言同步改:base_url 必须带 /v1 + anthropic_base_url 必须带 /v1
回归全绿。
|
2026-09-15 20:40:05 +08:00 |
|
admin
|
faae6b95d4
|
feat(admin): 「我的用量」面板 me.html —— 用户自查询 (1.0.30)
基于 1.0.29 `/api/v1/me` 新增 recent 块,每个用户可以**自助**看自己的
用量,不必 admin 帮忙——也省得同事自己 curl 拼 JSON。
**面板能力**(来自 `/api/v1/me`):
- 6 张概览卡片:用户名 / 24h 调用 / 7d 调用 / 24h token / 上次调用
- 24h 调用分布:bar chart(来自 `recent.hour_24h`,按本地小时分桶)
- 近 7 天按 slot 拆分表格:calls_24h / calls_7d / tin / tout / last_status
- 我能调的 LLM 上游:白名单过滤后的完整 slot + base_url + models
- 我能调的 API 代理:enabled 列表 + 调用方式(`<code>GET /apix/...` 或
`<code>POST /apixp/...`) + desc 截前 80 字
- 我的域名列表
**鉴权**:
- 用户首次进入 → 输入 sk_ → sessionStorage 存 → 调 `/me` → 渲染
- 不能复用 `IP.api`(那个走 cookie)—— 新加 `meApi` helper 走 `X-API-Key`
- Key 只在 sessionStorage,**关页面即清**,不会落盘不会上传
- 401 自动清 Key 跳回输 Key 卡片
- 顶部 nav 加「我的用量」入口:admin 也能用自己的 sk_ 查
**安全考虑**:
- 用户拿 sk_ 看自己:API key 天然按 username 隔离,**不能看别人** ✓
- 面板只读,没有任何写操作
回归 108/0 全绿(gateway 108,含 me.html 200 断言)。
|
2026-09-15 17:32:49 +08:00 |
|
admin
|
fe7816450e
|
feat(/me): recent 块 —— 一次拿全「我最近调用/消耗/主要 slot」 (1.0.29)
同事反馈:希望 `/api/v1/me` 直接带自己最近的调用/消耗数据,不再需要二次
调 `/api/v1/usage` + `/api/v1/upstreams`。
**1.0.29**:在 `/api/v1/me` 顶层加 `recent` 块,数据从 audit meta.jsonl 实时
聚合——**不依赖 stats 落盘周期**,log 阶段落盘即聚合,零延迟。
`recent` 字段:
- `calls_24h` / `calls_7d`:24h / 7 天总调用数(含被拒 401/404,**与 shm 日桶
只统计成功转发不同**——审计全量)
- `tin_24h` / `tout_24h` / `tin_7d` / `tout_7d`:token 数
- `hour_24h`:24 长度的数组,索引 = 小时(按本地时区切分),值 = 该小时调用数
- `by_slot`:\[\{slot, calls_24h, calls_7d, tin_7d, tout_7d, last_status\}\]
按 calls_7d 降序
- `last_at` / `last_slot`:最近一次调用的时间 / 哪个 slot
**实现要点**:
- `plugin_llm::llm_audit::user_recent(username, days)` 新增聚合 helper,复用
已有 `read_day` 路径(不重新发明读 meta.jsonl 的轮子)
- gateway::decorate_me 装配根调它,往 `/api/v1/me` view 里塞 `recent` 字段
—— 插件依赖方向依然 `plugin → core`,gateway 反向装配,不破坏插件边界
- 失败兜底:audit 无数据 / 权限 → 返回空统计(不阻塞 /me)
回归 238/0 全绿(§10 账号态端点新增 6 条 me.recent 断言)。
|
2026-09-15 17:22:42 +08:00 |
|
admin
|
c785a7b7f0
|
feat(admin): 「24h 热力」页 hourly.html —— 直接读 meta.jsonl 聚合 (1.0.28)
1.0.27 加了 `/api/admin/audit/days` + `/api/admin/audit/day` 端点,
但**没有前端 UI**——「端点有什么用」不直观。
加 `hourly.html` + `hourly.js`:
- 选区间(最近 1/3/7 天)+ 选 slot(全部 / 单个)+ 选指标(请求数 / 入 / 出 token)
- fetch 多天 meta.jsonl → JS 按 (slot, 小时) 聚合 → 渲染 SVG heatmap
- 颜色:浅蓝 → 深蓝 渐变(吃现有 admin.css 颜色基调)
- Top 10 繁忙 (slot, 小时) 表格
- 概览:区间内请求/token/slot/账号 数 + 数据来源(meta.jsonl × N 天)
设计要点:
- **零外部依赖**:纯 SVG/HTML,复用 chart.js 的 fmtNum/niceMax,自己写 100 行 heatmap 渲染
- **实时反映所有请求**(含被拒 401/404)—— 不像 shm 日桶只统计成功转发
- **零延迟**:审计落盘即聚合,不依赖 stats 落盘周期
- 不破坏 usage.html(独立的 panel 入口)
- 顶部 nav 加 "24h 热力" tab
回归 339/0 全绿(gateway 107/0 + LLM 232/0,新增 hourly.html 200 断言)。
|
2026-09-15 16:38:43 +08:00 |
|
admin
|
67776334a5
|
feat(llm/audit): 智能 excerpt —— 长请求体优先摘 user content (1.0.27)
原 100 字节截前 N 字节的方式在大 body 上**全是噪声**:
- 165 KB / 238 KB 请求体(带 context_management / tools 数组 / 多轮 history),
前 100 字节几乎全是 `{"context_management":{"edits":[...]}` 这种元数据
- 真正想问的 user content 完全看不到
- 之前 100 KB+ 请求复盘只能看出「这请求很大」「用了哪个模型」,看不出
「用户问了啥」
**1.0.27 智能摘录**(按 body_bytes 长度分支):
- ≤ `AUDIT_EXCERPT_BYTES` (100B):保留原文(含 model + messages 完整结构,
短 query 一眼能看出完整对话)
- > 100B:解析 JSON → 提取 `model` + 最后一个 role=user 的 message 的 `content`,
按 `AUDIT_CONTENT_CHARS` (200 字) 截前 N 个字符 → 输出
`{"model":"...","content":"<user 内容前 200 字>"}`
- 兼容 OpenAI(content 字符串)与 Anthropic(content 是 `[{type,text}]` 数组)
- 大 body 解析只读前 `AUDIT_JSON_PARSE_BYTES` (16KB),不把 165 KB 全读进内存
**保留字段不变**:body_bytes / body_hash 仍记录全文长度 + SHA256 前 16 hex;
excerpt 仍是 meta.jsonl 单行;不存 body 副本。
附带:管理台「小时级趋势」直接读取 meta.jsonl 的端点
`GET /api/admin/audit/days` + `GET /api/admin/audit/day?day=YYYY-MM-DD`
(admin 鉴权,剔除 excerpt / body_hash 省流量)。前端按 `ts / 3600` 自己聚合。
回归 232/0 全绿(§13 改造为智能摘录断言,新增 4 条原文/摘要/脱敏相关)。
|
2026-09-15 16:24:53 +08:00 |
|
admin
|
c28e9edb53
|
fix(nginx): 管理台静态资源 no-store + /admin/ 500 + 88 不再跳 18098 (1.0.23)
1. **管理台所有 HTML/CSS/JS 改 Cache-Control: no-store**(expires -1 + add_header)
- 解决「代码上线了但用户浏览器一直用旧 JS」——管理员看不到新增字段
的典型表现就是浏览器缓存命中。文件都不大(HTML<5KB / CSS<10KB /
JS<15KB),无缓存的性能影响可忽略。
2. **/admin/ 带尾斜杠 500 修**
- 根因:nginx 把请求 URI 拼到 alias 后打开文件/目录;(末尾斜杠、
剩余空)+ alias 目录 + index 拼出 `overview.htmlindex.html` 报错
「is not a directory」。改用 internal rewrite 落到 `/admin/overview.html`,
重新走 location 匹配(命中 `= /admin` 那条 alias 文件)。
3. **路由器 88 不再被踢到 18098**
- 根因:nginx 默认 `absolute_redirect on; port_in_redirect on;`,302
Location 写绝对 URL + 实际 listen 端口(18098),把外部 88 用户踢出
反代链。三条 server(lm / mdm / *.dm)都加 `absolute_redirect off;
port_in_redirect off;`,Location 变成相对路径,浏览器留 88。
4. **e2e 加 3 条无缓存断言 + /admin/ 200 断言防回归**
回归 334 全绿(网关 106 + LLM 228)。
|
2026-09-15 13:11:28 +08:00 |
|
admin
|
3635b18797
|
docs(readme): 补 1.0.21/1.0.22 变更记录
- 1.0.21: passthrough 新建可空 Key(upsert 按 mode 放宽校验)
- 1.0.22: usage_hint 字段,/api/v1/me 把调用语法下发给用户 AI
|
2026-09-15 11:48:40 +08:00 |
|
admin
|
26a0f2f4f4
|
feat(apix): usage_hint 字段 —— /api/v1/me 帮用户 AI 自动发现调用语法 (1.0.22)
`desc` 是中文给运维看的,`params` 只对 vendor 有意义(passthrough 是空数组)。
`/api/v1/me` 把条目下发给用户 AI 后,AI 必须能自己拼出:
- 路径尾部是什么(/ocr /ocr/base64 /ocr/url)
- 每个端点的 Content-Type(multipart 还是 json)
- 上游字段名 / Swagger 在哪
加 `usage_hint` 字段:管理员按 OpenAPI 风格填写自由格式,由 /api/v1/me
原样透传给用户 AI。AI 直接解析,无需再读人工文档。
设计要点:
- 不进 shm(热路径只查 base/key/asset_id/mode,进 shm 占带宽)
- 截断到 1KB(够写 3-5 个端点说明,长 Swagger 截断而非拒绝)
- 默认空字符串,向后兼容旧数据
- passthrough 推荐填,vendor 可选填
改动:
- models.rs: ApiProxy 加 usage_hint 字段
- apix.rs: upsert 收 usage_hint_raw + 截断;view 回显
- api.rs: save 解析 usage_hint;响应回显
- www/apix.html: 描述加 usage_hint 解释
- www/assets/apix.js: 表单加 textarea + 提交带 usage_hint
- tests/llm/e2e.sh: §11.5 加 1 条 usage_hint 写入与回显断言
- 回归 227/0 全绿(修复断言 1 条)
|
2026-09-15 11:30:16 +08:00 |
|
admin
|
d05ebfb5b0
|
fix(apix): passthrough 新建可空 Key —— upsert 按 mode 放宽校验 (1.0.21)
1.0.20 现场踩坑:upsert 统一要求「基址与密钥」,但 passthrough 设计是
Key 可空(内部服务免鉴权,handler 已经放空 Key 转发),管理台提交 passthrough
+ 空 Key 直接 400。
修:vendor 必须 base + key 都填;passthrough 仅 base 必填,key 可空。
补 2 条测试断言防回归(vendor 缺 Key → 400;passthrough 空 Key → 200)。
回归 227/0 全绿。
|
2026-09-15 11:12:07 +08:00 |
|
admin
|
4533db8536
|
feat(apix): 透传模式 passthrough —— 通用内部 REST 出口 (1.0.20)
- 模型加 mode 字段(vendor 默认 / passthrough 新增),shm payload 扩为 4 字段
base\nkey\nasset_id\nmode;旧数据零迁移(无 mode → vendor)
- 拆 location 而非按 mode 分支:/apixp/ 不施加 vendor 强约束
(proxy_method POST + 强制 Content-Type + proxy_pass_request_headers off
是 location 级指令,无法按请求级 shm 的 mode 动态切换)
- handler 校验路径前缀 vs mode 一致(vendor slug 走 /apixp/ → 404,反之亦然),
避免 vendor 条目继承 passthrough 强制 Content-Type 致 415 之类静默故障
- passthrough:方法/请求体/Content-Type 原样透传(含 multipart),上游路径
= base + /apixp/<slug> 之后的 URI 尾部(含 query 由模块拼,变量式 proxy_pass
不自动追加);Key 可空(内部服务免鉴权,下发时 nginx 空串 = 不发该头)
- 探测按 mode 分流:vendor 走 POST 预估 / passthrough 走 GET 打上游根地址
- nginx:lm server 加 /apixp/,mdm server 加 /_apixp_probe/(internal)
- 测试 §11.6 新增 35 条断言(鉴权/路径转发/体透传/Key 下发/路径-mode 一致
/管理台回显/探测);账号态 count 1→3 同步;回归 225/0 全绿
- 管理台:列表加 mode 标签、表单加 mode 下拉 + 透传说明 + 路径示例复制
- 文档:docs/apix/PASSTHROUGH_MODE.md 真源(决策/兼容/改动一览)
OCR 是第一条 passthrough 配置:/apixp/ocr/ocr、/apixp/ocr/ocr/base64、
/apixp/ocr/ocr/url?src=...
|
2026-09-15 10:51:29 +08:00 |
|
admin
|
1bc316e014
|
fix(stats): 「上次落盘」记录移入共享内存(1.0.19)
1.0.18 首次线上验证暴露:error.log 里有 10 次 [stats] 落盘(来自 6#0/18#0/23#0
多个 worker),GET /api/admin/stats/persist 却报「本进程还没落过」。
根因:LAST_DUMP_AT 是每 worker 的进程内静态量。maybe_dump() 挂在记账路径上,
而记账每 worker 各算各的 → 落盘时刻也就每 worker 一份;接口落到没落过盘的
worker 就报 0。与 1.0.18 已修过的 spr:last(上次恢复)是同一类错误。
修法:发布到共享内存 spd:last(publish_dump 取 max)。一次解决两件事:
* 上报一致 —— 所有 worker 报同一份;
* 节流收敛 —— maybe_dump 新增慢路径查它,把「8 个 worker 各写一遍同一个文件」
收敛成「全局每间隔一次」。快路径仍是原子比较,热路径代价不变。
顺带:
- 新增回归断言「状态页报告的上次落盘时刻非空」(套件开 2 worker,能暴露该分歧)
- deploy/agent.sh 加 stats-persist / stats-dump 子命令(线上观测口)
- 统一文档里过期的断言条数(90/111/160/179/196/262/298 → 实际值)
- 记录审计容量巡检 LAST_PURGE_AT/PURGING 同为每 worker 静态量(另案)
回归:bash tests/run.sh all → 299 条全绿(网关 102 + LLM 197)。
|
2026-09-14 20:05:51 +08:00 |
|
admin
|
16cf68d132
|
feat(stats): 运行期统计落盘/恢复 + 审计口径收口 (1.0.18)
起因:发版后管理台「用量」与「趋势」从 0 重新长起来。根因是统计类键
(ust:/ums:/utt:/utms:/ud:/udu:/uds:/uda:/uex:/uh:)只活在共享内存,
进程退出即消失;而上游/账号/域名/用户都有 data/*.json 所以不丢。
统计落盘(新 stats_persist.rs):
- 快照 data/llm-stats.json(与 users.json 同级),原子写 <path>.tmp.<pid> + rename
- 两个落盘点互补:worker 退出钩子 exit_process(发版/docker stop,零丢失)
+ 记账后按间隔节流落盘(默认 60s,覆盖 SIGKILL/OOM/断电)
- 启动 init_process 恢复,put-if-absent → 多 worker 幂等、不覆盖新数据
- 白名单 10 个统计前缀;刻意排除配置类/ukb:/内核态(各有数据文件或重启清零更安全)
- 恢复结果发布 shm spr:last(不再放进程内静态量,否则接口落到哪个 worker 报哪个数)
- 接口 GET /api/admin/stats/persist + POST /api/admin/stats/dump
- 指令 ipass_stats_persist <秒>(0=只留退出钩子);生产 conf 刻意不写
fix(audit): excerpt 双重编码
- json_quote_bytes(手工转义+两侧引号)塞进 json!() 被二次转义,落盘成
"excerpt":"\"{\\\"model\\\"…",解码后多一层引号,消费方全解析不到
- 改为 excerpt_text():只 from_utf8_lossy,转义交给 serde
docs: 新增 docs/llm/STATS_PERSISTENCE.md(含 runbook)、docs/llm/AUDIT_LOG.md
(两者此前被代码注释与 Dockerfile 引用但文件并不存在)
tests:
- 新增【15】统计落盘/重启恢复 13 条(间隔压 1s → 快照产出与白名单 →
nginx -s quit → 恢复键数 == 快照键数、用量不变、再打一笔 +1、趋势仍在)
- 【13】「不再生成 body 副本」改断言本轮增量 = 0(对历史残留免疫);
选择器改 body_bytes>400 且取最后一条匹配(目录里有首版的双重编码行)
- run.sh 复位改用 mv(rename 不算删除)——本机 safe-delete 钩子在累计删除
超 50 个文件后会静默拦掉后续删除,rm -rf 与 python rmtree 同样被拦
- 回归 298 全绿(网关 102 + LLM 196)
|
2026-09-14 19:32:17 +08:00 |
|
admin
|
f34ba3d198
|
fix(llm): auth 规范化兜住「只填裸 key」+ 排障子命令 (1.0.15)
线上 minimax 2 把 Key 点「测试」红字:1004 Please carry the API secret key
—— 根因是表单 placeholder 写 sk-...,用户照着填了**裸 key**(无 Bearer ),
而 accounts[].auth 语义是「完整 Authorization 头值」,转发时原样发就 1004。
agent.sh upstreams 一打就看出对照组:deepseek=Bearer s...d425(正常),
minimax=sk-cp-...(**无 Bearer **)——光看截图红字只会猜「额度用完」。
plugin-llm
- upstreams::normalize_auth:trim 后含空白→已完整;否则补「Bearer 」。
**双处应用**:upsert 写入(下次保存自愈) + read_upa 读出(让线上坏数据
立即可用,无需用户重填——存量 10 把 Key 根本不可能通知用户重填)。
- 兼容 Basic / 自定义 scheme / 前后空格 / 内部含空格共 6 个边界,
干跑 + e2e 2 条新断言全过(裸 key 200 + 靶机实收 Bearer sk-NORM-NO-SCHEME)。
前端
- placeholder 改为「Bearer sk-…(... 留空=保留原值;只填裸 key 也会自动补 Bearer)」
——placeholder 写「前缀」会诱导漏填必要部分,写「字面值」才能正确引导。
- 多账号小节加说明文字(只填裸 key 也会自动补 Bearer)。
deploy/agent.sh
- 新增 upstreams(逐账号掩码/冷却/今日负载;掩码为空显式标 **空** —— 这条
是发现「只填裸 key」类问题的关键指示器,旧镜像的回显脱敏后看不出问题)
- 新增 upstream-test <slot>(调测试接口并打印厂商真实 status_code + body),
避免再靠「管理台截图 OCR」排障。
回归 281 全绿(网关 102 + LLM 179);专章 docs/llm/MULTI_ACCOUNT_ROUTING.md §10
记录现象/规则/兼容表/自检工具。
|
2026-09-14 14:21:48 +08:00 |
|
admin
|
bfa3cf8ff8
|
feat(llm): 上游多账号路由 + 账号级负载统计 (1.0.14)
一个 slot 挂多把上游账号 Key,解决厂商「单账号额度/并发受限」与
「同一用户缓存命中」两个矛盾诉求。
多账号路由 (plugin-llm)
- models: Upstream.accounts[] (auth/note/resets) + 上游级
exhaust_status/exhaust_markers;顶层 auth 保留兼容(accounts 为空时合成单账号)
- upstreams::pick_account:粘性绑定 ukb:<key> 优先 → 无绑定时
FNV-1a(下游 Key) % 可用数 冷分散 → 绑定账号冷却则重新分散 → 全冷却取最早恢复
* 分散避开厂商单账号 agent 并发上限;落点固定保住 prompt/token 缓存
- cool_until_until 天锚定冷却:boundary = day0 + ceil(已过/窗口)*窗口,
封顶次日 0 点(MiniMax 5h 窗口、24=5*4+4 → 末段 20:00-24:00 只有 4h 随天重置)
- 耗尽双检测 (log 阶段):$upstream_status 命中 exhaust_status,或
usage_filter 流式扫到 marker → $llm_acct 定位本次账号 → 写冷却 uac:
- shm: up:/upa:/uac:/ukb:/upe: 五类前缀;$llm_acct 变量 (NOCACHEABLE)
账号级负载统计(问题发现与跟踪)
- 新增 uda:<slot>:<idx>:<day>(请求/token)与 uex:(耗尽次数) 日桶,
复用内核 usage::bump_day —— 无数据库、无新进程(项目红线)
- 计数点只在 log 阶段一次;pick_account 会被 $llm_target/$llm_auth/$llm_acct
三个变量各触发一次,放进那里会三倍计数
- view() 投影带每账号 load 与 account_trend + trend_labels(日期由后端算)
- 管理台「上游」页密钥列:各 Key 今日请求/token/耗尽 + 负载比例条 +
14 天迷你趋势(自绘 SVG,零第三方依赖)+ 冷却/耗尽徽标 + 上游合计
测试与验证
- 回归 279 条全绿(网关 102 + LLM 177),新增 6 条多账号/负载断言
- 假上游新增 UPSTREAM_FAIL_AUTH 模拟账号额度耗尽;靶机验证 Key 真被替换
- 前端以真实 admin.css + upstreams.js 渲染路径做无头浏览器断言:
比例条与负载成比例(412 vs 96 → 100%/23%)、每账号 14 条块、
悬停峰值日期与数据逐位吻合、单账号/无账号兜底正常、无横向溢出、零 JS 错误
文档
- 新增 docs/llm/MULTI_ACCOUNT_ROUTING.md(数据模型/路由/冷却数学/shm 布局/负载统计)
- readme §11 数据模型 + §15 上游配置 + §15 用量统计 + §12.6 tag 表 + §16 变更记录
- 修正 docs/llm/*.md 中插件化前的过时路径(rust/src/* → crates/plugin-llm/src/*)
|
2026-09-14 11:57:08 +08:00 |
|
 adminand小K
|
1fb83e4dda
|
feat(admin/apix): 编辑改弹出卡片 + API 代理去「市场」概念 + 修示例地址拼接
1. LLM 上游 / API 代理的「新建 / 编辑」改为弹出卡片(IP.modal),
列表页只留复制地址 / 测试 / 编辑 / 启停 / 删除,体验更轻。
2. API 代理彻底去「API 市场 / 平台级凭据」概念:souyi 仅作供应商之一,
每条代理自带 base / 供应商 Key / asset_id(后端 platform 概念已移除),
源码与文档均不再出现 souyi / AIMALL 品牌与目录直拉。
3. 修 apix.js 示例地址拼接 bug:之前末尾出现 `?q=?q=`,
现 url 只拼一次 `?q=`、示例给出 `?q=关键词`(base 由后端返回纯基址)。
Co-Authored-By: 小K <[email protected]>
|
2026-09-13 10:19:33 +08:00 |
|
admin
|
1f548ac953
|
feat(api-proxy): 新增「API 代理」板块,把外部免费 API 市场挂到网关下
后端(rust/src/apix.rs,新模块)
- /apix/<slug>?<参数> → 市场 POST /api/v1/ai/request;复用 LLM 的 sk_ 鉴权 +
配额 + 用量统计(slot 带 api/ 前缀,天然归组)
- 请求体由网关从 query 拼:asset_id 服务端决定(调用方只能选参数),堵住
「客户端自选最贵资产」的口子;GET 经 proxy_method POST + proxy_set_body 转带体
- data/api-proxies.json(含平台真 Key,等同 users.json 敏感度):base+key+items
shm 写穿 ax:,停用=摘键;平台 Key 不回显(只给掩码)
- 6 个 nginx 变量 + /_apix_probe/<slug>(internal)免费预估探测,复用 $apix_probe_*
前端(www/apix.html + assets/apix.js)
- 市场凭据配置 / 目录直拉(GET /api/v1/assets,跨域已开)/ 代理增删启停 /
复制地址 / 免费预估测试(带回平台余额)
验证
- 回归 261 条全绿(网关 102 + LLM 159,新增 34 条 apix 断言)
- 涵盖:无/坏 Key→401、不存在/停用 slug→404、GET 改写 POST、换平台 Key、
体由网关拼、下行 Key 不泄漏、写穿 shm、探测归 api/<slug>
文档
- readme §15.1 API 代理使用 + 变更日志;CLAUDE.md location 表补 ipass_apix
|
2026-09-13 02:46:35 +08:00 |
|
admin
|
c426789734
|
feat(admin): 用量图表(趋势/token/按人/按 API 组)+ 管理台单页拆分多页
后端
- 新增日桶 ud:/udu:/uds:(键名带日窗 id,TTL 90 天),record 记请求、
add_tokens 记 token,两者写同一批键、字段互补;forget 同步清 udu:
- 新增 GET /api/admin/trend?days=N(默认 14、上限 90),返回图表可直接吃的
{labels,total,users,slots},每条含 requests/in/out 三条等长数组
- util::fmt_day 供 x 轴用(%m-%d)
前端(原 www/admin.html 1100+ 行单文件)
- 拆为 login.html + overview/review/domains/users/upstreams/usage.html
- 抽出 assets/:admin.css + core.js(请求/登录守卫/外壳)+ chart.js(自绘 SVG)
- 每页 <base href="/admin/">;nginx 侧 /admin 仍进总览,/admin/ alias 到 www/
- 图表零第三方依赖(CDN 会让内网部署白屏,本地副本要塞几百 KB 进镜像)
验收
- 回归 227 条全绿(网关 102 + LLM 125)
- agent.sh verify 新增「趋势接口返回 7 天序列」作为镜像换新证据
|
2026-09-13 00:42:13 +08:00 |
|
admin
|
401f9be351
|
feat(llm): token 计量 + 对话审计日志(10GiB 容量触发式清理)
- llm_usage.rs: body filter 旁路(FFI 注册 top_body_filter,无需额外 C 模块),
透传 SSE 的同时抓尾部 usage chunk(OpenAI stream_options.include_usage / Anthropic message_delta),
解析 prompt/completion tokens 写 shm utt:/utms: 键
- llm_audit.rs: log 阶段把请求体临时文件复制进审计目录(audit/ = data 兄弟目录),
meta.jsonl 记 user/slot/status/token;10 GiB 容量阈值触发式清理,按日期目录从最旧删起
- conf/nginx.conf: LLM location 去掉 proxy_request_buffering off(它管请求体方向、
与 SSE 无关且与 client_body_in_file_only 互斥),SSE 流式由 proxy_buffering off 保障
- stats/api: 用量接口增加 tokens 维度(today/total per user per slot)
- ipass-agent.py: 容器重建时自动挂审计卷(宿主 audit/ = data 兄弟目录,自动建目录)
- update-agent-face.sh: 控制面自更新脚本(.11 上一行命令完成下载/备份/校验/重启/自检)
- tests: LLM 117/117(+6: 审计 4 + token 2)、网关 90/90,共 207 全绿
|
2026-09-12 17:59:34 +08:00 |
|
admin
|
e14d2c6512
|
feat(domains): 子域名规则固化为 i + 8 位随机数 + dm
管理台「新建域名(直接放行)」的子域名不再是自由输入,改为三段拼装:
固定 i + 8 位随机数字(带「换一个」)+ 固定 dm。
- **规则真源收敛到 config.rs**(ENTERPRISE_ZONE / SUBDOMAIN_PREFIX /
SUBDOMAIN_SUFFIX / SUBDOMAIN_RAND_DIGITS / SUBDOMAIN_GEN_ATTEMPTS),
经 GET /api/admin/domains 的 subdomain_rule 下发给面板,前端不硬编码。
- **dm 后缀是硬约束**:conf/nginx.conf 企业域名 server 的 `^(?<subdomain>.+dm)`
要求捕获组以 dm 结尾,否则域名建出来也匹配不上转发 server。已在
config.rs / CLAUDE.md / readme §4 三处互标(改一处必改另一处)。
- **API 同规则**:POST /api/admin/domains/create 的 subdomain 缺省/空串即
自动生成同形态子域名,撞车自动换号重试(最多 5 次);手填撞车直接报错。
管理台与 API 共用 domains::create_by_admin,规则不会两处漂移。
- **域名列表点完整域名即复制**,且带端口——端口跟随调用方(location.port),
用 :88 打开面板就复制成 …:88;view() 增 host 字段供面板渲染。
- util::rand_digits 用**拒绝采样**(只收 <250 的字节)保证 0-9 等概率;
随机源不可用时退化 xorshift,绝不 panic(panic=abort 会打死 worker)。
回归:网关 +13 条(→90),全量 **201 条**(网关 90 + LLM 111)失败 0;
新增段覆盖规则下发 / 形态 ^i[0-9]{8}dm$ / 空串同自动 / 两次随机不同 /
手填合规 / 重复手填 400。另用真实 Chromium 实测布局、换号、非数字过滤、复制。
顺带纠正文档里偏 1 的旧条数(78→90 / 77→111),readme §16 补本条目。
|
2026-09-12 15:43:12 +08:00 |
|
admin
|
1b0bde9f72
|
feat(llm): 上游健康自动标记 + 管理台连通性测试 + 可复制 API 地址
- 健康标记(log 阶段):真实转发的上游状态码写入 uh:<slot>(4xx=活着,
5xx/502/504=失效,下次成功自动自愈),数据来源就是真实流量本身,
无需常驻探测进程。状态码读 $upstream_status 变量(r->upstream 在
上游 finalize 时已置空,log 阶段读不到——access log 同款手法)。
- 管理台「测试」按钮:POST /api/admin/upstreams/test?slot=X,校验后
ngx_http_internal_redirect 到管理 server 内部 location /_upstream_test,
复用 LLM 链路的取 slot / 拼路径 / 换真 Key 逻辑,上游原话透传给面板。
⚠️ 内部重定向只浅拷贝 ngx_str_t,URI 必须拷进请求池——否则函数返回
即悬垂,log 阶段 r->uri 全是 NUL,健康标记静默失效(实测踩坑)。
- 上游列表每行 slot 旁 OpenAI / Anthropic 两枚点击复制地址按钮,
模型发现(/v1/models 与 /api/v1/models、/api/v1/upstreams)附
anthropic_base_url 与健康状态;anthropic_base_url 统一收口
upstreams::anthropic_base_url(),base 已钉 /anthropic 时不重复追加。
- 统计卡片挪进独立「数据总览」tab 并设为默认页。
- 回归 +12 条(第 12 节健康标记断言),LLM 111 + 网关 78,失败 0。
- 测试卫生:run.sh 启动靶机前 pkill 残留进程(占 18999 会造成假 200)。
|
2026-09-12 14:42:32 +08:00 |
|
admin
|
9ebee9c96d
|
fix(llm): 出站请求头默认不放行(allowlist),堵住网关 Key 经 x-api-key 泄漏
行业做法(LiteLLM / one-api / Higress 完全一致):**不由客户端决定**上游该收到哪些头,
而是网关按「上游需要什么」重新构造。nginx 侧对应 proxy_pass_request_headers off。
改造前实测(本机靶机 + .11 生产双确认):本块只覆写了 Authorization,客户端放在
x-api-key 里的**网关自己的 Key** 会被原样送给上游厂商,厂商可拿它反调本网关挂的
**全部**上游(横向越权)。MiniMax 两处都认,把这个缺陷掩盖成了 200。
改动:
- conf/nginx.conf 与两个测试模板:off + 凭据头显式抹空(x-api-key / api-key /
x-goog-api-key,两层叠加,将来谁改回 on 仍兜底)+ 显式放行
Content-Type / Accept / anthropic-version / anthropic-beta / openai-beta / User-Agent
- tests/llm/e2e.sh:+12 条断言。凭据头不泄漏、必需头存活(漏 Content-Type 会让所有
POST 直接废)、以及 host 粒度 base 下一条记录吃 OpenAI + Anthropic 两种路径
- 反证:把模板还原成改造前状态(无 off、无抹空)重跑,3 条凭据断言如实变红(86/3),
证明这组断言不是空转
回归:LLM 89 + 网关 78,失败 0。调研与实测证据见 docs/llm/UPSTREAM_PROTOCOL_AND_AUTH.md
|
2026-09-12 12:39:03 +08:00 |
|
admin
|
9ede90b06e
|
docs(llm): 多协议路由与鉴权头调研(开源实现 + 官方指引 + 实测)
- LiteLLM:/anthropic/* 路径前缀路由;clean_headers 的 authenticated_with_header
语义 + 默认摘凭据头 + 双层 allowlist + 日志/转发两副本分离
- one-api:根地址 + 路径天然区分,model 只选 channel,出站三头齐设
- Higress:Automatic Protocol Detection;v2.2.3 把按模型名宽泛匹配改成路径后缀判断
- Anthropic 官方:走网关用 ANTHROPIC_AUTH_TOKEN(发 Authorization),直连才用
ANTHROPIC_API_KEY(发 X-Api-Key)
- 靶机改为记录全部收到的头:手挑字段会让未替换的头在回归里全绿通过
结论:协议由客户端路径表达,不需要网关分发;统一注册的实体是 base 写到 host。
鉴权头两种修法与 off 模式的必注入清单(漏 Content-Type 会让所有 POST 废)见文档。
|
2026-09-12 12:27:41 +08:00 |
|
admin
|
02601f6d33
|
test(llm): 靶机补记 x-api-key / anthropic-version
Anthropic 协议的鉴权头是 x-api-key,而网关当前只覆写 Authorization。
靶机原来不记录 x-api-key,导致「下游那把 sk_ 是否被原样漏给上游」
在回归里是看不见的 —— 实测已确认会漏。先让靶机把它记下来。
|
2026-09-12 12:15:35 +08:00 |
|
admin
|
6a5387b8ce
|
fix(llm): base_url 端口跟随调用方 Host(修正 .11 上打不通的回显地址)
问题:账号态回的 base_url 不带端口(https://lm.mayishangshu.cn/deepseek/v1),
而本网关在宿主 88 上。客户端照它拼请求会落到 443 —— 实测那是**出口 SSL 设备**,
返回 HTTP 200 + 一个 HTML 登录页:状态码正常、内容完全不对,最难察觉的一种失败。
也不能写死 :88:挂在 443 反代后面时又必须不带端口。
改法:新增 http::host_port()(从 Host 头取 ":88"/""),base_url / view / view_all
接收端口参数,调用方从当前请求取。88 部署给 :88,443 反代给无端口,两种都对。
本轮 .11 实机交付验证:
- 镜像 ipass-1.0.0(digest 046a9dd7…)更新完成:端口 88:18098、网络 ipass_default、
数据目录 /home/train11/ipass/data 全部复刻,3 账号 / 1 域名 / 1 上游无损;worker 可写。
- 给 deepseek 登记 deepseek-chat / deepseek-reasoner(保存时不提交 auth 字段 → 密钥未被动)。
- 两把 Key 实调真实 DeepSeek 均 200,含此前 404 的 /deepseek/v1/chat/completions(去重修复生效)。
- 用量统计按账号/按模型正确累加;账号态自查可用。
文档:§15 对外端口由 :18098 更正为宿主 :88;§16 新增条目;CLAUDE.md 补 base_url 端口约定。
回归:网关 78 + LLM 77 = 155 条全绿(新增 2 条端口自适应断言)。
|
2026-09-12 10:43:11 +08:00 |
|
admin
|
e38237dc4a
|
feat(deploy): 新增 .11 一键更新脚本 + 上游多模型/模型发现/用量统计
功能(本轮 5 项需求的落地):
- 上游可挂多模型:llm-upstreams.json 每上游新增 models 清单(仅用于模型发现,不参与路由)
- 模型发现:GET /v1/models(OpenAI {object:list} 形状,网关本地应答)+ /api/v1/models + /api/v1/upstreams
- 用量统计:/api/admin/usage(管理台「用量统计」Tab)+ /api/v1/usage + /me 的 llm_usage 摘要
口径:只统计真正转发出去的请求,401/403/404/429 不计;与配额计数 st: 刻意分开
- 账号展示名 display_name(纯展示,不进 ukey:)
- 修复 /v1 版本段重复拼接(llm::join_target)→ 上游 base 自带 /v1 时不再 404 空体
- 修复删账号未清用量键(stats::forget)
部署脚本 deploy/update-ipass.sh:
- 拉镜像 → tar 备份数据 → 删旧容器 → 按旧容器复刻端口/挂载/网络起新容器 → 自检
- 参数从 docker inspect 静态配置读取(docker port 对停止态容器返回空,会让端口静默回落)
- 端口按 host:container 去重(inspect 同一映射含 IPv4/IPv6 两项,重复 -p 会 address already in use)
- --bg 用 setsid/start_new_session 真正脱离会话(仅 nohup & 会被父进程组连带杀掉)
- 旧镜像自动打 rollback-<时间> 标签,收尾打印回滚命令
回归:bash tests/run.sh all → 网关 78 + LLM 75 = 153 条断言全绿。
文档:readme §12.4 / §15 / §16、CLAUDE.md 常用操作 + 排障速查已同步。
|
2026-09-12 10:09:56 +08:00 |
|
admin
|
5c307ba1aa
|
iPass 山海关:Rust 动态模块版全量入库
- vanilla nginx + Rust 动态模块(取代 OpenResty+Lua),共享内存为运行期真源
- 三域名分流 18098 ssl:mdm 管理台 / lm LLM 代理 / *.dm 企业转发,共用 *.mayishangshu.cn 通配符证书(证书不入库)
- LLM 统一出口:同 Key 鉴权、上游 Key 替换、白名单、限流配额、SSE
- 回归夹具 tests/(网关 55 + LLM 34 = 89 断言,夹具 cp 覆盖重置)
- 文档:readme(16 章)+ CLAUDE.md + conf/tls/README(acme.sh 证书管理、hairpin 环回链路)
|
2026-09-11 15:37:09 +08:00 |
|