admin
|
bfa3cf8ff8
|
feat(llm): 上游多账号路由 + 账号级负载统计 (1.0.14)
一个 slot 挂多把上游账号 Key,解决厂商「单账号额度/并发受限」与
「同一用户缓存命中」两个矛盾诉求。
多账号路由 (plugin-llm)
- models: Upstream.accounts[] (auth/note/resets) + 上游级
exhaust_status/exhaust_markers;顶层 auth 保留兼容(accounts 为空时合成单账号)
- upstreams::pick_account:粘性绑定 ukb:<key> 优先 → 无绑定时
FNV-1a(下游 Key) % 可用数 冷分散 → 绑定账号冷却则重新分散 → 全冷却取最早恢复
* 分散避开厂商单账号 agent 并发上限;落点固定保住 prompt/token 缓存
- cool_until_until 天锚定冷却:boundary = day0 + ceil(已过/窗口)*窗口,
封顶次日 0 点(MiniMax 5h 窗口、24=5*4+4 → 末段 20:00-24:00 只有 4h 随天重置)
- 耗尽双检测 (log 阶段):$upstream_status 命中 exhaust_status,或
usage_filter 流式扫到 marker → $llm_acct 定位本次账号 → 写冷却 uac:
- shm: up:/upa:/uac:/ukb:/upe: 五类前缀;$llm_acct 变量 (NOCACHEABLE)
账号级负载统计(问题发现与跟踪)
- 新增 uda:<slot>:<idx>:<day>(请求/token)与 uex:(耗尽次数) 日桶,
复用内核 usage::bump_day —— 无数据库、无新进程(项目红线)
- 计数点只在 log 阶段一次;pick_account 会被 $llm_target/$llm_auth/$llm_acct
三个变量各触发一次,放进那里会三倍计数
- view() 投影带每账号 load 与 account_trend + trend_labels(日期由后端算)
- 管理台「上游」页密钥列:各 Key 今日请求/token/耗尽 + 负载比例条 +
14 天迷你趋势(自绘 SVG,零第三方依赖)+ 冷却/耗尽徽标 + 上游合计
测试与验证
- 回归 279 条全绿(网关 102 + LLM 177),新增 6 条多账号/负载断言
- 假上游新增 UPSTREAM_FAIL_AUTH 模拟账号额度耗尽;靶机验证 Key 真被替换
- 前端以真实 admin.css + upstreams.js 渲染路径做无头浏览器断言:
比例条与负载成比例(412 vs 96 → 100%/23%)、每账号 14 条块、
悬停峰值日期与数据逐位吻合、单账号/无账号兜底正常、无横向溢出、零 JS 错误
文档
- 新增 docs/llm/MULTI_ACCOUNT_ROUTING.md(数据模型/路由/冷却数学/shm 布局/负载统计)
- readme §11 数据模型 + §15 上游配置 + §15 用量统计 + §12.6 tag 表 + §16 变更记录
- 修正 docs/llm/*.md 中插件化前的过时路径(rust/src/* → crates/plugin-llm/src/*)
|
2026-09-14 11:57:08 +08:00 |
|
admin
|
db99ce1521
|
docs: 文档与注释系统性对齐插件化现状 + 清理前身实现引用
- readme §16 补 1.0.10-1.0.13 四条变更记录;§12.6 tag 表补 1.0.9-1.0.13
- readme §5 架构图更新为插件化结构(PLUGINS 注册表/四开关/四表)
- readme §11 补 api-proxies.json 数据模型小节;§8 管理台表格补 API 代理行
- readme/CLAUDE.md 测试断言数对齐 262(102+160);三个 JSON 改四个
- CLAUDE.md LLM 落点表改 crates/plugin-llm 路径;发版补 git push 前置教训
- 清理全部前身实现引用(readme 三处、CLAUDE.md 性能章节、util.rs 注释)
- PLUGIN_ARCHITECTURE.md 增补 1.0.13 sso 合流记录
|
2026-09-13 18:27:28 +08:00 |
|
admin
|
ddd4172517
|
docs(plugin): P5 收尾 —— 方案转正 PLUGIN_ARCHITECTURE.md + 文档对齐 workspace
- docs/plugin/PLUGINIZATION_PLAN.md 转正为 PLUGIN_ARCHITECTURE.md(as-built):
记录三处方案修正(sso 不迁入已拍板、CoreExt 注册表、trend 留 gateway、
apix 记账走 plugin_llm::stats 单一写入口)
- CLAUDE.md:目录地图改 workspace 结构 + 三条插件化新纪律 + 单 crate 迭代命令
- readme.md:§6 目录结构对齐(crate 划分 / apix 页 / 262 项回归)
- 新增用户级技能 ipass-core-add-plugin(5 处装配缺一不可 + 症状→根因表)
|
2026-09-13 12:22:15 +08:00 |
|
 adminand小K
|
1fb83e4dda
|
feat(admin/apix): 编辑改弹出卡片 + API 代理去「市场」概念 + 修示例地址拼接
1. LLM 上游 / API 代理的「新建 / 编辑」改为弹出卡片(IP.modal),
列表页只留复制地址 / 测试 / 编辑 / 启停 / 删除,体验更轻。
2. API 代理彻底去「API 市场 / 平台级凭据」概念:souyi 仅作供应商之一,
每条代理自带 base / 供应商 Key / asset_id(后端 platform 概念已移除),
源码与文档均不再出现 souyi / AIMALL 品牌与目录直拉。
3. 修 apix.js 示例地址拼接 bug:之前末尾出现 `?q=?q=`,
现 url 只拼一次 `?q=`、示例给出 `?q=关键词`(base 由后端返回纯基址)。
Co-Authored-By: 小K <[email protected]>
|
2026-09-13 10:19:33 +08:00 |
|
admin
|
1f548ac953
|
feat(api-proxy): 新增「API 代理」板块,把外部免费 API 市场挂到网关下
后端(rust/src/apix.rs,新模块)
- /apix/<slug>?<参数> → 市场 POST /api/v1/ai/request;复用 LLM 的 sk_ 鉴权 +
配额 + 用量统计(slot 带 api/ 前缀,天然归组)
- 请求体由网关从 query 拼:asset_id 服务端决定(调用方只能选参数),堵住
「客户端自选最贵资产」的口子;GET 经 proxy_method POST + proxy_set_body 转带体
- data/api-proxies.json(含平台真 Key,等同 users.json 敏感度):base+key+items
shm 写穿 ax:,停用=摘键;平台 Key 不回显(只给掩码)
- 6 个 nginx 变量 + /_apix_probe/<slug>(internal)免费预估探测,复用 $apix_probe_*
前端(www/apix.html + assets/apix.js)
- 市场凭据配置 / 目录直拉(GET /api/v1/assets,跨域已开)/ 代理增删启停 /
复制地址 / 免费预估测试(带回平台余额)
验证
- 回归 261 条全绿(网关 102 + LLM 159,新增 34 条 apix 断言)
- 涵盖:无/坏 Key→401、不存在/停用 slug→404、GET 改写 POST、换平台 Key、
体由网关拼、下行 Key 不泄漏、写穿 shm、探测归 api/<slug>
文档
- readme §15.1 API 代理使用 + 变更日志;CLAUDE.md location 表补 ipass_apix
|
2026-09-13 02:46:35 +08:00 |
|
admin
|
c426789734
|
feat(admin): 用量图表(趋势/token/按人/按 API 组)+ 管理台单页拆分多页
后端
- 新增日桶 ud:/udu:/uds:(键名带日窗 id,TTL 90 天),record 记请求、
add_tokens 记 token,两者写同一批键、字段互补;forget 同步清 udu:
- 新增 GET /api/admin/trend?days=N(默认 14、上限 90),返回图表可直接吃的
{labels,total,users,slots},每条含 requests/in/out 三条等长数组
- util::fmt_day 供 x 轴用(%m-%d)
前端(原 www/admin.html 1100+ 行单文件)
- 拆为 login.html + overview/review/domains/users/upstreams/usage.html
- 抽出 assets/:admin.css + core.js(请求/登录守卫/外壳)+ chart.js(自绘 SVG)
- 每页 <base href="/admin/">;nginx 侧 /admin 仍进总览,/admin/ alias 到 www/
- 图表零第三方依赖(CDN 会让内网部署白屏,本地副本要塞几百 KB 进镜像)
验收
- 回归 227 条全绿(网关 102 + LLM 125)
- agent.sh verify 新增「趋势接口返回 7 天序列」作为镜像换新证据
|
2026-09-13 00:42:13 +08:00 |
|
admin
|
658356b20a
|
feat(deploy): 控制面收敛到 deploy/agent.sh,凭据不再出现在命令行
安全策略里有一条:**可疑的 bash 命令即使已加进 permissions.allow 白名单,
仍需人工批准**(内置文档 cli/security.md「命令注入检测」)。含
`Authorization: Bearer …` / `. ./.env` / 从环境取口令的命令正好命中,表现是
每次弹「凭证授权」;被拒时命令静默无输出,看着像服务故障——本轮实测一次
`/update` 就是这样根本没发出去(/jobs 里没有新任务、镜像还是旧的)。
所以把控制面全部封进 deploy/agent.sh:凭据只从仓库根 .env 读,对外暴露的
全是无凭据子命令,只需放行 `Bash(bash deploy/agent.sh:*)`。
- status / containers / logs / data / jobs / job / raw:只读查询
- update [tag] / wait <job> / rollback [tag] / restart / pull:变更与轮询
- release <tag>:构建推送 → 更新 → 验收,一条龙
- verify:**正式环境验收** —— 登录线上管理台 → 核对页面新标记
(布局 max-width:1100px、subdomain_rule、cdSubRoll)→ 读
GET /api/admin/domains 确认后端 subdomain_rule 已生效。
只看容器起来是不够的,这条才证得了「镜像真换新 + 新代码在跑」。
修一个中文项目高频坑:变量后紧跟中文标点会被并进变量名
(`$LIVE_PORT(` → 变量名 `LIVE_PORT(`)→ unbound variable;已改 ${LIVE_PORT}
并用脚本全量扫过一遍(0 处残留)。
CLAUDE.md 补「含凭据的命令不要手敲」硬约定 + 沙箱启用前必须先解决的两条
(docker 与沙箱不兼容需 excludedCommands;测试 nginx 绑 0.0.0.0 与沙箱冲突)。
readme §12.5 补 agent.sh 用法,§12.6 登记 ipass-1.0.6,§16 补本条目。
|
2026-09-12 16:27:30 +08:00 |
|
admin
|
e14d2c6512
|
feat(domains): 子域名规则固化为 i + 8 位随机数 + dm
管理台「新建域名(直接放行)」的子域名不再是自由输入,改为三段拼装:
固定 i + 8 位随机数字(带「换一个」)+ 固定 dm。
- **规则真源收敛到 config.rs**(ENTERPRISE_ZONE / SUBDOMAIN_PREFIX /
SUBDOMAIN_SUFFIX / SUBDOMAIN_RAND_DIGITS / SUBDOMAIN_GEN_ATTEMPTS),
经 GET /api/admin/domains 的 subdomain_rule 下发给面板,前端不硬编码。
- **dm 后缀是硬约束**:conf/nginx.conf 企业域名 server 的 `^(?<subdomain>.+dm)`
要求捕获组以 dm 结尾,否则域名建出来也匹配不上转发 server。已在
config.rs / CLAUDE.md / readme §4 三处互标(改一处必改另一处)。
- **API 同规则**:POST /api/admin/domains/create 的 subdomain 缺省/空串即
自动生成同形态子域名,撞车自动换号重试(最多 5 次);手填撞车直接报错。
管理台与 API 共用 domains::create_by_admin,规则不会两处漂移。
- **域名列表点完整域名即复制**,且带端口——端口跟随调用方(location.port),
用 :88 打开面板就复制成 …:88;view() 增 host 字段供面板渲染。
- util::rand_digits 用**拒绝采样**(只收 <250 的字节)保证 0-9 等概率;
随机源不可用时退化 xorshift,绝不 panic(panic=abort 会打死 worker)。
回归:网关 +13 条(→90),全量 **201 条**(网关 90 + LLM 111)失败 0;
新增段覆盖规则下发 / 形态 ^i[0-9]{8}dm$ / 空串同自动 / 两次随机不同 /
手填合规 / 重复手填 400。另用真实 Chromium 实测布局、换号、非数字过滤、复制。
顺带纠正文档里偏 1 的旧条数(78→90 / 77→111),readme §16 补本条目。
|
2026-09-12 15:43:12 +08:00 |
|
admin
|
82ca6a6302
|
docs(claude): 新增「凭据与授权」章节
- 约定凭据唯一入口为仓库根 .env(已 gitignore),开工先 source,不再向用户索要令牌/口令/域名
- 禁止把 .env 内容打印到输出;上游厂商真 Key 不复制到本地
- 记录命令免授权白名单位置 .workbuddy/settings.local.json(本机、不入库)
|
2026-09-12 15:11:17 +08:00 |
|
admin
|
d870168ca3
|
docs(CLAUDE): 硬规矩补「写共享内存失败必须出声」
|
2026-09-12 11:48:57 +08:00 |
|
admin
|
13c0c7a427
|
fix(deploy): ipass-agent 加「受管容器」锁,破坏性操作只碰 ipass 容器
问题:update / restart / rollback 的 name 参数**没有任何校验** —— 传
{"name":"invoicehelper-nginx"} 就会去重启/删除同机别的容器(.11 上还跑着
invoicehelper-nginx、d15-nginx-1 等)。
修复:
- 新增 managed_container() / ensure_managed():--name 指定者优先 → 自动探测到的
ipass 容器 → 两者都没有时退化为 ipass* 前缀白名单
- _post 同步前置校验(非法 name 直接 403、**不建任务**);op_update 内再校验一次
(op_rollback 内部也走 op_update,纵深防御)
- _dispatch 把 PermissionError 映射为 403;/containers 保留全量但标注 managed;
/ 与 /logs 统一走受管容器
- VERSION 1.0.0 → 1.0.1
本地实测(自造 victim-app + ipass-dt2 两个容器,未触碰任何真实业务容器):
- `--name ipass-dt2`:对 victim-app 发 restart/update/rollback 全部 403,且
victim-app 的 State.StartedAt 前后完全一致;对 ipass-dt2 正常重启
- 无 `--name` 且机器上没有 ipass 容器:victim-app → 403(前缀白名单);
ipass-x 通过校验后由 docker 报「No such container」
|
2026-09-12 11:02:28 +08:00 |
|
admin
|
0266a48103
|
feat(deploy): release.sh 发版脚本,固化「镜像 tag 只增不改」
- 对外 tag 用 ipass-1.0.N:每有一次改动 +1 推新 tag,绝不覆盖已推送的 tag
(覆盖会让远端 pull 内容与本地缓存 / rollback-* 标签错位 → 回滚选错镜像)
- release.sh:校验 git 工作区干净 → docker manifest inspect 拦同名 tag →
DOCKER_BUILDKIT=0 经典构建 → 推送 → 打印 .11 控制面更新命令
- readme §12.6 新增「镜像发版与 tag 约定」+ tag 对照表;§12.5 示例改用最新 tag
- CLAUDE.md 硬约定新增「发版」条 + 「发版(本机)」小节
已推送 ipass-1.0.1(digest 226321bec…,= base_url 端口跟随 Host 的修复版)
|
2026-09-12 10:55:28 +08:00 |
|
admin
|
6a5387b8ce
|
fix(llm): base_url 端口跟随调用方 Host(修正 .11 上打不通的回显地址)
问题:账号态回的 base_url 不带端口(https://lm.mayishangshu.cn/deepseek/v1),
而本网关在宿主 88 上。客户端照它拼请求会落到 443 —— 实测那是**出口 SSL 设备**,
返回 HTTP 200 + 一个 HTML 登录页:状态码正常、内容完全不对,最难察觉的一种失败。
也不能写死 :88:挂在 443 反代后面时又必须不带端口。
改法:新增 http::host_port()(从 Host 头取 ":88"/""),base_url / view / view_all
接收端口参数,调用方从当前请求取。88 部署给 :88,443 反代给无端口,两种都对。
本轮 .11 实机交付验证:
- 镜像 ipass-1.0.0(digest 046a9dd7…)更新完成:端口 88:18098、网络 ipass_default、
数据目录 /home/train11/ipass/data 全部复刻,3 账号 / 1 域名 / 1 上游无损;worker 可写。
- 给 deepseek 登记 deepseek-chat / deepseek-reasoner(保存时不提交 auth 字段 → 密钥未被动)。
- 两把 Key 实调真实 DeepSeek 均 200,含此前 404 的 /deepseek/v1/chat/completions(去重修复生效)。
- 用量统计按账号/按模型正确累加;账号态自查可用。
文档:§15 对外端口由 :18098 更正为宿主 :88;§16 新增条目;CLAUDE.md 补 base_url 端口约定。
回归:网关 78 + LLM 77 = 155 条全绿(新增 2 条端口自适应断言)。
|
2026-09-12 10:43:11 +08:00 |
|
admin
|
5e8c38aef4
|
feat(deploy): 新增 ipass-agent.py —— 跑在 .11 的远程更新控制面(HTTP)
把 update-ipass.sh 的动作暴露成 HTTP 接口,远端(AI/值班人)不必登录服务器即可
完成「拉镜像 → 重启 → 看日志 → 回滚」,形成「本机构建推送 → 远程自更新 → 自验证」闭环。
- 单文件、仅 Python 标准库(无 Flask/requests);Bearer token 鉴权,token 落
~/.ipass-agent-token(600);--bg 双 fork + setsid 真后台,另有 --stop/--check。
- 端点:/health /check /status /containers /logs /data(脱敏) /jobs[/id] /pull /update
/rollback /restart。
- 变更类接口为异步任务(返 job id,/jobs/<id>?offset=N 增量取日志);
同一时刻只允许一个变更任务,并发返回 409。
- 端口/挂载/网络/env/重启策略全部从旧容器 docker inspect 复刻;自定义 env 保留、
Docker 自带的不照抄;动手前自动备份数据 + 打 rollback-<时间> 标签。
修掉两个真实隐患:
- HTTP/1.1 下鉴权失败的请求体若不消费,残包会被当作下一个请求的请求行 → 响应串包
(已在 _dispatch 开头统一读掉 body)。
- 端口映射同一 host:container 在 inspect 中含 IPv4/IPv6 两条,不去重会重复 -p。
本机用真实流程验证:自动探测 → update 7 步全过(端口/自定义 env 复刻)→ rollback
回到旧镜像 → restart/logs/data 脱敏 → 409 并发保护 → 同连接残包测试 → --bg/--stop。
文档:readme §12.5 / §16、CLAUDE.md 新增「远程控制面」小节。
|
2026-09-12 10:20:49 +08:00 |
|
admin
|
e38237dc4a
|
feat(deploy): 新增 .11 一键更新脚本 + 上游多模型/模型发现/用量统计
功能(本轮 5 项需求的落地):
- 上游可挂多模型:llm-upstreams.json 每上游新增 models 清单(仅用于模型发现,不参与路由)
- 模型发现:GET /v1/models(OpenAI {object:list} 形状,网关本地应答)+ /api/v1/models + /api/v1/upstreams
- 用量统计:/api/admin/usage(管理台「用量统计」Tab)+ /api/v1/usage + /me 的 llm_usage 摘要
口径:只统计真正转发出去的请求,401/403/404/429 不计;与配额计数 st: 刻意分开
- 账号展示名 display_name(纯展示,不进 ukey:)
- 修复 /v1 版本段重复拼接(llm::join_target)→ 上游 base 自带 /v1 时不再 404 空体
- 修复删账号未清用量键(stats::forget)
部署脚本 deploy/update-ipass.sh:
- 拉镜像 → tar 备份数据 → 删旧容器 → 按旧容器复刻端口/挂载/网络起新容器 → 自检
- 参数从 docker inspect 静态配置读取(docker port 对停止态容器返回空,会让端口静默回落)
- 端口按 host:container 去重(inspect 同一映射含 IPv4/IPv6 两项,重复 -p 会 address already in use)
- --bg 用 setsid/start_new_session 真正脱离会话(仅 nohup & 会被父进程组连带杀掉)
- 旧镜像自动打 rollback-<时间> 标签,收尾打印回滚命令
回归:bash tests/run.sh all → 网关 78 + LLM 75 = 153 条断言全绿。
文档:readme §12.4 / §15 / §16、CLAUDE.md 常用操作 + 排障速查已同步。
|
2026-09-12 10:09:56 +08:00 |
|
admin
|
0b1d983cac
|
定位更名:尚数网 统一网关(原「公司统一动态域名解析出口」)
- readme 头部改为统一网关定位,明确两类能力:动态域名、LLM API 路由,预留未来扩展
- CLAUDE.md / compose.yml / Cargo.toml description / lib.rs 模块注释同步更名
|
2026-09-11 15:58:41 +08:00 |
|
admin
|
5c307ba1aa
|
iPass 山海关:Rust 动态模块版全量入库
- vanilla nginx + Rust 动态模块(取代 OpenResty+Lua),共享内存为运行期真源
- 三域名分流 18098 ssl:mdm 管理台 / lm LLM 代理 / *.dm 企业转发,共用 *.mayishangshu.cn 通配符证书(证书不入库)
- LLM 统一出口:同 Key 鉴权、上游 Key 替换、白名单、限流配额、SSE
- 回归夹具 tests/(网关 55 + LLM 34 = 89 断言,夹具 cp 覆盖重置)
- 文档:readme(16 章)+ CLAUDE.md + conf/tls/README(acme.sh 证书管理、hairpin 环回链路)
|
2026-09-11 15:37:09 +08:00 |
|