feat(deploy): 新增 .11 一键更新脚本 + 上游多模型/模型发现/用量统计
功能(本轮 5 项需求的落地):
- 上游可挂多模型:llm-upstreams.json 每上游新增 models 清单(仅用于模型发现,不参与路由)
- 模型发现:GET /v1/models(OpenAI {object:list} 形状,网关本地应答)+ /api/v1/models + /api/v1/upstreams
- 用量统计:/api/admin/usage(管理台「用量统计」Tab)+ /api/v1/usage + /me 的 llm_usage 摘要
口径:只统计真正转发出去的请求,401/403/404/429 不计;与配额计数 st: 刻意分开
- 账号展示名 display_name(纯展示,不进 ukey:)
- 修复 /v1 版本段重复拼接(llm::join_target)→ 上游 base 自带 /v1 时不再 404 空体
- 修复删账号未清用量键(stats::forget)
部署脚本 deploy/update-ipass.sh:
- 拉镜像 → tar 备份数据 → 删旧容器 → 按旧容器复刻端口/挂载/网络起新容器 → 自检
- 参数从 docker inspect 静态配置读取(docker port 对停止态容器返回空,会让端口静默回落)
- 端口按 host:container 去重(inspect 同一映射含 IPv4/IPv6 两项,重复 -p 会 address already in use)
- --bg 用 setsid/start_new_session 真正脱离会话(仅 nohup & 会被父进程组连带杀掉)
- 旧镜像自动打 rollback-<时间> 标签,收尾打印回滚命令
回归:bash tests/run.sh all → 网关 78 + LLM 75 = 153 条断言全绿。
文档:readme §12.4 / §15 / §16、CLAUDE.md 常用操作 + 排障速查已同步。
This commit is contained in:
1 parent
94a48bef6e
commit
e38237dc4a
22 files changed
+1719
-93
No files matched your search
@@ -16,6 +16,12 @@ pub type UserTable = BTreeMap<String, User>;
|
||||
#[derive(Debug, Clone, Serialize, Deserialize)]
|
||||
pub struct User {
|
||||
pub username: String,
|
||||
/// 中文姓名等展示名。**只用于展示**,不参与鉴权、不参与热路径查询。
|
||||
///
|
||||
/// `username` 规则是 ASCII(`valid_username`),中文名塞不进账号名,
|
||||
/// 所以「吴桂荣」这类实名单独放这里;留空时前端回落到 `username`。
|
||||
#[serde(default)]
|
||||
pub display_name: String,
|
||||
/// `admin` | `user`
|
||||
pub role: String,
|
||||
pub salt: String,
|
||||
@@ -67,6 +73,14 @@ pub type UpstreamTable = BTreeMap<String, Upstream>;
|
||||
pub struct Upstream {
|
||||
/// 上游基址,含 scheme,如 `https://api.openai.com`(可带端口)
|
||||
pub base: String,
|
||||
/// 该上游**挂载的模型名清单**(如 `deepseek-chat` / `deepseek-reasoner`)。
|
||||
///
|
||||
/// 一个上游(一家厂商)通常挂多个模型,客户端要能先"列出有什么"再选。
|
||||
/// 这里只是网关侧的**清单**,用于 `GET /v1/models` 之类的模型发现;
|
||||
/// 转发本身仍按 URL 里的 slot 走,**不校验 model 字段**(access 阶段读不到 body)。
|
||||
/// 留空表示"清单未知"——模型发现接口就不列该上游的模型,但转发照常可用。
|
||||
#[serde(default)]
|
||||
pub models: Vec<String>,
|
||||
/// 完整的 Authorization 头值,如 `Bearer sk-xxx`。
|
||||
/// 留空表示不透传鉴权头(本地免鉴权后端,如 vLLM / Ollama)
|
||||
#[serde(default)]
|
||||
|
||||
Reference in new issue
Block a user