功能(本轮 5 项需求的落地):
- 上游可挂多模型:llm-upstreams.json 每上游新增 models 清单(仅用于模型发现,不参与路由)
- 模型发现:GET /v1/models(OpenAI {object:list} 形状,网关本地应答)+ /api/v1/models + /api/v1/upstreams
- 用量统计:/api/admin/usage(管理台「用量统计」Tab)+ /api/v1/usage + /me 的 llm_usage 摘要
口径:只统计真正转发出去的请求,401/403/404/429 不计;与配额计数 st: 刻意分开
- 账号展示名 display_name(纯展示,不进 ukey:)
- 修复 /v1 版本段重复拼接(llm::join_target)→ 上游 base 自带 /v1 时不再 404 空体
- 修复删账号未清用量键(stats::forget)
部署脚本 deploy/update-ipass.sh:
- 拉镜像 → tar 备份数据 → 删旧容器 → 按旧容器复刻端口/挂载/网络起新容器 → 自检
- 参数从 docker inspect 静态配置读取(docker port 对停止态容器返回空,会让端口静默回落)
- 端口按 host:container 去重(inspect 同一映射含 IPv4/IPv6 两项,重复 -p 会 address already in use)
- --bg 用 setsid/start_new_session 真正脱离会话(仅 nohup & 会被父进程组连带杀掉)
- 旧镜像自动打 rollback-<时间> 标签,收尾打印回滚命令
回归:bash tests/run.sh all → 网关 78 + LLM 75 = 153 条断言全绿。
文档:readme §12.4 / §15 / §16、CLAUDE.md 常用操作 + 排障速查已同步。
164 lines
5.8 KiB
Rust
164 lines
5.8 KiB
Rust
//! 持久化数据模型。
|
||
//!
|
||
//! 字段名与旧版 `data/users.json` / `data/domains.json` **逐字对应**,
|
||
//! 以便新版直接接管旧数据文件、且管理台前端无需改动。
|
||
|
||
use serde::{Deserialize, Serialize};
|
||
use std::collections::BTreeMap;
|
||
|
||
/// 账号表(`users.json`):以账号名为 key 的对象。
|
||
pub type UserTable = BTreeMap<String, User>;
|
||
|
||
/// 单个账号。
|
||
///
|
||
/// `temp_grant_until` 是「临时授权权限」的到期时间戳;> now 表示当前拥有
|
||
/// 该权限,申请临时域名时可跳过审核直接放行。
|
||
#[derive(Debug, Clone, Serialize, Deserialize)]
|
||
pub struct User {
|
||
pub username: String,
|
||
/// 中文姓名等展示名。**只用于展示**,不参与鉴权、不参与热路径查询。
|
||
///
|
||
/// `username` 规则是 ASCII(`valid_username`),中文名塞不进账号名,
|
||
/// 所以「吴桂荣」这类实名单独放这里;留空时前端回落到 `username`。
|
||
#[serde(default)]
|
||
pub display_name: String,
|
||
/// `admin` | `user`
|
||
pub role: String,
|
||
pub salt: String,
|
||
/// 迭代加盐 SHA-256
|
||
pub pwd_hash: String,
|
||
/// `sk_<48 位 hex>`。
|
||
///
|
||
/// LLM 代理与域名接口**共用这一把 Key**——这正是「用同一套 Key 验证」
|
||
/// 的落点,所以重置 Key 会同时影响两个入口。
|
||
pub api_key: String,
|
||
/// LLM 代理可用的上游 slot 白名单。空 = 不限。
|
||
///
|
||
/// 老数据没有该字段,`serde(default)` 反序列化得空表,语义正好是「不限」。
|
||
#[serde(default)]
|
||
pub allowed_models: Vec<String>,
|
||
/// LLM 每分钟请求上限。老数据缺省 → 全局默认(`LLM_RPM_DEFAULT`);0 = 不限
|
||
#[serde(default = "default_llm_rpm")]
|
||
pub llm_rpm: i64,
|
||
/// LLM 每日请求上限。老数据缺省 → 全局默认(`LLM_DAILY_DEFAULT`);0 = 不限
|
||
#[serde(default = "default_llm_daily")]
|
||
pub llm_daily: i64,
|
||
#[serde(default)]
|
||
pub temp_grant_until: i64,
|
||
#[serde(default)]
|
||
pub created_at: i64,
|
||
}
|
||
|
||
impl User {
|
||
/// 是否拥有「临时授权权限」
|
||
pub fn has_temp_permission(&self, now: i64) -> bool {
|
||
self.temp_grant_until > now
|
||
}
|
||
|
||
pub fn is_admin(&self) -> bool {
|
||
self.role == "admin"
|
||
}
|
||
}
|
||
|
||
/// 上游表(`llm-upstreams.json`):以 slot 名为 key。
|
||
///
|
||
/// `slot` 就是 LLM 客户端 URL 的第一段路径:`/openai/v1/chat/completions`
|
||
/// 里的 `openai`。**刻意不按 body 里的 `model` 字段路由**——请求体要到
|
||
/// content 阶段才读得到,而 access 阶段(转发决策点)读不到,
|
||
/// 按 model 分流就得放弃 `proxy_pass` 自己实现 upstream,代价差一个数量级。
|
||
pub type UpstreamTable = BTreeMap<String, Upstream>;
|
||
|
||
/// 单个 LLM 上游。
|
||
#[derive(Debug, Clone, Serialize, Deserialize)]
|
||
pub struct Upstream {
|
||
/// 上游基址,含 scheme,如 `https://api.openai.com`(可带端口)
|
||
pub base: String,
|
||
/// 该上游**挂载的模型名清单**(如 `deepseek-chat` / `deepseek-reasoner`)。
|
||
///
|
||
/// 一个上游(一家厂商)通常挂多个模型,客户端要能先"列出有什么"再选。
|
||
/// 这里只是网关侧的**清单**,用于 `GET /v1/models` 之类的模型发现;
|
||
/// 转发本身仍按 URL 里的 slot 走,**不校验 model 字段**(access 阶段读不到 body)。
|
||
/// 留空表示"清单未知"——模型发现接口就不列该上游的模型,但转发照常可用。
|
||
#[serde(default)]
|
||
pub models: Vec<String>,
|
||
/// 完整的 Authorization 头值,如 `Bearer sk-xxx`。
|
||
/// 留空表示不透传鉴权头(本地免鉴权后端,如 vLLM / Ollama)
|
||
#[serde(default)]
|
||
pub auth: String,
|
||
/// 关闭后该 slot 立即停止转发(保留配置便于恢复)
|
||
#[serde(default = "default_true")]
|
||
pub enabled: bool,
|
||
#[serde(default)]
|
||
pub note: String,
|
||
#[serde(default)]
|
||
pub created_at: i64,
|
||
}
|
||
|
||
fn default_true() -> bool {
|
||
true
|
||
}
|
||
|
||
fn default_llm_rpm() -> i64 {
|
||
crate::config::LLM_RPM_DEFAULT
|
||
}
|
||
|
||
fn default_llm_daily() -> i64 {
|
||
crate::config::LLM_DAILY_DEFAULT
|
||
}
|
||
|
||
/// 域名表(`domains.json`):一条记录 = 一个子域名。
|
||
#[derive(Debug, Clone, Serialize, Deserialize)]
|
||
pub struct DomainEntry {
|
||
pub id: String,
|
||
pub subdomain: String,
|
||
/// `host:port`
|
||
pub backend: String,
|
||
/// `temp`(临时,到时自动停止转发) | `long`(长期)
|
||
#[serde(rename = "type")]
|
||
pub dtype: String,
|
||
/// 归属账号
|
||
pub owner: String,
|
||
/// `pending` | `approved` | `rejected`
|
||
pub status: String,
|
||
#[serde(default)]
|
||
pub created_at: i64,
|
||
/// 仅 temp 有意义;long 恒为 0
|
||
#[serde(default)]
|
||
pub expires_at: i64,
|
||
/// `auto` 表示凭临时授权权限免审放行
|
||
#[serde(default)]
|
||
pub reviewed_by: String,
|
||
#[serde(default)]
|
||
pub reviewed_at: i64,
|
||
}
|
||
|
||
impl DomainEntry {
|
||
/// 实际状态:approved 的临时域名过期后视为 `expired`。
|
||
///
|
||
/// 这是「到期不等于删除」语义的落点——记录保留,只是不再转发。
|
||
pub fn effective_status(&self, now: i64) -> &'static str {
|
||
if self.status == "approved" && self.dtype == "temp" {
|
||
if self.expires_at > 0 && self.expires_at <= now {
|
||
return "expired";
|
||
}
|
||
}
|
||
match self.status.as_str() {
|
||
"approved" => "approved",
|
||
"rejected" => "rejected",
|
||
_ => "pending",
|
||
}
|
||
}
|
||
|
||
/// 转发侧判定:返回该域名当前是否可转发(已放行且未过期)
|
||
pub fn is_forwardable(&self, now: i64) -> bool {
|
||
if self.status != "approved" {
|
||
return false;
|
||
}
|
||
if self.dtype == "temp" {
|
||
// 临时域名必须有明确的、尚未到达的到期时刻
|
||
return self.expires_at > now;
|
||
}
|
||
true
|
||
}
|
||
}
|