Commit Graph
3 Commits
Author SHA1 Message Date
admin 1b0bde9f72 feat(llm): 上游健康自动标记 + 管理台连通性测试 + 可复制 API 地址
- 健康标记(log 阶段):真实转发的上游状态码写入 uh:<slot>(4xx=活着,
  5xx/502/504=失效,下次成功自动自愈),数据来源就是真实流量本身,
  无需常驻探测进程。状态码读 $upstream_status 变量(r->upstream 在
  上游 finalize 时已置空,log 阶段读不到——access log 同款手法)。
- 管理台「测试」按钮:POST /api/admin/upstreams/test?slot=X,校验后
  ngx_http_internal_redirect 到管理 server 内部 location /_upstream_test,
  复用 LLM 链路的取 slot / 拼路径 / 换真 Key 逻辑,上游原话透传给面板。
  ⚠️ 内部重定向只浅拷贝 ngx_str_t,URI 必须拷进请求池——否则函数返回
  即悬垂,log 阶段 r->uri 全是 NUL,健康标记静默失效(实测踩坑)。
- 上游列表每行 slot 旁 OpenAI / Anthropic 两枚点击复制地址按钮,
  模型发现(/v1/models 与 /api/v1/models、/api/v1/upstreams)附
  anthropic_base_url 与健康状态;anthropic_base_url 统一收口
  upstreams::anthropic_base_url(),base 已钉 /anthropic 时不重复追加。
- 统计卡片挪进独立「数据总览」tab 并设为默认页。
- 回归 +12 条(第 12 节健康标记断言),LLM 111 + 网关 78,失败 0。
- 测试卫生:run.sh 启动靶机前 pkill 残留进程(占 18999 会造成假 200)。
2026-09-12 14:42:32 +08:00
admin 9ebee9c96d fix(llm): 出站请求头默认不放行(allowlist),堵住网关 Key 经 x-api-key 泄漏
行业做法(LiteLLM / one-api / Higress 完全一致):**不由客户端决定**上游该收到哪些头,
而是网关按「上游需要什么」重新构造。nginx 侧对应 proxy_pass_request_headers off。

改造前实测(本机靶机 + .11 生产双确认):本块只覆写了 Authorization,客户端放在
x-api-key 里的**网关自己的 Key** 会被原样送给上游厂商,厂商可拿它反调本网关挂的
**全部**上游(横向越权)。MiniMax 两处都认,把这个缺陷掩盖成了 200。

改动:
- conf/nginx.conf 与两个测试模板:off + 凭据头显式抹空(x-api-key / api-key /
  x-goog-api-key,两层叠加,将来谁改回 on 仍兜底)+ 显式放行
  Content-Type / Accept / anthropic-version / anthropic-beta / openai-beta / User-Agent
- tests/llm/e2e.sh:+12 条断言。凭据头不泄漏、必需头存活(漏 Content-Type 会让所有
  POST 直接废)、以及 host 粒度 base 下一条记录吃 OpenAI + Anthropic 两种路径
- 反证:把模板还原成改造前状态(无 off、无抹空)重跑,3 条凭据断言如实变红(86/3),
  证明这组断言不是空转

回归:LLM 89 + 网关 78,失败 0。调研与实测证据见 docs/llm/UPSTREAM_PROTOCOL_AND_AUTH.md
2026-09-12 12:39:03 +08:00
admin 5c307ba1aa iPass 山海关:Rust 动态模块版全量入库
- vanilla nginx + Rust 动态模块(取代 OpenResty+Lua),共享内存为运行期真源
- 三域名分流 18098 ssl:mdm 管理台 / lm LLM 代理 / *.dm 企业转发,共用 *.mayishangshu.cn 通配符证书(证书不入库)
- LLM 统一出口:同 Key 鉴权、上游 Key 替换、白名单、限流配额、SSE
- 回归夹具 tests/(网关 55 + LLM 34 = 89 断言,夹具 cp 覆盖重置)
- 文档:readme(16 章)+ CLAUDE.md + conf/tls/README(acme.sh 证书管理、hairpin 环回链路)
2026-09-11 15:37:09 +08:00