Files
ssw__ipass/conf/nginx.conf
T
admin 5c307ba1aa iPass 山海关:Rust 动态模块版全量入库
- vanilla nginx + Rust 动态模块(取代 OpenResty+Lua),共享内存为运行期真源
- 三域名分流 18098 ssl:mdm 管理台 / lm LLM 代理 / *.dm 企业转发,共用 *.mayishangshu.cn 通配符证书(证书不入库)
- LLM 统一出口:同 Key 鉴权、上游 Key 替换、白名单、限流配额、SSE
- 回归夹具 tests/(网关 55 + LLM 34 = 89 断言,夹具 cp 覆盖重置)
- 文档:readme(16 章)+ CLAUDE.md + conf/tls/README(acme.sh 证书管理、hairpin 环回链路)
2026-09-11 15:37:09 +08:00

255 lines
11 KiB
Nginx Configuration File
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# ============================================================================
# iPass 山海关(ipass-gateway)—— vanilla nginx + Rust 动态模块
#
# 与旧 OpenResty 版的差异:
# * 不再需要 lua_package_path / lua_shared_dict / init_worker_by_lua
# * 共享内存由 ipass_state 指令创建,模块内部管理
# * 管理 API 由 ipass_api 指令开启(content 阶段)
# * 转发热路径由 ipass_proxy 指令开启(access 阶段)
#
# 阶段处理器是 http 级的,所以**必须**靠上面两个开关按 location 收敛,
# 否则管理台自己也会被转发逻辑 404 掉。
# ============================================================================
load_module /usr/local/nginx/modules/libipass_gateway.so;
worker_processes auto; # 单 worker 曾是全局瓶颈;实测 4 worker 热路径吞吐 +98%
error_log /usr/local/nginx/logs/error.log info;
pid /usr/local/nginx/logs/nginx.pid;
# 供模块读取初始管理员口令(不声明则会被 nginx 从环境中剥离)
env ADMIN_INIT_PASSWORD;
events {
worker_connections 2048;
}
http {
include mime.types;
default_type application/json; # 业务侧默认返回 JSON,HTML 在对应 location 单独覆盖
# ========== WebSocket 升级变量 ==========
# 转发 location 里的 `proxy_set_header Connection $connection_upgrade` 依赖此变量;
# 缺它 nginx -t 直接报 unknown "connection_upgrade" variable,服务起不来。
map $http_upgrade $connection_upgrade {
default upgrade;
'' close;
}
# ========== 日志 ==========
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for" '
'"$upstream_addr" "$upstream_status" "$upstream_response_time" '
'subdomain=$subdomain backend=$proxy_backend_addr';
access_log /usr/local/nginx/logs/access.log main;
sendfile on;
keepalive_timeout 65;
# 内网后端常用 hostname,需要 resolver;纯 IP:port 后端不依赖它
resolver 223.5.5.5 119.29.29.29 valid=30s;
# ========== 可选 TLS(HTTPS)==========
# conf/tls/ 下放任意 *.conf(完整的 443 server 块)即启用对应域名的 HTTPS;
# 目录为空或不存在时 include 空匹配,不影响启动。
# 模板见 conf/tls/llm.conf.example,说明见 conf/tls/README.md
include /usr/local/nginx/conf/tls/*.conf;
# ========== 共享内存(替代旧版的 lua_shared_dict 三件套)==========
# 一张表同时承载:转发映射 / 管理会话 / 登录失败计数。
# 容量实测约 124 B/条,10m 足够放约 8 万条。
ipass_state state 10m;
ipass_data_dir /usr/local/nginx/data;
# ==================================================================
# 转发 server:承载全部 *.yourdomain.com 业务流量
# ==================================================================
server {
listen 80;
server_name ~^(?<subdomain>.+)\.yourdomain\.com$;
client_max_body_size 100m; # 网关直通大文件,避免默认 1MB 限制误伤上传
location / {
# 开启后由模块在 access 阶段查共享内存;查不到直接 404
ipass_proxy on;
proxy_pass http://$proxy_backend_addr;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection $connection_upgrade;
proxy_connect_timeout 5s;
proxy_send_timeout 300s; # 长轮询 / SSE / 大文件回源
proxy_read_timeout 300s;
}
error_page 404 502 503 504 = /proxy_error;
location = /proxy_error {
return 404 '{"code":404,"msg":"子域名未配置、已过期或后端服务不可达"}';
}
}
# ==================================================================
# LLM 代理 server:客户端把 base_url 指向 https://lm.mayishangshu.cn/<slot>
#
# 鉴权用**与域名接口同一套** API Key(users.json 里的 sk_...),
# 由模块在 access 阶段换成上游真实密钥后转发。
# 上游由 URL 第一段决定(/openai/v1/... → slot=openai),**不是**按
# 请求体里的 model 字段——access 阶段拿不到请求体(见 CLAUDE.md)。
# 与管理/企业 server 同端口 18098,共用通配符 *.mayishangshu.cn 证书。
# ==================================================================
server {
listen 18098 ssl;
server_name lm.mayishangshu.cn;
ssl_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/fullchain.cer;
ssl_certificate_key /usr/local/nginx/conf/tls/*.shangshuwang.cn/*.shangshuwang.cn.key;
ssl_trusted_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/ca.cer;
ssl_protocols TLSv1.2 TLSv1.3;
# 多模态请求会内联 base64 图片,几 MB 是常态
client_max_body_size 100m;
location / {
# access 阶段:查 ukey: 鉴权 → 查 up: 校验上游 → 校验白名单
ipass_llm on;
# 变量形式的上游。$llm_target 由模块算出,已含 path 与 query
# (变量形式不会自动追加原始 args,所以 query 必须由模块拼好)
proxy_pass $llm_target;
proxy_http_version 1.1;
# 变量形式的 proxy_pass 不会推导 Host,必须显式设;
# 上游多为 Cloudflare 前端,Host 不符会被直接拒
proxy_set_header Host $llm_host;
# 换上上游真实密钥。下游那把 sk_ 到此为止,不往上游传
proxy_set_header Authorization $llm_auth;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
# 置空才能与上游复用长连接(这是 API 调用,不是 WebSocket)
proxy_set_header Connection "";
# —— SSE 三件套:缺一条,流式就会退化成「攒完一次性返回」——
proxy_buffering off;
proxy_request_buffering off;
proxy_cache off;
chunked_transfer_encoding on;
# 上游是 HTTPS 时必须开 SNI,否则握手到的证书对不上
proxy_ssl_server_name on;
proxy_connect_timeout 10s;
proxy_send_timeout 600s; # 推理可能很慢,且流式期间连接一直挂着
proxy_read_timeout 600s;
}
# 只改写「连不上上游」这类由 nginx 自己产生的错误。
# 404 等一律透传上游响应——那可能是模型名不存在的正常业务错误,
# 覆盖掉反而让客户端拿不到有用信息。
error_page 502 503 504 = /llm_error;
location = /llm_error {
default_type application/json;
# 错误体必须是 OpenAI 兼容形状,否则客户端 SDK 会报「无法解析响应」
return 502 '{"error":{"message":"上游不可达","type":"api_error","code":"upstream_unavailable"}}';
}
}
# ==================================================================
# 管理 server:管理页面(mdm.mayishangshu.cn)+ 全部 API
# 与管理域名分离:企业流量走 *.dm、LLM 走 lm,三者同端口 18098,
# 共用通配符 *.mayishangshu.cn 证书(目录带字面 * 是存储介质原名)。
# ==================================================================
server {
listen 18098 ssl;
server_name mdm.mayishangshu.cn;
ssl_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/fullchain.cer;
ssl_certificate_key /usr/local/nginx/conf/tls/*.shangshuwang.cn/*.shangshuwang.cn.key;
ssl_trusted_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/ca.cer;
ssl_protocols TLSv1.2 TLSv1.3;
client_max_body_size 2m;
# API 请求体都是几百字节的小 JSON;调大缓冲区让它始终留在内存里,
# 避免被刷到临时文件(模块当前只从内存 buf 读体)
client_body_buffer_size 1m;
location = / {
return 302 /admin;
}
# 管理台单页(静态文件,数据全部通过 /api/ 拉取)
location = /admin {
default_type text/html;
alias /usr/local/nginx/www/admin.html;
}
location = /admin/ {
default_type text/html;
alias /usr/local/nginx/www/admin.html;
}
# 账号态 API(X-API-Key)+ 管理员态 API(登录会话),统一由模块路由
location /api/ {
ipass_api on;
}
}
# ==================================================================
# 企业域名 server:承载 *.dm.mayishangshu.cn(标签以 dm 结尾,如
# a2777888dm.mayishangshu.cn)。证书为通配符 *.mayishangshu.cn,
# 目录带字面 * 是存储介质原名。监听 18098(路由器 18098 → 本机 18098),
# 与转发 server 同构,复用 ipass_proxy。
# ==================================================================
server {
listen 18098 ssl;
server_name ~^(?<subdomain>.+dm)\.mayishangshu\.cn$;
ssl_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/fullchain.cer;
ssl_certificate_key /usr/local/nginx/conf/tls/*.shangshuwang.cn/*.shangshuwang.cn.key;
ssl_trusted_certificate /usr/local/nginx/conf/tls/*.shangshuwang.cn/ca.cer;
ssl_protocols TLSv1.2 TLSv1.3;
client_max_body_size 100m;
location / {
# 开启后由模块在 access 阶段查共享内存;查不到直接 404
ipass_proxy on;
proxy_pass http://$proxy_backend_addr;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection $connection_upgrade;
proxy_connect_timeout 5s;
proxy_send_timeout 300s; # 长轮询 / SSE / 大文件回源
proxy_read_timeout 300s;
}
error_page 404 502 503 504 = /proxy_error;
location = /proxy_error {
return 404 '{"code":404,"msg":"子域名未配置、已过期或后端服务不可达"}';
}
}
# ==================================================================
# 默认 server:不在 *.yourdomain.com 下的请求一律拒绝
# ==================================================================
server {
listen 80 default_server;
server_name _;
return 403 '{"code":403,"msg":"无效的域名"}';
}
}