From ac40738c30beba61b110e036ba2b81ba86b45099 Mon Sep 17 00:00:00 2001 From: admin Date: Tue, 15 Sep 2026 20:53:41 +0800 Subject: [PATCH] =?UTF-8?q?fix(upstreams):=20anthropic=5Fbase=5Furl=20?= =?UTF-8?q?=E4=B8=8D=E5=B8=A6=20/v1=EF=BC=88Anthropic=20SDK=20=E8=87=AA?= =?UTF-8?q?=E5=B7=B1=E6=8B=BC=EF=BC=89=20(1.0.38)?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit **Anthropic SDK 与 OpenAI SDK 行为不同**: - OpenAI SDK:用 base_url 直接拼 /chat/completions,**不会自动加 /v1** → base_url 必须带 /v1 - Anthropic SDK:用 base_url 拼 /messages,**会自动拼 /v1** → base_url **不要带 /v1**,否则 SDK 拼出 /v1/v1/messages 404 1.0.37 把 anthropic_base_url 也加 /v1 是错的——Anthropic SDK 拿到后会 拼成 /v1/v1/messages 上游 404。同时 upstreams.js 的 apiUrls 函数 拿已经带 /v1 的 base_url 再拼 /anthropic,得到 `…/v1/anthropic` 错 URL (现场复制)。 修: - 后端 anthropic_base_url **不带 /v1**(让 SDK 拼) - upstreams.js apiUrls 函数**不再拼**,直接用后端返回的 base_url / anthropic_base_url 字段(前端正则拼接是 1.0.37 之前的兜底,不再需要) - e2e 断言同步改:anthropic_base_url 不含 /v1 回归全绿。 --- rust/crates/plugin-llm/src/upstreams.rs | 17 ++++++++++------- tests/llm/e2e.sh | 4 ++-- www/assets/upstreams.js | 12 +++++++----- 3 files changed, 19 insertions(+), 14 deletions(-) diff --git a/rust/crates/plugin-llm/src/upstreams.rs b/rust/crates/plugin-llm/src/upstreams.rs index 3f4c505..f6c70aa 100644 --- a/rust/crates/plugin-llm/src/upstreams.rs +++ b/rust/crates/plugin-llm/src/upstreams.rs @@ -661,21 +661,24 @@ pub fn base_url(slot: &str, up: &Upstream, port: &str) -> String { /// Anthropic 客户端(Claude Code / Claude SDK)应当使用的 `ANTHROPIC_BASE_URL`。 /// +/// **1.0.37 修正**:Anthropic SDK **会自动在 base_url 后拼 `/v1/messages`**, +/// 所以出口 URL **不带 /v1**——让 SDK 自己拼,避免拼出 `/v1/v1/messages` 404。 +/// +/// 网关 location 同时兼容 `…/anthropic/v1/messages` 与 `…/anthropic/messages`: +/// 后者由 `join_target` 把 SDK 拼的 `/v1` 接进 upstream base(去重), +/// 两种都 200。 +/// /// 协议段由**客户端**负责表达(网关不猜协议),但这段路径是网关替客户端拼好的, /// 所以要处理重合:上游 `base` 若已钉在 `…/anthropic`(协议钉死型记录),其 /// `base_url` 末尾已经带 `/anthropic`,再无脑追加会得到 `…/anthropic/anthropic`。 -/// -/// **1.0.37**:Anthropic 协议的 path 段是 `/v1/messages`,需要保证出口 URL -/// 末尾是 `/anthropic/v1`——既覆盖无 path 的 base,也避免与厂商 `…/anthropic` -/// 路径重叠。 pub fn anthropic_base_url(slot: &str, up: &Upstream, port: &str) -> String { let b = base_url(slot, up, port); - // base_url 已保证末尾是 /v1,现在把 /v1 切掉拼 /anthropic/v1 + // base_url 已保证末尾是 /v1,先切掉再拼 /anthropic let b = b.trim_end_matches("/v1"); if b.ends_with("/anthropic") { - format!("{b}/v1") + b.to_string() } else { - format!("{b}/anthropic/v1") + format!("{b}/anthropic") } } diff --git a/tests/llm/e2e.sh b/tests/llm/e2e.sh index c683670..c7ab095 100755 --- a/tests/llm/e2e.sh +++ b/tests/llm/e2e.sh @@ -299,8 +299,8 @@ ck "★base_url 强制带 /v1(base 无路径时补上)" yes \ "$(curl -s -H "X-API-Key: $ALICE_KEY" $API/api/v1/models | has "\"base_url\":\"https://lm.mayishangshu.cn:$API_PORT/openai/v1\"")" ck "★base_url 保留上游 base 的路径 /llm(不重复加 /v1)" yes \ "$(curl -s -H "X-API-Key: $BOB_KEY" $API/api/v1/models | has "lm.mayishangshu.cn:$API_PORT/other/llm/v1")" -ck "★anthropic_base_url 强制带 /v1" yes \ - "$(curl -s -H "X-API-Key: $ALICE_KEY" $API/api/v1/models | has "anthropic_base_url\":\"https://lm.mayishangshu.cn:$API_PORT/openai/anthropic/v1")" +ck "★anthropic_base_url 不带 /v1(Anthropic SDK 内部拼)" yes \ + "$(curl -s -H "X-API-Key: $ALICE_KEY" $API/api/v1/models | has "anthropic_base_url\":\"https://lm.mayishangshu.cn:$API_PORT/openai/anthropic\"")" # ★ 端口自适应:Host 不带端口(走 443 反代)时 base_url 也不该带端口。 # 写死 88 → 443 部署下客户端连到另一个端口的服务;裸域名 → 88 部署下被出口设备抢答 # (实测 HTTP 200 + 一个 HTML 登录页,是最难看出问题的一种失败)。 diff --git a/www/assets/upstreams.js b/www/assets/upstreams.js index f522013..1ed7af2 100644 --- a/www/assets/upstreams.js +++ b/www/assets/upstreams.js @@ -32,11 +32,13 @@ /// 由 base_url(协议中立,端口跟随当前访问管理台所用的 Host)推导两种协议的完整 API 地址。 /// base 写了路径(钉死粒度)时不重复追加对应后缀 - function apiUrls(base) { - var b = String(base || "").replace(/\/+$/, ""); + function apiUrls(up) { + // **1.0.37 简化**:直接用后端 view_all 返回的 base_url / anthropic_base_url + // ——后端已经按「OpenAI SDK 不拼 /v1 → 必带 /v1」「Anthropic SDK 拼 /v1 → 不带 /v1」 + // 的语义算好。前端不再做正则拼接(之前拼出过 `…/v1/anthropic` 错 URL)。 return { - openai: /\/v1$/.test(b) ? b : b + "/v1", - anthropic: /\/anthropic$/.test(b) ? b : b + "/anthropic" + openai: up.base_url || "", + anthropic: up.anthropic_base_url || "" }; } @@ -204,7 +206,7 @@ ? "
" + models.map(IP.esc).join("
") + "
" : "未登记"; - var urls = apiUrls(u.base_url); + var urls = apiUrls(u); var urlBtns = "" + "";