修复 Gitea issue #1(armv7 包只在 stdout 为管道时能启动)。 根因:pglite 的 initDummyPort() 设 s.sock = 1,把 fd 1 当「名义客户端 socket」;pq_init() 把它注册进 WaitEventSet。Linux 走 epoll,而 epoll 不接受 普通文件与字符设备(实测 EPERM)⇒ ereport(ERROR) ⇒ longjmp ⇒ exit(100)。 macOS 走 kqueue(接受普通文件/字符设备)⇒ 同样形态正常,故此前未暴露。 - 重写 ensure_stdout_for_pglite():pipe + dup 原始 stdout + dup2 让 fd 1 成为管道写端 + drain 线程把内容转发回原 stdout。drain 是必需的: pgl_fcntl 是 dummy ⇒ pg_set_noblock(fd 1) 无效 ⇒ fd 1 始终阻塞 ⇒ 管道写满 64KB 会永久阻塞。macOS 分支保留空实现(kqueue 无需替换)。 - 开库前固化 PGLITE_RUNTIME_DIR 为带 arch + 构建指纹(路径/大小/mtime 的 FNV-1a)的路径,消除 x86_64/armv7 共用 runtime 目录的抢占;用户显式设置时不覆盖。 - 失败路径改为打印「启动诊断」,不再静默 dup2。 门禁:scripts/build-armv7.sh 冒烟改为三 case(A 管道 / B 普通文件 / C /dev/null) × 各自干净数据目录,断言 HTTP 通 + 进程常驻;B/C 另断言出现「启动诊断」 (证明替换路径真的走到)。探活改用 bash 内建 /dev/tcp(armhf 镜像无 wget/curl)。 验证:旧二进制 case B = EXIT 100 + 46 字节 banner;新二进制 = HTTP 200、 14255 条示例数据、登录返 200、优雅关闭。三 case 全绿。
313 lines
15 KiB
Bash
Executable File
313 lines
15 KiB
Bash
Executable File
#!/usr/bin/env bash
|
||
#
|
||
# build-armv7.sh —— 一键交叉编译 armv7 版 sspf-admin(Linux 32 位 ARM, hard-float)
|
||
#
|
||
# 🔴 为什么需要这个脚本(2026-11-12):
|
||
# ssw-platform 的后端把 PostgreSQL 引擎(`libpglite.a`)**静态链进二进制**。
|
||
# 上游 `pglite-rs` 只发布 x86_64 / aarch64 的 darwin 与 linux-gnu 预编译引擎,
|
||
# **没有 armv7** ⇒ 要出 armv7 包必须自己交叉编译引擎 + 交叉链接 Rust 侧。
|
||
#
|
||
# 两条路的取舍(都实测过):
|
||
# A. arm/v7 容器内原生编译(qemu 模拟)—— ❌ apt 装依赖就跑了 9 分钟,
|
||
# PostgreSQL 全量 make 在 qemu 下要数小时,不可行。
|
||
# B. amd64 容器 + arm-linux-gnueabihf 交叉工具链 —— ✅ 本脚本。
|
||
# 容器是原生 x86_64,编译速度正常;Rust 侧用 zig cc 当 linker
|
||
# (zig 0.14.1 自带 lld 与 armv7 libc,免装交叉 libc)。
|
||
#
|
||
# 产物:
|
||
# target/armv7-unknown-linux-gnueabihf/release/sspf-admin (ARM EABI5 可执行)
|
||
# dist/pglite-engine-armv7/ (引擎:libpglite.a + runtime + 头文件)
|
||
#
|
||
# 用法:
|
||
# bash scripts/build-armv7.sh # 只编译二进制
|
||
# bash scripts/build-armv7.sh --engine-only # 只编译引擎
|
||
# bash scripts/build-armv7.sh --skip-engine # 复用已有引擎,只重编二进制
|
||
#
|
||
# 环境变量:
|
||
# PGLITE_ENGINE_TAG 上游引擎 tag(默认 engine-06c837c6a303-p3)
|
||
# PG_SRC_COMMIT postgres-pglite 源码 commit(默认该 tag 对应的 06c837c6a303…)
|
||
# ENGINE_DIR 引擎产物目录(默认 dist/pglite-engine-armv7)
|
||
# SKIP_DOWNLOAD=1 复用已下载的源码 tarball
|
||
#
|
||
set -euo pipefail
|
||
|
||
cd "$(dirname "$0")/.."
|
||
REPO_ROOT="$(pwd)"
|
||
|
||
ENGINE_TAG="${PGLITE_ENGINE_TAG:-engine-06c837c6a303-p3}"
|
||
PG_SRC_COMMIT="${PG_SRC_COMMIT:-06c837c6a30335169df786c610ed224bc51d81c0}"
|
||
ENGINE_DIR="${ENGINE_DIR:-${REPO_ROOT}/dist/pglite-engine-armv7-glibc26}"
|
||
TARGET_TRIPLE="armv7-unknown-linux-gnueabihf"
|
||
WORK="${WORK:-/tmp/sspf-armv7-build}"
|
||
|
||
ENGINE_ONLY=0
|
||
SKIP_ENGINE=0
|
||
for a in "$@"; do
|
||
case "$a" in
|
||
--engine-only) ENGINE_ONLY=1 ;;
|
||
--skip-engine) SKIP_ENGINE=1 ;;
|
||
-h|--help) sed -n '1,40p' "$0"; exit 0 ;;
|
||
*) echo "未知参数: $a" >&2; exit 2 ;;
|
||
esac
|
||
done
|
||
|
||
# ── 1. 引擎 ──────────────────────────────────────────────────
|
||
if [[ "${SKIP_ENGINE}" == "0" ]]; then
|
||
echo "==> [1/3] 构建 armv7 PGlite 引擎(上游 ${ENGINE_TAG})"
|
||
bash "${REPO_ROOT}/scripts/build-pglite-engine.sh" \
|
||
--engine-tag "${ENGINE_TAG}" \
|
||
--pg-commit "${PG_SRC_COMMIT}" \
|
||
--out "${ENGINE_DIR}" \
|
||
--work "${WORK}"
|
||
else
|
||
echo "==> [1/3] 跳过引擎构建(复用 ${ENGINE_DIR})"
|
||
fi
|
||
|
||
if [[ "${ENGINE_ONLY}" == "1" ]]; then
|
||
echo "==> 仅引擎模式完成: ${ENGINE_DIR}"
|
||
exit 0
|
||
fi
|
||
|
||
# ── 2. Rust 侧交叉编译 ───────────────────────────────────────
|
||
echo "==> [2/3] 交叉编译 sspf-admin → ${TARGET_TRIPLE}"
|
||
# 🔴 链接器用 zig cc:zig 自带 lld + armv7 glibc 头/库,免去装 armhf 交叉 libc。
|
||
# CARGO_TARGET_<TRIPLE>_LINKER 是 cargo 的官方约定(不需要改仓库 .cargo/config)。
|
||
# 包装脚本在 scripts/zig-cc-armv7.sh(改写 -Wl,/path + 注入 sysroot)。
|
||
# 🔴 PGLITE_LIB_DIR 让 pglite-rs-sys 的 build.rs 用我们自建的引擎,
|
||
# 而不是去 GitHub 下不存在的 armv7 预编译包。
|
||
export PGLITE_LIB_DIR="${ENGINE_DIR}"
|
||
|
||
# 🔴🔴 **必须关掉 strip**(2026-11-12 定位,踩了两轮才找到):
|
||
# 仓库根 Cargo.toml 的 `[profile.release] strip = "symbols"` 会让 rustc 在链接前
|
||
# **重建** native 静态库(放到 `deps/rustcXXXX/libpglite.a`),重建时把
|
||
# `ProcessStartupPacket` 从全局 `T` 降级成局部 `t`、`pgl_shmem_reset` 直接消失
|
||
# ⇒ 链接期报 undefined symbol: ProcessStartupPacket / pgl_shmem_reset / ...
|
||
# (实测:重建后的归档比原件小 3228 字节,恰好 4 个 ARM 符号 × 24 字节)
|
||
# ⇒ 规避办法:本次交叉构建覆盖 strip=none。
|
||
# ⚠️ 只影响交叉构建,仓库默认 profile 不动(宿主机 x86_64 构建不受影响)。
|
||
export CARGO_PROFILE_RELEASE_STRIP="${CARGO_PROFILE_RELEASE_STRIP:-none}"
|
||
|
||
# 🔴 zig cc 不认 `-Wl,/abs/path` 合并写法(报 unsupported linker arg),
|
||
# 用仓库里的包装脚本改写成裸路径;它还会注入 armhf sysroot(提供 -lz)。
|
||
#
|
||
# 🔴 2026-11-13:sysroot 换成 **zlib-only** 版本。
|
||
# 原来指向 ${ENGINE_DIR}/sysroot(上游完整 Debian 12 armhf),它的
|
||
# libc.so.6 是 **glibc 2.36** ⇒ `-L` 把链接器引到 2.36 ⇒ 产物又绑
|
||
# GLIBC_2.34+ ⇒ 海光(2.28)/ZYNQ(2.26) 都跑不了。
|
||
# 现在用 ssw-tds-test/build/sysroot-armhf(只含 libz.so.1 + zlib.h,
|
||
# libz 的 GLIBC 需求仅 2.4)。
|
||
export ZIG_SYSROOT="${ZIG_SYSROOT:-${REPO_ROOT}/../ssw-tds-test/build/sysroot-armhf}"
|
||
|
||
# 🔴 glibc 兼容 shim 注入目录(explicit_bzero / getrandom,glibc 2.25 才有)
|
||
# ⚠️ 这两个 shim **不能**放进 libpglite.a:rustc 在 --whole-archive 场景会
|
||
# 重打包归档,对这类只被 undefined 引用的成员处理不确定(时有时无)。
|
||
export ZIG_COMPAT_DIR="${ZIG_COMPAT_DIR:-${ENGINE_DIR}/compat}"
|
||
|
||
export CARGO_TARGET_ARMV7_UNKNOWN_LINUX_GNUEABIHF_LINKER="${REPO_ROOT}/scripts/zig-cc-armv7.sh"
|
||
|
||
# 🔴🔴🔴 **必须绕过 sccache**(2026-11-13 定位):
|
||
# rustc 把 `-L native=<引擎目录>` 里的 `libpglite.a` **bundle 进 rlib**,
|
||
# 而 rustc 指纹**不含 native 静态库内容哈希** ⇒ 换引擎后 sccache 仍命中旧缓存
|
||
# ⇒ 返回内嵌**旧引擎**的 rlib ⇒ 链接期 `undefined symbol: fcntl64`。
|
||
# `cargo clean` 清不掉 sccache 缓存 ⇒ 只能绕开 wrapper。
|
||
export RUSTC_WRAPPER="${RUSTC_WRAPPER-}"
|
||
|
||
echo " 引擎目录(PGLITE_LIB_DIR): ${ENGINE_DIR}"
|
||
echo " 链接器(zig cc): ${CARGO_TARGET_ARMV7_UNKNOWN_LINUX_GNUEABIHF_LINKER}"
|
||
echo " sysroot: ${ZIG_SYSROOT}"
|
||
echo " compat: ${ZIG_COMPAT_DIR}"
|
||
echo " strip: ${CARGO_PROFILE_RELEASE_STRIP}(交叉构建必须 none,见脚本注释)"
|
||
cargo build --release --target "${TARGET_TRIPLE}" -p sspf-admin
|
||
|
||
BIN="target/${TARGET_TRIPLE}/release/sspf-admin"
|
||
[[ -x "${BIN}" ]] || { echo "!! 找不到 ${BIN}" >&2; exit 1; }
|
||
file "${BIN}"
|
||
|
||
# ── 3. 冒烟:在 arm/v7 容器里真跑一下 ─────────────────────────
|
||
#
|
||
# 🔴🔴 **三个 case,覆盖 stdout 的三种形态**(2026-11-13,Gitea issue #1):
|
||
#
|
||
# 内嵌 PostgreSQL 把 **fd 1 当成「名义客户端 socket」**(`initDummyPort()` 设
|
||
# `s.sock = 1`)⇒ `pq_init()` 把它注册进 WaitEventSet ⇒ Linux 走 **epoll**,
|
||
# 而 **epoll 不接受普通文件与字符设备**(实测 EPERM)⇒ `ereport(ERROR)`
|
||
# ⇒ longjmp ⇒ **exit 100**。
|
||
#
|
||
# ⇒ 只有「fd 1 是管道」才能启动。
|
||
# ⇒ 旧冒烟**只测了管道形态**(docker 继承的 pipe)却**没有断言**,
|
||
# 而文档里记录的验证命令也没有重定向 ⇒ 验收链有盲区:
|
||
# 最常见的部署形态(`nohup … > app.log 2>&1 &`)从来没被测过。
|
||
#
|
||
# 三个 case(每个都是**全新容器 + 全新数据目录**,串行,避免互相干扰):
|
||
# A. stdout 继承 docker pipe(= 现状,issue 里的成功形态)
|
||
# B. stdout → 普通文件 `> /tmp/srv.log 2>&1`(= **最常见的部署形态**,旧盲区)
|
||
# C. stdout → /dev/null(字符设备)
|
||
#
|
||
# 断言(每个 case 都要过):
|
||
# · HTTP 探活成功(`/api/oauth/CurrentUser` 有响应)
|
||
# · 进程**仍存活**(没有提前 exit 100)
|
||
# · A/B 还要日志里出现「已启动」
|
||
# (C 的 stdout 进了 /dev/null ⇒ 拿不到,这正是 C 的形态本身)
|
||
echo "==> [3/3] arm/v7 容器冒烟(stdout 三形态 × 干净数据目录)"
|
||
SMOKE_DIR="${WORK}/smoke"
|
||
rm -rf "${SMOKE_DIR}"
|
||
mkdir -p "${SMOKE_DIR}"
|
||
cp "${BIN}" "${SMOKE_DIR}/sspf-admin"
|
||
# 🔴 用 arm32v7/debian:bookworm-slim(armhf 基础镜像)而不是 debian:bookworm-slim:
|
||
# 后者是 amd64 镜像,--platform linux/arm/v7 拉下来还得 qemu 转译,白白慢。
|
||
SMOKE_IMAGE="${SMOKE_IMAGE:-arm32v7/debian:bookworm-slim}"
|
||
# 🔴 armv7 上 initdb + schema + 14k 条示例数据导入实测 40~150s ⇒ 轮询窗口给到 240s。
|
||
SMOKE_TRIES="${SMOKE_TRIES:-120}"
|
||
# 🔴🔴 **端口与数据目录必须用 `-e` 传进容器**(2026-11-13 实测踩坑):
|
||
# 旧脚本把它们写在 `sh -c '... PGLITE_DIR=… PORT=… …'` 的**内联命令行**里;
|
||
# 改成 `bash -c` 后若只靠内联,就会在**外层**展开成宿主机 shell 的变量,
|
||
# 容器内拿不到 ⇒ 服务起在**默认端口 30010** + **默认数据目录**(cwd 下的
|
||
# `src/backend/data/lite.pg`)⇒ 探活一直 Connection refused ⇒ 误判成「启动失败」。
|
||
# ⇒ 显式 `-e` 传参,容器内用 `$PORT` / `$PGLITE_DIR` 引用。
|
||
SMOKE_PORT="${SMOKE_PORT:-30077}"
|
||
|
||
# 跑一个 case,输出到文件并回显。
|
||
run_smoke_case() {
|
||
local name="$1"
|
||
local data_dir="${WORK}/smoke-${name}"
|
||
local out="${WORK}/smoke-${name}.out"
|
||
rm -rf "${data_dir}"
|
||
mkdir -p "${data_dir}"
|
||
# 🔴 `bash` 而不是 `sh`:探活用 bash 的 `/dev/tcp`(dash 不支持)。
|
||
# 镜像里也**没有 wget/curl**(bookworm-slim 只有 coreutils)⇒ 只能用 /dev/tcp。
|
||
docker run --rm --platform linux/arm/v7 \
|
||
-v "${SMOKE_DIR}:/app:ro" -v "${data_dir}:/data" \
|
||
-e SMOKE_CASE="${name}" -e SMOKE_TRIES="${SMOKE_TRIES}" \
|
||
-e SMOKE_PORT="${SMOKE_PORT}" -e PORT="${SMOKE_PORT}" -e PGLITE_DIR="/data/pg" \
|
||
"${SMOKE_IMAGE}" bash -c '
|
||
cd /tmp
|
||
# ── 三种 stdout 形态 ───────────────────────────────────
|
||
case "$SMOKE_CASE" in
|
||
A) /app/sspf-admin 2>/tmp/srv.log & ;; # stdout 继承 docker pipe
|
||
B) /app/sspf-admin > /tmp/srv.log 2>&1 & ;; # stdout → 普通文件
|
||
C) /app/sspf-admin > /dev/null 2>/tmp/srv.log & ;; # stdout → /dev/null
|
||
esac
|
||
PID=$!
|
||
|
||
# ── 探活:bash 内建 /dev/tcp,发一个真实 HTTP 请求 ─────
|
||
# 🔴 整套塞进子 shell 且把 `2>/dev/null` 放在**最外层**:bash 对
|
||
# `/dev/tcp` 连接失败时会自己往 stderr 打 "connect: Connection refused",
|
||
# 若只把重定向写在 exec 那一行,错误消息会在重定向生效**之前**就冒出
|
||
# ⇒ 日志被几百行噪声淹没。
|
||
probe() {
|
||
(
|
||
exec 3<>/dev/tcp/127.0.0.1/"$SMOKE_PORT" || exit 1
|
||
printf "GET /api/oauth/CurrentUser HTTP/1.0\r\nHost: 127.0.0.1\r\n\r\n" >&3 || exit 1
|
||
read -r -t 5 line <&3 || exit 1
|
||
case "$line" in HTTP/*) exit 0 ;; *) exit 1 ;; esac
|
||
) 2>/dev/null
|
||
}
|
||
|
||
OK=0
|
||
for i in $(seq 1 "$SMOKE_TRIES"); do
|
||
if probe; then OK=1; break; fi
|
||
kill -0 "$PID" 2>/dev/null || break
|
||
sleep 2
|
||
done
|
||
echo "CASE_HTTP_OK=$OK"
|
||
|
||
if kill -0 "$PID" 2>/dev/null; then
|
||
echo "CASE_ALIVE=1"
|
||
kill "$PID" 2>/dev/null
|
||
wait "$PID" 2>/dev/null
|
||
else
|
||
echo "CASE_ALIVE=0"
|
||
wait "$PID" 2>/dev/null
|
||
echo "CASE_EXIT=$?"
|
||
fi
|
||
|
||
# 日志全文里的关键标记(不靠 tail 截断,避免把「已启动」截掉)
|
||
if [ -f /tmp/srv.log ]; then
|
||
echo "CASE_LOG_BYTES=$(wc -c < /tmp/srv.log)"
|
||
# 🔴 `grep -c` 在「0 个匹配」时**退出码非 0**,直接 `$(… || echo 0)` 会把
|
||
# 输出变成 "0\n0" ⇒ 用 `|| true` 兜住退出码,保留 grep 自己打的那个 0。
|
||
echo "CASE_LOG_MARKER=$(grep -c "已启动" /tmp/srv.log 2>/dev/null || true)"
|
||
# 🔴 「启动诊断」= fd 1 替换路径**确实执行过**(B/C 必须有,A 必然没有)
|
||
echo "CASE_DIAG=$(grep -c "启动诊断" /tmp/srv.log 2>/dev/null || true)"
|
||
else
|
||
echo "CASE_LOG_BYTES=0"
|
||
echo "CASE_LOG_MARKER=0"
|
||
echo "CASE_DIAG=0"
|
||
fi
|
||
echo "---- srv.log(去噪后,最多 20 行)----"
|
||
grep -v "protocol synchronization was lost" /tmp/srv.log 2>/dev/null | tail -20 || true
|
||
echo "---- end ----"
|
||
' > "${out}" 2>&1 || true
|
||
cat "${out}"
|
||
}
|
||
|
||
# 断言一个 case 的结果。
|
||
#
|
||
# $1 = case 名;$2 = 「已启动」标记从哪找:
|
||
# host ⇒ 宿主机侧的 `${out}`(case A 的 stdout 直接进 docker pipe)
|
||
# srvlog ⇒ 容器内 `/tmp/srv.log`(case B 的 stdout 就写在这里)
|
||
# none ⇒ 不查(case C 的 stdout 进了 /dev/null,本来就拿不到)
|
||
# $3 = 是否要求「启动诊断」出现(= fd 1 被替换过)
|
||
assert_smoke_case() {
|
||
local name="$1" marker_src="$2" need_diag="$3"
|
||
local out="${WORK}/smoke-${name}.out"
|
||
local fail=0
|
||
|
||
if ! grep -q "CASE_HTTP_OK=1" "${out}"; then
|
||
echo " ❌ ${name}: HTTP 探活失败(服务没起来)"; fail=1
|
||
fi
|
||
if ! grep -q "CASE_ALIVE=1" "${out}"; then
|
||
echo " ❌ ${name}: 进程未常驻(提前退出 ⇒ 很可能又是 exit 100)"; fail=1
|
||
grep -m1 "CASE_EXIT=" "${out}" || true
|
||
fi
|
||
|
||
case "${marker_src}" in
|
||
host)
|
||
grep -q "已启动" "${out}" || { echo " ❌ ${name}: stdout 里没有「已启动」"; fail=1; }
|
||
;;
|
||
srvlog)
|
||
grep -q "CASE_LOG_MARKER=1" "${out}" || { echo " ❌ ${name}: 日志里没有「已启动」"; fail=1; }
|
||
;;
|
||
esac
|
||
|
||
if [[ "${need_diag}" == "1" ]]; then
|
||
grep -q "CASE_DIAG=1" "${out}" \
|
||
|| { echo " ❌ ${name}: 没有「启动诊断」⇒ fd 1 替换路径没走到(修复可能没生效)"; fail=1; }
|
||
fi
|
||
|
||
if [[ "${fail}" == "0" ]]; then
|
||
echo " ✅ ${name}: 通过"
|
||
return 0
|
||
fi
|
||
return 1
|
||
}
|
||
|
||
SMOKE_FAILED=0
|
||
|
||
# 🔴 用例分工(关键:**B 才是 issue 报的失败形态**)
|
||
# A stdout 是管道 ⇒ `already_ok` 提前返回 ⇒ **不走替换**、无诊断、无 drain 线程;
|
||
# 标记只能从 docker 捕获的 stdout 里找。
|
||
# B stdout 是普通文件 ⇒ **必须走替换** ⇒ 必须有诊断、必须有「已启动」。
|
||
# C stdout 是 /dev/null ⇒ 也走替换 ⇒ 必须有诊断;「已启动」进 /dev/null,查不到。
|
||
echo "--- case A: stdout 继承 docker pipe(不走替换)---"
|
||
run_smoke_case A
|
||
assert_smoke_case A host 0 || SMOKE_FAILED=1
|
||
|
||
echo "--- case B: stdout → 普通文件(> /tmp/srv.log 2>&1,issue 的失败形态)---"
|
||
run_smoke_case B
|
||
assert_smoke_case B srvlog 1 || SMOKE_FAILED=1
|
||
|
||
echo "--- case C: stdout → /dev/null(字符设备)---"
|
||
run_smoke_case C
|
||
assert_smoke_case C none 1 || SMOKE_FAILED=1
|
||
|
||
if [[ "${SMOKE_FAILED}" != "0" ]]; then
|
||
echo "" >&2
|
||
echo "!! armv7 冒烟失败(stdout 三形态未全部通过)" >&2
|
||
echo " 详见 ${WORK}/smoke-{A,B,C}.out" >&2
|
||
exit 1
|
||
fi
|
||
|
||
echo ""
|
||
echo "✅ armv7 产物: ${BIN}"
|
||
echo " 引擎: ${ENGINE_DIR}"
|