Commit Graph
13 Commits
Author SHA1 Message Date
rong 903f14efb2 feat(sql): GROUP BY 走整数码前缀和,8 组 162 → 92 轮
影响:`secure_group_by` 新增 `GroupMode::IntegerCode` 路径,每组相等判断
(`bit_eq` = 两次 `bit_lt`,18 轮/组、串行累加)换成 `N+1` 个单调前缀
「码 ≤ g」,`COUNT` 取前缀位之和、`SUM` 取 `mul_raw(前缀位, 列)`,所有 `open`
落在同一阶段合成一次,**组内值在明文侧差分**,没有第二段图。默认仍是
`GroupMode::Exact`,语义不变。

实测(`nax sql-plan --rows 8 --aggs count,sum`):2 组 42→32、4 组 82→52、
8 组 162→92;每组建图成本约 20 → 11 轮。带 WHERE 的增量是「一次比较 + 一次
搬家乘」10~11 轮。

新增:

- `secure_graph::build_prefix_stage` —— 谓词 → 码搬家 → N+1 个前缀 → 累积和
- `secure_group_by_coded` / `secure_group_by_pred_coded`,`query_rounds` 收
  `GroupMode`,`nax sql-plan --group-mode coded`、`nax sql --group-mode coded`
- `crates/nax-sql/tests/coded.rs` 12 条:与 Exact 对拍(`COUNT`/`SUM` 逐位、
  `AVG` 相对 1e-4)、复合谓词、越界/非整数码契约、空组、k-匿名、单组、轮数钉值

三条契约(写进 `docs/IR.md` §3.3,不隐藏代价):分组码必须是整数(非整数落
到上方最近一组);不支持 MIN/MAX(前缀和还原不出极值,直接报错不降级);
越界码丢弃(与逐组比较一致,两端边界 `−0.5` / `N−0.5` 就是为它留的)。

WHERE 未命中行不逐组乘 `base`(`2N` 轮),而是把码搬到 `−1000·2^fxp` 让它在
差分中自动抵消。**第一版把 `−1000` 当 raw 用**:分组码列是 fxp 编码,
`0.5` 编出来是 `131072`,于是 `−1000` 比每个边界都小,全部行被算进每个前缀
(行数变全表、SUM 变全表之和且不报错)。改为按 `2^fxp` 缩放,`fxp > 40` 拒绝。

变异验证 4 条全部按预期变红后还原:停放值不缩放(2 红)、边界少 `−0.5`
(只有非整数码契约那条红,整数码下 `<g` 与 `<g+0.5` 等价)、累积和忘记差分
(7 红)。

全量 462 用例通过 / 0 失败,`-Dwarnings` 零告警,`nax-core` no_std 守线过。
2026-11-01 19:49:16 +08:00
rong 56e974c580 feat(ir): 协议调用序列改由编译器生成(nax-ir + nax-ml/nax-sql 迁移)
影响:交互轮数第一次能「问出来」而不是靠人数代码 —— `nax plan` 报纵向 LR 一次
迭代 17 轮,`nax sql-plan` 报掩码聚合 115 轮,都不需要数据、不联网。同时
「漏一次 truncate 差 2^fxp 倍且不报错」这类问题从靠 review 变成建图期报错。

- 新增 `nax-ir`(零新增外部依赖):`Vis` 挂在值上而非环境上;公开值进密态
  表达式强制插 `Lift` 节点(只有 0 号带明文),任何一方都不会把公开值加两次
- 定点尺度 `Node.scale` 也挂在值上:乘 fxp 编码的公开系数后必须 `trunc` 回基准。
  `Op::Scale`(乘积 k+1,要截断)与 `Op::ScaleInt`(裸 u64 乘,0 轮)分开
- 轮次规划按 `base = max(end(前驱))` 分阶段、同阶段 `open` 合成一次往返;
  轮数 = Σcost(交互算子) − Σ(每阶段 open 个数 − 1),与执行器逐条对齐
  (不能用 `max(end)`,同阶段里 scale 与 open 是串行的)
- `nax-vault::open_batch` 是地基:Beaver 的 d/e 互相独立,先全发再全收,
  `mul`/`matmul_trunc` 从 2 个往返降到 1
- `nax-ml`:`VerticalLR::build_epoch` 建图一次跑 `epochs` 遍(循环体外提),
  求幂刻意沿用与手写版相同的递归树,保证逐位一致
- `nax-sql::secure`:掩码 WHERE + 聚合改成两段图 —— `AVG` 的除数要执行后才知道,
  所以第一段拿「掩码后列 + 命中数」,第二段拿其余聚合

一并带上上一轮的 n 方改动(此前未提交):`TrustPlan` 从纸面枚举变成计算函数
(L2 明文合并要求**每一方** attest 通过)、纵向 LR 改按列块清单 `ColBlock`
(与 `sites` 位置对齐,不是集合相等)、PSI 抗恶意三道硬化(低阶点黑名单 /
重复点检测 / 会话绑定 domain)。

验证:全量 450 用例通过(+50),`-Dwarnings` 零告警,`nax-core` no_std 守线过。
迁移对拍与手写版:帧序列逐帧相同、SQL 的 COUNT/SUM/MIN/MAX 逐位相同、AVG ≤1e-4、
轮数不增。变异验证 7 条全部按预期失败 —— 其中把 `CMP_ROUNDS` 9 改成 8 时,
计划轮数与实测突发数两条互相独立的测试同时变红。

未做:不做协议选择(`mul` 永远 Beaver)、不做恶意安全、跨算子类别不共享尾部轮,
因此报出的轮数是**上界**;`nax-psi::strict` 只是硬化,不是 OPRF-PSI。
2026-11-01 19:01:16 +08:00
rong 37aa81e394 feat(psi): n 方隐私求交(环协议)+ 分块流水修复大集合死锁
影响:PSI 此前硬卡在两方,导致纵向 LR / SQL JOIN 无法扩展。现在 3 方及以上
可以直接跑,n=2 退化为原两轮交换、开销逐项不变(没有第二条代码路径)。

- nax-psi 新增 match_across:n 方求交(逐个 match_points 取 AND)。不能拿两两
  求交拼 —— A={1,2} B={2,3} C={3,1} 两两都非空但三方交集为空,有专门的测试钉住
- run_psi_session 改成环协议:集合沿环走 n-1 跳、每跳叠一把密钥,最后汇总广播;
  新增 PsiConfig.my_idx(必须与 transport 的 party 编号一致)
- pipeline_points:分块 + 交替收发。整份 3.2 MB 单帧会写满 socket 缓冲(macOS
  默认 ~128 KB)造成多方互相阻塞 —— 实测 10 万条两方 256 s 后 Broken pipe;
  分块后在途数据恒定 32 KB,10 万条两方 34 s、三方 90 s
- nax-cli 的 psi 支持 --peers 建网状连接(与 node 一致);种子一律从
  (主种子, site) 派生,否则各方共用默认 --seed 会撞 ECDH 私钥(交集仍对,隐私全失)

验证:三方真 TCP 跑出正确交集;变异验证两条 —— 把 AND 退化成"只比第一个对端"、
把环上"谁持有哪份集合"写错,对应测试都立刻失败。

未做:恶意方防护(需 OPRF-based PSI);纵向 LR / SQL JOIN 仍是两方(它们是
两方协议,不是被 PSI 卡住)。
2026-11-01 14:29:53 +08:00
rong a00b32f2f5 feat(secure): 链路 AEAD 加密 + 熵源统一 + TEE seal 换成标准 ChaCha20-Poly1305
影响:跨机部署不再假设链路可被窃听(此前只有握手认证,分片与掩码差值明文传输);
TEE 密封格式从 v1 换到 v2,旧 blob 解不开但会明确失败而不是误解。

- nax-core 新增 aead / osrand:ChaCha20-Poly1305(复用 prg 的 core,RFC 8439 标准向量 + OpenSSL 交叉验证),OS 熵源拒绝时间戳降级
- nax-node 握手派生 c2s/s2c 双向会话密钥,帧走 AEAD;计数器严格对齐,重放与错向密钥均拒绝
- nax-tee 两处手拼 encrypt-then-MAC(optee/core、mock)收敛到 nax-core::aead:开销 44B→28B、版本进 AAD、删除已无用的 K_mac;重复的 HMAC/ct_eq 合并为 nax-core 单一实现
- nax-he 补 keygen_os(库函数不再 panic),确定性 keygen 保留给 golden 测试
- tools/ci.sh + .gitea/workflows/ci.yml:测试 / -Dwarnings / nax-core no_std 三条闸门
- bench_core:matmul、逐元素、AEAD、分片重建的可复现基准

设计取舍:帧加密自己实现而不引 crate —— nax-core 的依赖树必须为空才能编进 OP-TEE TA;
ChaCha20 复用 prg 里已有的 core,避免两套实现分叉。
2026-11-01 11:20:28 +08:00
rong 471289fe55 feat: 按 SecretFlow 对比结论补齐六条优化 + PostgreSQL 数据接入
影响
- 传输层不再"知道端口就能冒充":PSK 挑战-应答,未配置时显式告警
- 参与方参数不一致可归因(逐字段对表,不再只说"指纹不同")
- 长跑不再整表进内存:CSV 真流式,PG 可直连
- 所有子命令支持 --report json,stdout 只出结构化结果,诊断走 stderr
- 作业支持 DAG 与落盘状态,失败/跳过/重来可追溯
- 计算域抽象落地,dry_run 开关第一次有消费者

改动
- nax-core: 新增 hmac(HMAC-SHA256 / ct_eq / derive_labeled);pg 的 HMAC 改为委托,删重复实现
- nax-node: 新增 auth(REQ/ACK/OK,ctx 绑定双方序号与双 nonce,双 label 防回打)、entropy(只读 /dev/urandom,不降级)
- nax-proto: 新增 Op::Manifest,显式拼字节避开长度前缀错位
- nax-vault: exchange_manifest 比对版本/参与方/fxp/键值清单,三种差异分别点名
- nax-data: 新增 source(TableSource/Batch/CsvSource,流式与整表逐位一致);新增 pg 客户端(自研 wire、trust/md5/SCRAM、零外部依赖)
- nax-orch: 新增 plan(文本计划 + 拓扑校验)、state(append-only JSONL)、run_jobs;协议加 SKIP,单作业模式逐字不变;每作业派生种子避免 Beaver 三元组复用
- nax-runtime: 新增 device(Value/Device/Plain/Secret);域是数据属性,单方搬不回明文;非线性算子在密态域显式拒绝而不是给出错掩码
- nax-cli: 新增 report 模块(Cell/table/kv/note!)、selfcheck(含 TEE 签名)、pg(列类型摊开)、orch run|status
- tools/pg-dev: PGlite + PG-wire 壳、两方种子库、e2e.sh 20 条断言

设计(明确拒绝的方案)
- 设备抽象不做 eval(op) 分发:线性算子对加性分片天然透明,多一层间接只多一个没人用的入口;非线性算子要换协议,不是换指针
- DAG 计划用文本不用 JSON:现场手改要能报"第 2 行:不认识的指令 retries",而 serde_json 与单二进制目标冲突
- 端到端用 PGlite 而非系统 PostgreSQL:同一份源码编成 WASM,无需常驻服务

回归
- cargo test --workspace --features secure → 338 通过 / 0 失败
- cargo build --workspace --all-targets --features secure → 零代码告警
- cargo build -p nax-core --no-default-features → no_std 守线通过
- tools/pg-dev/e2e.sh 两轮真 TCP + 真 PSI + 真密态聚合,两方输出逐字段一致
2026-10-31 21:08:21 +08:00
rong df021dba0d feat(cli): nax sql-join 真两进程 JOIN×PSI×密态 SQL
影响:能敲一个命令在真 TCP 两进程里跑 PSI → 对齐 → 密态聚合 → reveal;
`--schema` 约定全局列序解决竖向切分里两方各持不同列的拼接问题。

- `nax sql-join` 子命令(需 --features secure):真 TCP 两进程,
  PSI → align_by_key → exchange_split_columns → 密态聚合。
- `--schema col1,col2,...`:全局列序,列交换后按 schema 槽位落位。
  **不是 mine + theirs 简单拼接** —— 后者两方拼出的顺序不同,谓词下标静默错位。
- 两个种子:psi_seed 每方不同(同种子 = ECDH 私钥相同,隐私破坏);
  vault_seed 两方一致(Beaver 物料派生)。CLI 从 (seed, site) 自动派生 psi_seed。
- `impl Transport for &mut T`:同一条 TCP 先 PSI 再 Vault 不用拆通道。
- 新增 4 测(真 TcpListener + TcpTransport)含变异检验:
  schema 落位换成拼接 → 3 条红。
- 更新 README、GAP_PLAN(产品口径缺口 ①②③ 已闭环)。
2026-10-30 18:32:43 +08:00
rong 34855a3b2d feat(cli): nax sql —— in-process 2 方密态 GROUP BY 演示(feature=secure)
nax-cli 加 feature secure(拉 nax-sql/secure + nax-vault),新增 `nax sql`:
单进程用两条 Pipe 起 2 方,真跑 GROUP BY + COUNT/SUM/AVG,打印结果表。
实测 region0=3/650/216.67、region1=2/1100/550,与明文一致。
默认构建不含该命令,仍零警告。

workspace 216 测全绿;nax-sql --features secure 19、nax-fl --features secure 13。
2026-10-30 16:40:13 +08:00
rong f43fe16c86 feat(gap): 补齐 nax-python 参考实现的 9 块算法层,212 测全绿
按 docs/GAP_PLAN.md 的优先级逐条落地,新建 6 个 crate、nax-ml 加 2 模块:

- nax-zkp:Schnorr 身份证明 + Pedersen 承诺/表示证明,逐位 golden
- nax-fl:安全聚合责任链 + DP(RDP 记账) + 横向 FedAvg(fedavg/linear/metrics)
- nax-ml:明文 MLP(mlp) + 异构分箱 WOE/IV + 互补抑制(binning)
- nax-data:列主序 Frame + 明文统计 + mock(确定性主键/schema/DP) + CSV
- nax-sql:手写解析器 + 掩码式 WHERE + 聚合/GROUP BY/k-匿名/JOIN/HAVING
- nax-policy:出域守卫(exec/transfer/fetch) + 审计日志
- nax-runtime:dry_run / real_run(线程局部 + RAII 嵌套恢复)
- nax-cli:新增 `nax fl` 横向 FedAvg 本地演示子命令

约束:零新外部依赖(复用 nax-core::prg/hash、nax-he::bigint);确定性算子均以
纯 Python 同构参考导出 golden 逐位对照;密文/分布式外壳复用既有 Vault/Site/PSI。
cargo test --workspace 212 通过 0 失败,nax-core --no-default-features 守线通过。
2026-10-30 15:53:56 +08:00
rong 45bc626256 feat(ray): 对齐 Ray 1.0.1,nax 作为 driver 跑通跨架构 MPC
用户要求先用 1.0.1 对齐两端再把 nax MPC 跑通。闭环达成:

  x86_64  Ray node 73bfdc0a…  nax site=b  MPC 35
  armv7   Ray node 235afb22…  nax site=a  MPC 35

同一进程既是 Ray driver 又是 MPC 参与方;node_id 由 raylet 握手分配,
两端不同即「真的挂在两个节点上」的证据。35 = (1·4+1)+(2·5+1)+(3·6+1)。

1.0.1 shim(ray/nax_ray_shim_101.cc)与 2.59 的六个接口差异:
CoreWorkerProcess 无独立头、TaskExecutionCallback 只有 8 参数、
GcsClientOptions 位置参数、无 GetNodeToConnectForDriver/GetNextJobID、
无 ray::core 命名空间、GcsNodeInfo 无 node_manager_port。

两个必踩的坑:
- options.num_workers 必须显式设 1(1.0.1 有 RAY_CHECK(>0),默认 0 abort)
- gcs_options 要指向 Redis(6400)而非 gcs_server(6402),指错报
  Protocol error got "\x00",看着像协议问题其实是端口给错

同一版本两个架构的 string ABI 不同(关键):
x86_64 _raylet.so 是旧 ABI(0 个 cxx11),armv7 是新 ABI(423 个)。
搞错的表现是运行期 basic_string::_M_create 异常,错误信息不提 ABI。

编译补丁自动打在解出来的头上:client_call.h 的 vector<CompletionQueue> 换 deque
(grpc 1.51 删了移动构造)、影子 arrow/buffer.h、-Dgrpc_impl=grpc。
Python 符号 x86 缺 8 个 / armv7 缺 2 个,shim 零值占位(不执行 Python 代码)。

nax-cli 加可选 feature ray:设 NAX_RAY_RAYLET 即注册 driver,默认构建仍是
纯静态单二进制。rpath 放在 nax-cli 的 build.rs(link-arg-bins),放 nax-ray
里传不到依赖方的 bin。

新增 docs/RAY_CORE_101.md、ray/{nax_ray_shim_101.cc,build101.sh,
build101_armv7.sh,test101.py,test101_arm.c,verify101.sh}、ray/armv7/mpc_ray.sh;
nax-ray 重写为 1.0.1 签名;README 状态表更新。
2026-10-30 13:44:00 +08:00
rong 4bb573d98c feat: Ray C++ 内核接进 nax Rust + armv7 真交叉编译
Ray 这条线不绕 bazel:
- wheel 里的 ray/_raylet.so 就是编好的 C++ core(34113 个导出符号,
  3638 个 ray:: 符号 default 可见,含 CoreWorkerProcess::Initialize)
- ray/nax_ray_shim.cc:259 行 C ABI shim,复用 process_helper 的初始化路径
- 实测跑通:Rust 二进制作为 driver 接入真实 GCS+raylet,
  拿到 raylet 分配的 node_id(d190801c…),probe 通过

踩坑(都已固化进 ray/build.sh):
- raylet 只编了 Python worker pool → 注册时语言声明 PYTHON
- Ray C++ 是旧 ABI → -D_GLIBCXX_USE_CXX11_ABI=0
- fmt v9/v11 撞车 → FMT_HEADER_ONLY
- Debian absl 固定自家 optional → 影子头直通 std::optional
- _raylet.so 是 CPython 扩展(253 个 Py 符号)→ build.rs 自动链 libpython
- GcsNodeInfo 手写 wire format 解析,避免 protobuf 跨 ABI

armv7 交叉编译修正(原结论有误):
- 换 armv7-unknown-linux-musleabihf + rust-lld/link-self-contained
- 不再需要外部交叉 gcc,macOS 本机 83 秒出 687 KB 静态二进制
- .cargo/config.toml 固化,无需 export 任何变量

其他:nax-orch 告警清理;README/ZYNQ 文档对齐实测。
2026-10-30 11:31:02 +08:00
rong 2e82c3e630 feat: P1.2 n 方网状 + P5 Ray 编排 —— 3/4 方真实 TCP 跑通
P1.2(n>2 分片)
- nax-vault::Transport 从单连接升为按 party 索引的 send_to/recv_from,
  send/recv 保留为两方便捷路径(PSI 与旧测试不动)
- Vault::open 改为广播:向 n-1 方各发一次自己的分片再统一收,
  通信量 O(n^2);inbox 按来源 party 分桶(混在一起会把两方分片加错对象)
- send_share / 新增 recv_share_from 按 party 定向,recv_share 在 n>2 时
  显式报错而非猜一个对端
- nax-node 新增 TcpMesh:n 方全网状(每对一条直连),建连规则「小编号主动
  connect 大编号」,accept 方靠 4 字节 party 下标握手认人
- run_session 改链式乘 z = x0·x1·…·x(n-1),每轮 1 次 Beaver 乘 + 1 次截断
- CLI 放开两方限制,新增 --peers name=addr,...(与 --listen 搭配)

为什么必须全网状而不是星型:Shares 帧里是真实输入分片,星型让 head 转发
等于把一方输入读给中转节点看。n 是跨机构参与方个数,n(n-1)/2 条直连不是瓶颈。

P5(Ray 编排)
- deploy/ray/nax_cluster.py:两阶段提交(actor 先报本机 IP,driver 拼出
  peers 表再起进程),actor 按 {site}_node 资源标签落机器
- 三种后端:--dry-run 打印计划 / --local 本机并行(不需 Ray)/ 默认连集群
- launch.sh 改为透传;README 补两阶段时序、排序为什么是协议要求

验证:三方 2·3·5+1=31、四方浮点(1.5·2·0.5·4 与 2.25·4·(-1)·0.125)
三方/四方输出一致;整数域四方 3·5·7·2+1=211 精确。
cargo test --workspace 134 全绿(vault 10 / node 5),no_std 与 armv7 交叉
编译守线通过。Ray 集群模式未在真实多机验证,已在 README 标注。
2026-10-30 08:54:14 +08:00
ssw 7b373fb0d8 feat: P2 纵向联邦逻辑回归(全程密文训练)
nax-core
- matmul_triple_into + Dealer::matmul_triple:矩阵 Beaver 三元组
- extern crate alloc(matmul_triple 需要动态临时缓冲)

nax-vault
- matmul_trunc:矩阵 Beaver 乘 + 定点截断
- scale_public / add_local / sub_local:本地辅助运算

nax-ml(新 crate)
- VerticalLR:SGD 密文训练(特征/标签/梯度/权重全密文)
- sigmoid_poly:奇多项式逼近,系数与参考实现 SIGMOID_FITS 逐位一致
- plaintext_lr:明文对照实现
- 4 单测含端到端密文 vs 明文相关系数 > 0.95

nax-node / nax-cli
- run_lr_session + `nax lr` 子命令,二进制 499 KB

验收
- 87 用例全绿,no_std + armv7 通过
- 两进程密文 LR:标准化数据两侧输出一致 w=[0.000008, 0, 0.659542]
2026-10-29 11:41:13 +08:00
ssw c5b2cf69a5 feat: nax-rs P0/P1/P1.5 —— Rust 重写隐私计算框架
算子核(nax-core):零依赖 no_std
- Z_2^64 定点算术 + AVX2 矩阵乘,与 Python 参考实现 215 条逐位一致
- 加性分享 / Beaver 三元组 / 截断对 / edaBit,ChaCha20 PRG,SHA-256
- 自实现银行家舍入(f64::round_ties_even 是 std-only,no_std 编不过)

协议栈
- nax-proto:手写帧协议(12 字节头 + u64 payload),无 protobuf 依赖
- nax-vault:Beaver 乘 / 定点截断 / open / reveal
- nax-node:TCP 传输 + 密文会话 + PSI 会话
- nax-psi:X25519 ECDH-PSI(唯一外部依赖 dalek,因恒定时间约束)
- nax-tee:HAL trait(seal/unseal/attest/sign)+ Mock + TrustPlan 四级降级

验收
- 83 用例全绿;armv7 全 workspace 编译通过
- 两进程密文计算:(1·4+1)+(2·5+1)+(3·6+1) = 35
- 两进程 PSI:[1..5] ∩ [3..7] = {3,4,5}
- 单二进制 450 KB,零运行时依赖

文档
- docs/ARCHITECTURE.md:分层、Ray 定位、TEE 分工与降级梯度
- docs/ZYNQ.md:A9 性能预算(比 i5 慢 8-12x,非 50x)与部署形态
2026-10-29 11:10:54 +08:00