docs(ir): §3.4 轮数↔墙钟;nax plan 的口径从「上界」改成「实测相等」
- §3.4 两张表:计划 13 轮 == 线上 13 个往返(24 帧);本机 64/256/1024 行的 建会话、每次迭代、每轮纯等待。 - 结论:环回上 13 轮只占一次迭代的 8%,本地计算占 92%;跨机房(RTT 20 ms) 才轮到轮数当瓶颈。另外建会话(PSI 的 EC 运算)在小样本下比整个训练还贵。 - §6 把「上界」的说法收窄:只有「同阶段既有 mul 又有独立 open」的图会虚高, 纵向 LR 的图没有独立 open,那一侧是精确的。 - `nax plan` 的口径行同步 —— 数字上的每个断言现在都指得到一条对账测试。
This commit is contained in:
1 parent
f30b82ca57
commit
0c6026b01e
2 files changed
+49
-3
No files matched your search
@@ -838,7 +838,8 @@ fn cmd_plan(args: &[String]) -> Result<(), String> {
|
||||
(
|
||||
"口径",
|
||||
report::Cell::txt(
|
||||
"上界:同阶段的乘/截断/open/比较各自合成一批;matmul 的 2 轮尚未进批",
|
||||
"实测相等:线上往返数与计划逐次一致(wire_rounds 测试);\
|
||||
只有「mul 截断 + 同阶段独立 open」未共享时会略虚高",
|
||||
),
|
||||
),
|
||||
],
|
||||
|
||||
+47
-2
@@ -360,6 +360,50 @@ raw 值)。这些行会出现在每一个前缀里,差分时自动抵消 —
|
||||
前缀:行数变成全表、`SUM` 变成全表之和,**且不报错**。这条坑写在
|
||||
`secure_graph.rs` 的源码注释里。
|
||||
|
||||
### 3.4 轮数 ↔ 墙钟:13 轮到底是多少秒
|
||||
|
||||
前面所有数字都是**往返次数**,不是时间。两件事要分开验:
|
||||
|
||||
**(a) 计划报的轮数是不是线上的真实往返数?**
|
||||
|
||||
`crates/nax-ml/tests/wire_rounds.rs` 在传输层数突发(一段连续 `S` 加一段连续 `R`
|
||||
算一次往返),与 `Plan::rounds()` 比:
|
||||
|
||||
| degree | 迭代数 | 计划 | 线上发送帧 | 线上突发(往返) |
|
||||
|---|---|---|---|---|
|
||||
| 7 | 1 | 13 | 24 | **13** |
|
||||
| 7 | 3 | 39 | 72 | **39** |
|
||||
| 3 | 2 | 22 | 30 | **22** |
|
||||
|
||||
**逐次相等**。注意「帧数 ≠ 往返数」:13 个往返花了 24 帧 —— 乘批要发 `d`、`e`
|
||||
两帧。所以这一节那个「**上界**」的说法对纵向 LR 已经不适用:它就是实际发生的事。
|
||||
|
||||
**(b) 一个往返多少毫秒?**
|
||||
|
||||
`crates/nax-node/tests/bench_lr_tcp.rs`(真 TCP + PSK,`--ignored` 显式跑)。
|
||||
本机 i5-5250U、两方在同进程两线程(抢两个核,本地计算偏大、网络偏小):
|
||||
|
||||
| 行数 | 建会话(PSI + 分片) | 每次迭代 | 每轮(含两方本地计算) | 一轮纯等待 p50 | 每迭代实收帧 |
|
||||
|---|---|---|---|---|---|
|
||||
| 64 | 25 ms | 2.59 ms | 0.200 ms | 0.014 ms | 24.0 |
|
||||
| 256 | 78 ms | 7.15 ms | 0.550 ms | 0.032 ms | 24.0 |
|
||||
| 1024 | 466 ms | 10.65 ms | 0.819 ms | 0.065 ms | 24.0 |
|
||||
|
||||
> 单机一次读数,重复跑会有 ±20% 的抖动(PSI 那列最明显,它含 EC 运算)。
|
||||
> 表里取的是三次里的最小值 —— 延迟基准的惯例,最小值最接近「没被打断」的那次。
|
||||
|
||||
**结论与直觉相反**:在本机环回上,13 轮的纯等待只有 `13 × 0.065 = 0.85 ms`,
|
||||
占 1024 行那次迭代的 **8%** —— 剩下 92% 是两方各自的本地乘法与截断。也就是说:
|
||||
|
||||
* **同机房部署**:轮数已经不是瓶颈。再压轮数(批量、树形)收益有限,该动的是
|
||||
核函数(`nax-core` 的环算术、Paillier)和「少发几帧」。
|
||||
* **跨机房部署**:真实 RTT 10~30 ms 时,`13 × 20 ms = 260 ms/次迭代` —— 这时
|
||||
轮数是全部,批量与树形归约那些工夫才值钱。
|
||||
|
||||
顺带一个容易被忽略的量:**建会话(PSI 的 EC 运算 + 分片广播)在小样本下比整个
|
||||
训练还贵**(1024 行:466 ms vs 30 次迭代 320 ms)。短期真正该优化的端到端项是
|
||||
PSI,不是那 13 轮。
|
||||
|
||||
## 4. 谁在用这一层
|
||||
|
||||
到目前为止两个消费者,迁移方式一样:**手写协议序列搬上图,轮数改由编译器报**。
|
||||
@@ -463,8 +507,9 @@ SQL 侧还有第三条路径不在上表里,因为它是**换算法**而不是
|
||||
本来就互不依赖,只是把等待叠在一起。
|
||||
- **同类批量,跨类别不共享。** 同阶段的乘 / 截断 / `open` / 比较各自合成一批;
|
||||
但 `mul` 的两段(乘、截断)不与 `open` 的批交叉共享,`matmul` 也还没进乘批 ——
|
||||
那要求把 Beaver 的收发完全摊到 IR 层。所以现在的估计仍是**上界**,
|
||||
真跑只快不慢。
|
||||
那要求把 Beaver 的收发完全摊到 IR 层。
|
||||
这只让**「同阶段既有 `mul` 又有独立 `open`」**的图略微虚高(掩码聚合就是);
|
||||
**纵向 LR 的图里没有独立 `open`,那一侧是精确的** —— §3.4 实测逐次相等。
|
||||
- **批量只在同阶段内**。跨阶段一定有数据依赖,合并就是错。这不是保守,是正确性。
|
||||
- **换多项式求值顺序不是个杠杆。** 量过了(§3.1):现状已是深度最优,Estrin 8 轮、
|
||||
Horner 9 轮都比现状的 7 轮贵。别再把它当待办。
|
||||
|
||||
Reference in new issue
Block a user