ci / gate (push) Waiting to run
- 项目与文档标题:nax-rs → ssw-mpc(尚数网-多方安全计算),二进制 nax → mpc - 18 个 crate 及目录 nax-* → mpc-*,Rust 引用 nax_* → mpc_* - 环境变量、C 符号、构建/部署脚本:NAX_* → MPC_*、libnax_ray.so → libmpc_ray.so - 保留协议域分隔常量与 refs/nax 参考实现路径,维持 golden 向量与历史数据兼容 - 新增 [profile.dev] incremental=false
87 lines
3.6 KiB
Markdown
87 lines
3.6 KiB
Markdown
# Ray 部署编排(不进计算路径)
|
||
|
||
Ray 在这里只做一件事:**把 `mpc node` 拉起,并保证每一方落在它自己的机器上**。
|
||
|
||
计算不走 Ray —— 不走 object store、不走 cloudpickle、不走 actor 调用。
|
||
节点之间用 mpc 自己的帧通信(全网状 TCP 直连,每对参与方一条)。
|
||
|
||
## 为什么这样切
|
||
|
||
Ray 唯一不可替代的能力是**自定义资源调度**:
|
||
|
||
```bash
|
||
# alice 的机器
|
||
ray start --address=<head>:6379 --num-cpus=1 --resources='{"alice_node": 1}'
|
||
# bob 的机器
|
||
ray start --address=<head>:6379 --num-cpus=1 --resources='{"bob_node": 1}'
|
||
```
|
||
|
||
`{"alice_node": 1}` 这种资源标签让 Ray 能保证"跑 alice 的进程只在 alice 的机器上",
|
||
这一点自己写调度要花不少功夫。driver 提交 actor 时声明同名的
|
||
`resources={"alice_node": 1.0}`,"数据不出域"就从配置文件里的口头约定
|
||
变成调度层的硬约束。
|
||
|
||
但如果让 Ray 承载**计算**,就会引入四个二进制化的硬伤(见
|
||
`docs/ARCHITECTURE.md#2-为什么不是每方一个-ray-actor`):函数要 cloudpickle
|
||
序列化、对象所有权在 object store、GCS/raylet 一整套进程、异常跨语言传播。
|
||
|
||
所以:**Ray 管进程,不管数据**。
|
||
|
||
## 两阶段提交
|
||
|
||
先占位拿 IP,再带 peers 起进程。一轮做不完的原因是:先启动的方
|
||
不知道自己该连谁 —— 地址表要等所有方都报完才知道。
|
||
|
||
```text
|
||
阶段 1 NodeSlot.options(resources={"alice_node": 1}).remote("alice")
|
||
actor.where() -> "10.0.1.7" 各机器真实 IP
|
||
阶段 2 peers = "alice=10.0.1.7:9440,bob=10.0.1.8:9441,carol=10.0.1.9:9442"
|
||
actor.run(["mpc","node","--site","alice","--peers",peers, ...])
|
||
```
|
||
|
||
## 用法
|
||
|
||
```bash
|
||
# 1. 在各机构机器上起 Ray 节点(带自定义资源标签)
|
||
bash deploy/ray/start-node.sh alice <head-host>:6379
|
||
bash deploy/ray/start-node.sh bob <head-host>:6379
|
||
bash deploy/ray/start-node.sh carol <head-host>:6379
|
||
|
||
# 2. 在 head 上提交
|
||
python3 deploy/ray/mpc_cluster.py \
|
||
--sites alice,bob,carol \
|
||
--data alice=2,bob=3,carol=5 \
|
||
--mpc /opt/mpc/bin/mpc \
|
||
--address ray://<head>:10001
|
||
# 或 bash deploy/ray/launch.sh <同样的参数>
|
||
```
|
||
|
||
## 三种执行后端
|
||
|
||
| 模式 | 用途 | 需要 Ray 吗 |
|
||
|---|---|---|
|
||
| `--dry-run` | 只打印每方的完整命令行,审阅参数 | 不需要 |
|
||
| `--local` | 本机 127.0.0.1 起 n 个进程(不同端口) | 不需要 |
|
||
| 默认 | 连 Ray 集群,actor 按资源标签落机器 | 需要 |
|
||
|
||
`--local` 不是玩具:编排里唯一容易写错的是**端口分配、peers 字符串、
|
||
命令拼装**,这些和 Ray 无关。能在本机验证的先在本机验证,
|
||
免得把"参数拼错"和"Ray 集群没配好"混在一起排查。
|
||
|
||
已在三方条件下本机验证(alice=2, bob=3, carol=5 → `2·3·5+1 = 31`,
|
||
三方输出一致);Ray 集群模式的执行层尚未在真实多机上验证。
|
||
|
||
## 排序是协议要求
|
||
|
||
`mpc_cluster.py` 按**字典序**给参与方编号、分配端口、拼 peers 字符串。
|
||
这不是为了好看:`Vault` 内部按字典序编号,第 p 片分片投递给"排序后第 p 个"。
|
||
换了顺序,各方的 party 编号理解就不一致,分片投错对象 —— 结果静默算错,
|
||
不崩、不报警,就是数不对。
|
||
|
||
## 还缺什么
|
||
|
||
- 会话主种子仍是 `--seed` 命令行传入(默认全 0,仅测试)。生产应由 TEE
|
||
派生并用 `mpc-tee` 的 seal 落盘,等 `mpc-node` 接上 TEE HAL。
|
||
- 数据仍是 `--data` 命令行传入。上万行要走 `--data-file` 读 CSV,
|
||
这是下一步(数据接入)。
|