OCR 性能验证 · 实测报告

12.png 大图:CPU vs 独显(Radeon Pro 5300M)

结论:独显没有加速。大图 1721×1245 下 CPU 与独显同为 12–15 s/张;硬证据显示 Metal 后端并未把计算交给 GPU。
机型 MacBook Pro 2019 CPU i7-9750H(6核12线程) GPU Radeon Pro 5300M + UHD 630 系统 macOS 26.6.2 (x86_64) 测试时间 2026-09-12 12:15–12:41

0测试对象

你提供的 12.png —— 比原有样本图大一个量级,更能反映真实文档/截图批量场景
测试图尺寸
1721 × 1245px
像素量(相对样本图 A 800×320)
8.37倍

图为 WorkBuddy 界面截图,共识别出 1422 字符,CPU 与独显两条路径的输出 sha256 完全一致 → 都真实跑通、结果正确,不存在空跑或短路。

1三组独立测量:结果一致,独显无优势

为排除后台负载干扰,用三种不同编排各测一轮,互相印证

A. 三臂交错(CPU-6 / CPU-12 / 独显 同时待命,交替请求,10 轮)

后端最小中位最大
CPU(6 线程)11.60 s12.46 s15.22 s
CPU(12 线程)11.62 s12.06 s15.61 s
独显 Radeon 5300M11.56 s12.32 s15.83 s

B. 单 daemon 串行(同一时刻只有一个在跑,各预热 1 次 + 热态 6 次)

后端最小中位最大输出 sha256
独显 Radeon 5300M13.83 s13.90 s15.71 s98831d2e…
CPU(6 线程)13.25 s14.72 s15.83 s98831d2e…
CPU(12 线程)11.99 s12.91 s16.18 s98831d2e…
两轮编排的数据高度吻合:三者全部落在 12–15 s 区间,差异小于测量波动本身——独显没有带来任何可观测的加速。

耗时对比(中位数)

CPU 6 线程
12.46 s
CPU 12 线程
12.06 s
独显 Radeon 5300M
12.32 s
0 s8 s16 s

2决定性证据:GPU 根本没干活

只看耗时容易误判,于是直接比对「CPU 干了多少活」——用 /usr/bin/time -l 一次性调用
指标(一次性调用,12.png)CPU(6 线程)独显(metal)差异
墙钟 real12.13 s12.57 s+3.6%
用户态 CPU user59.62 s60.49 s+1.5%
系统态 CPU sys3.39 s3.50 s+3.2%
执行指令数288.22 G287.99 G−0.08%
峰值内存2226 MB2258 MB+1.4%
关键判读:如果独显真的在算,CPU 的 user 时间和指令数应当大幅下降。实测两者几乎完全一样(指令数仅差 0.08%)——说明该构建下 ROCR_BACKEND=metal 并没有把计算卸载到 GPU,CPU 承担了完全相同的计算量。这就是「两者性能持平」的根本原因,而不是巧合。

补充:该二进制确实链接了 Metal 并能返回正确结果(设备探针也确认系统默认设备为 Radeon 5300M),所以这不是报错或回退失败,而是 MNN 的 Metal 后端在这套 x86 macOS 构建 + 这两个模型上没有产生实际加速。

3尺寸切换:没有「重编译爆炸」

2015 基线曾记录「换尺寸图暴涨到 63 s」,本机复测该现象不存在
步骤(同一个 GPU daemon 内)耗时说明
小图 800×320 预热2.91 s常驻预热
小图 800×320 #12.75 s热态
切大图 1721×1245(首次新尺寸)17.23 s×6.3(纯像素量)
大图 1721×1245 #214.62 s热态
切回小图 800×3202.54 s无爆炸
再切大图 1721×124515.70 s无爆炸

切回小图立刻回到 2.5 s,说明没有按尺寸重编译流水线;大图变慢只是像素量翻了 8.37 倍带来的正常计算增长(首次略高属预热效应)。

4结论与建议

数据可信度说明:历史档案 bench-result-xsMBP-20260912-1026.txt 中记录的「Metal 热态 9.61 s / 换尺寸 59.33 s」与本轮干净复测严重不符(本轮样本图 800×320 下 Metal 仅 2.07–2.31 s、换尺寸 2.46 s)。该段为早期二进制版本或当时环境干扰所致,建议作废,不采信。
环境干扰提醒:本机存在间歇性后台负载(iCloud/群盘同步、Spotlight 索引,负载 5–16 波动)。本报告已用「多轮交错 + 单 daemon 串行 + 输出哈希校验」三重手段交叉验证,确保结论不依赖单次采样。测试时请尽量关闭同步与索引。

5附录:复现命令与设备信息

设备探针输出

# gpu_probe(枚举全部 Metal 设备)
设备: AMD Radeon Pro 5300M      lowPower=0  headless=0
设备: Intel(R) UHD Graphics 630 lowPower=1  headless=0
# 系统默认设备(MTLCreateSystemDefaultDevice)
ROCR_METAL_DEVICE=(未设置=系统默认) -> 选中: AMD Radeon Pro 5300M (lowPower=0)

核心复现命令

# 单次耗时(CPU / 独显)
ROCR_BACKEND=cpu   ROCR_NUM_THREADS=6 \
  rocr/bin/rusto-rs --det-model rocr/models/PPOCRv6-Medium/det.mnn \
  --rec-model rocr/models/PPOCRv6-Medium/rec.mnn \
  --dict rocr/models/PPOCRv6-Medium/dict.txt \
  /Users/xs/Desktop/12.png -f text

ROCR_BACKEND=metal ROCR_NUM_THREADS=6 \
  rusto-rs/target/release/rusto-rs-metal  # 参数同上

# 关键:比对 CPU 干了多少活(判定 GPU 是否真的参与)
/usr/bin/time -l env ROCR_BACKEND=metal rusto-rs/target/release/rusto-rs-metal \
  ... /Users/xs/Desktop/12.png -f text | grep -E "real|user|instructions"

原始数据存档

bench-12png-20260912-1241.txt(本目录)——含全部轮次原始计时、sha256 校验、CPU 时间/指令数明细。