Commit Graph
3 Commits
Author SHA1 Message Date
ssw b1225f7e40 rocr: 补本机(i7-9750H)性能基线 + AVX2已榨干结论 + INT8不可行
- 2019 MBP / i7-9750H 实测:
  - 800x320 样本图常驻热态 ~3.5s(比 2015 Air 6.0s 快 1.7x)
  - 1721x1245 大图常驻热态 ~12s(像素量 8.37x,单像素效率仍优)
- AVX2 已榨干:
  - MNN AVX2 后端官方说比 OpenVINO 快 20-440%、比 ONNX Runtime 快 18-60%
  - ROCR_PRECISION=low/lowbf16 在没 AVX-512 FP16/BF16 的机器上
    退化为 FP32 + 走 fallback(user CPU 时间反而高 14%)
- INT8 路线在本机不可行:
  - i7-9750H 没 VNNI/AVX-512(仅 Coffee Lake 2019 上半年)
  - MNN PTQ 对 PP-OCRv6 det (DBNet) 精度崩(sigmoid 输出对量化极敏感)
  - rec 模型是动态 shape,calibration 工具不支持
- 补 ROCR_NUM_THREADS / PRECISION / POWER / BACKEND 调优环境变量文档
- 推荐配置: ROCR_NUM_THREADS=6(本机最优)
2026-09-12 16:12:09 +08:00
ssw c77a855eec rocr: 刷新 CPU 二进制并修正性能实测数据
- bin/rusto-rs: 换为支持调优环境变量的构建
  (ROCR_BACKEND / ROCR_NUM_THREADS / ROCR_PRECISION / ROCR_POWER)
  旧构建不认这些变量,会导致按线程调优时静默无效。
- README: 性能实测改为【机器静置】时的真实值
  · 常驻 daemon 热态 ~6s(旧值 9.6–10s 是在 cargo build 抢 CPU 时测得,偏高)
  · 一次性 ~10s,首次(拉起 daemon) ~8s
  · 新增"机器有负载时会退到 10–15s"的说明,提醒计时前先关掉重活
  · 补线程数结论:1 线程 ~9s / 2 线程 ~5.98s / 4 线程 ~6.06s,2 线程即接近饱和
- README: 补上核显(Metal)实测结论——本机 Intel HD 6000 不可用(一次性慢约 32x、
  换尺寸图骤增到 63s),要 GPU 提速需 Apple Silicon 或 N 卡;核显勿再尝试
- README: 澄清 i8sdot/fp16/i8mm 是 ARM 特性探测串,x86 恒为 0,不代表无 SIMD
2026-09-11 22:12:11 +08:00
ssw aa819b10c8 rocr: 离线中文 OCR CLI (RustO!/MNN, PP-OCRv6-Medium) 可分发包
- bin/rocr: 位置无关封装脚本, 带 daemon 常驻管理 (空闲 600s 自退)
- bin/rusto-rs: macOS x86_64 二进制 (含 --serve 常驻模式, 大输出不截断修复)
- install/uninstall 脚本 (含 macOS 双击 .command)
- models/ 与 *.zip 体积大, 由 .gitignore 排除, 需单独获取
2026-09-11 18:07:56 +08:00