This commit is contained in:
zimoyin
2026-10-12 12:06:58 +08:00
parent cebe783839
commit 44d42f6ae0
2 changed files with 81 additions and 14 deletions
+67 -10
View File
@@ -156,7 +156,7 @@ batch 8 + cpu_threads 4 : 约 114 秒
### 是否使用多核
不是单核推理。PaddleX 默认 `cpu_threads = 10`(可用 `cpu_threads` 配置项覆盖),20 逻辑核机器上的实测 CPU 占用:
不是单核推理。PaddleX 默认 `cpu_threads = 10`(可用 `cpu_threads` 配置项覆盖),测试机为 20 逻辑核 / 14 物理核,实测 CPU 占用:
```text
检测阶段 CPU 约 94%~105% (约 1 个核)
@@ -188,25 +188,82 @@ NotImplementedError: ConvertPirAttribute2RuntimeAttribute not support
因此该配置下慢的根因是「CPU 推理未启用 oneDNN」,不是队列或接口阻塞。
### 换成移动端模型(实测约 3.4 倍提速)
### 换成移动端模型:速度提升极大,但密集文本会严重丢字
同一张图片、同样 `text_det_limit_side_len: 960` 与 `text_recognition_batch_size: 8`:
⚠️ 这一档**不适合文本密集的图片**,务必先用自己的图验证。
| 模型组合 | 模型体积 | 识别耗时 | 识别行数 |
| --- | --- | --- | --- |
| `PP-OCRv5_server_det` + `PP-OCRv5_server_rec` | 约 167 MB | 约 60 秒 | 34 |
| `PP-OCRv4_mobile_det` + `PP-OCRv4_mobile_rec` | 约 16 MB | 约 18 秒 | 39 |
统一参数:`text_det_limit_side_len: 640`、`cpu_threads: 20`、`text_recognition_batch_size: 8`。
切换方式:
**稀疏图片(官方示例 896x528,文本少)**
| 模型组合 | 体积 | 耗时 | 片段数 | 字符数 |
| --- | --- | --- | --- | --- |
| `PP-OCRv5_server_det` + `PP-OCRv5_server_rec` | 约 167 MB | 70.45s | 34 | 253 |
| `PP-OCRv4_mobile_det` + `PP-OCRv4_mobile_rec` | 约 16 MB | 10.34s | 36 | — |
稀疏图上两者识别内容大体一致,移动端仅漏掉一行小字水印,看起来差异不大。
**密集图片(1920x1080,文本多)—— 差距是数量级的**
| 图片 | 模型组合 | 耗时 | 片段数 | 字符数 |
| --- | --- | --- | --- | --- |
| 1.png | v5 server | 747.96s | 339 | 1747 |
| 1.png | v4 mobile | **7.82s** | **46** | **166(仅剩 10%)** |
| 2.png | v5 server | 213.52s | 73 | 428 |
| 2.png | v4 mobile | **6.03s** | **27** | **243(剩 57%)** |
1.png 上移动端快了约 95 倍,但**丢掉了约 90% 的文字**。主要瓶颈在 `PP-OCRv4_mobile_det`:它只检出 46 个框,而 v5 server 检出 339 个,密集小字基本没检测出来。
结论:
- 图片文本稀疏(票据、证件、少数字段)→ 移动端可用,收益巨大;
- 图片文本密集(表格、文档、截图)→ **不要用移动端**,会大面积丢字;
- 判断标准不是分辨率,而是**文本密度**,必须用自己的真实图片实测。
### text_det_limit_side_len 与文本密度强相关
对 1920x1080 的密集图片实测:
| 边长 | 1.png | 2.png |
| --- | --- | --- |
| 640 | 339 框 / 1747 字符 | 73 框 / 428 字符 |
| 320 | **0 框 / 0 字符** | 8 框 / 59 字符 |
1.png 在 320 下**完全检不出任何文字**:1920px 按 6 倍下采样后,约 10px 高的文字只剩约 1.7px。这不是平滑降精度,而是断崖式失效。
因此:
- 大图请保持 `640` 或更高,**不要低于 640**;
- `480` 以下只适合小尺寸、大字号的图片;
- 检测耗时本身只占 1%~10%(上面两图分别是 7.9s 和 9.0s),压低它对总时长几乎没有帮助。
### 识别耗时与文本框数量成正比
这是本项目的核心性能特征,来自实测:
```text
1.png 339 框 → 识别 740s (约 2.2 秒/框)
2.png 73 框 → 识别 204s (约 2.8 秒/框)
官方样例 34 框 → 识别 62s (约 1.8 秒/框)
```
所以决定单张图耗时的是**框数**,而不是图片像素数。降低耗时的手段按有效性排序:
1. 减少框数(代价是丢字,例如提高 `text_det_box_thresh`);
2. 换更快的识别模型(注意上面的丢字风险);
3. 提高 `cpu_threads`、`text_recognition_batch_size`;
4. 让 oneDNN 可用(换 PaddlePaddle 版本)或使用 GPU。
切换方式(`config.yaml` 里已预置注释行,去掉注释即可):
```yaml
det_model_name: PP-OCRv4_mobile_det
rec_model_name: PP-OCRv4_mobile_rec
```
模型文件需要存在于 `model_dir/official_models/` 下;不存在时首次识别会自动下载。
模型文件需要存在于 `model_dir/official_models/` 下;不存在时首次识别会自动下载。当前仓库的 `models/official_models/` 已包含这两套移动端模型,改完配置重启即可离线切换。
切换前建议先用 `benchmark_ocr.py` 和真实业务图片对比准确率:移动端模型体积小、速度快,但中文识别精度通常低于 PP-OCRv5 服务模型,且这两个模型属于 PP-OCRv4,不是 PP-OCRv5。不同业务对精度敏感度不同,请以实际样本为准。
切换前必须用 `benchmark_ocr.py` 和真实业务图片对比**字符数**:移动端体积小、速度快,但在文本密集的图片上会大面积丢字(实测 1.png 字符数只剩约 10%),详见上文「换成移动端模型」。这两个模型属于 PP-OCRv4,不是 PP-OCRv5。
其他提速方向: