init2.2
This commit is contained in:
@@ -156,7 +156,7 @@ batch 8 + cpu_threads 4 : 约 114 秒
|
||||
|
||||
### 是否使用多核
|
||||
|
||||
不是单核推理。PaddleX 默认 `cpu_threads = 10`(可用 `cpu_threads` 配置项覆盖),20 逻辑核机器上的实测 CPU 占用:
|
||||
不是单核推理。PaddleX 默认 `cpu_threads = 10`(可用 `cpu_threads` 配置项覆盖),测试机为 20 逻辑核 / 14 物理核,实测 CPU 占用:
|
||||
|
||||
```text
|
||||
检测阶段 CPU 约 94%~105% (约 1 个核)
|
||||
@@ -188,25 +188,82 @@ NotImplementedError: ConvertPirAttribute2RuntimeAttribute not support
|
||||
|
||||
因此该配置下慢的根因是「CPU 推理未启用 oneDNN」,不是队列或接口阻塞。
|
||||
|
||||
### 换成移动端模型(实测约 3.4 倍提速)
|
||||
### 换成移动端模型:速度提升极大,但密集文本会严重丢字
|
||||
|
||||
同一张图片、同样 `text_det_limit_side_len: 960` 与 `text_recognition_batch_size: 8`:
|
||||
⚠️ 这一档**不适合文本密集的图片**,务必先用自己的图验证。
|
||||
|
||||
| 模型组合 | 模型体积 | 识别耗时 | 识别行数 |
|
||||
| --- | --- | --- | --- |
|
||||
| `PP-OCRv5_server_det` + `PP-OCRv5_server_rec` | 约 167 MB | 约 60 秒 | 34 |
|
||||
| `PP-OCRv4_mobile_det` + `PP-OCRv4_mobile_rec` | 约 16 MB | 约 18 秒 | 39 |
|
||||
统一参数:`text_det_limit_side_len: 640`、`cpu_threads: 20`、`text_recognition_batch_size: 8`。
|
||||
|
||||
切换方式:
|
||||
**稀疏图片(官方示例 896x528,文本少)**
|
||||
|
||||
| 模型组合 | 体积 | 耗时 | 片段数 | 字符数 |
|
||||
| --- | --- | --- | --- | --- |
|
||||
| `PP-OCRv5_server_det` + `PP-OCRv5_server_rec` | 约 167 MB | 70.45s | 34 | 253 |
|
||||
| `PP-OCRv4_mobile_det` + `PP-OCRv4_mobile_rec` | 约 16 MB | 10.34s | 36 | — |
|
||||
|
||||
稀疏图上两者识别内容大体一致,移动端仅漏掉一行小字水印,看起来差异不大。
|
||||
|
||||
**密集图片(1920x1080,文本多)—— 差距是数量级的**
|
||||
|
||||
| 图片 | 模型组合 | 耗时 | 片段数 | 字符数 |
|
||||
| --- | --- | --- | --- | --- |
|
||||
| 1.png | v5 server | 747.96s | 339 | 1747 |
|
||||
| 1.png | v4 mobile | **7.82s** | **46** | **166(仅剩 10%)** |
|
||||
| 2.png | v5 server | 213.52s | 73 | 428 |
|
||||
| 2.png | v4 mobile | **6.03s** | **27** | **243(剩 57%)** |
|
||||
|
||||
1.png 上移动端快了约 95 倍,但**丢掉了约 90% 的文字**。主要瓶颈在 `PP-OCRv4_mobile_det`:它只检出 46 个框,而 v5 server 检出 339 个,密集小字基本没检测出来。
|
||||
|
||||
结论:
|
||||
|
||||
- 图片文本稀疏(票据、证件、少数字段)→ 移动端可用,收益巨大;
|
||||
- 图片文本密集(表格、文档、截图)→ **不要用移动端**,会大面积丢字;
|
||||
- 判断标准不是分辨率,而是**文本密度**,必须用自己的真实图片实测。
|
||||
|
||||
### text_det_limit_side_len 与文本密度强相关
|
||||
|
||||
对 1920x1080 的密集图片实测:
|
||||
|
||||
| 边长 | 1.png | 2.png |
|
||||
| --- | --- | --- |
|
||||
| 640 | 339 框 / 1747 字符 | 73 框 / 428 字符 |
|
||||
| 320 | **0 框 / 0 字符** | 8 框 / 59 字符 |
|
||||
|
||||
1.png 在 320 下**完全检不出任何文字**:1920px 按 6 倍下采样后,约 10px 高的文字只剩约 1.7px。这不是平滑降精度,而是断崖式失效。
|
||||
|
||||
因此:
|
||||
|
||||
- 大图请保持 `640` 或更高,**不要低于 640**;
|
||||
- `480` 以下只适合小尺寸、大字号的图片;
|
||||
- 检测耗时本身只占 1%~10%(上面两图分别是 7.9s 和 9.0s),压低它对总时长几乎没有帮助。
|
||||
|
||||
### 识别耗时与文本框数量成正比
|
||||
|
||||
这是本项目的核心性能特征,来自实测:
|
||||
|
||||
```text
|
||||
1.png 339 框 → 识别 740s (约 2.2 秒/框)
|
||||
2.png 73 框 → 识别 204s (约 2.8 秒/框)
|
||||
官方样例 34 框 → 识别 62s (约 1.8 秒/框)
|
||||
```
|
||||
|
||||
所以决定单张图耗时的是**框数**,而不是图片像素数。降低耗时的手段按有效性排序:
|
||||
|
||||
1. 减少框数(代价是丢字,例如提高 `text_det_box_thresh`);
|
||||
2. 换更快的识别模型(注意上面的丢字风险);
|
||||
3. 提高 `cpu_threads`、`text_recognition_batch_size`;
|
||||
4. 让 oneDNN 可用(换 PaddlePaddle 版本)或使用 GPU。
|
||||
|
||||
切换方式(`config.yaml` 里已预置注释行,去掉注释即可):
|
||||
|
||||
```yaml
|
||||
det_model_name: PP-OCRv4_mobile_det
|
||||
rec_model_name: PP-OCRv4_mobile_rec
|
||||
```
|
||||
|
||||
模型文件需要存在于 `model_dir/official_models/` 下;不存在时首次识别会自动下载。
|
||||
模型文件需要存在于 `model_dir/official_models/` 下;不存在时首次识别会自动下载。当前仓库的 `models/official_models/` 已包含这两套移动端模型,改完配置重启即可离线切换。
|
||||
|
||||
切换前建议先用 `benchmark_ocr.py` 和真实业务图片对比准确率:移动端模型体积小、速度快,但中文识别精度通常低于 PP-OCRv5 服务模型,且这两个模型属于 PP-OCRv4,不是 PP-OCRv5。不同业务对精度敏感度不同,请以实际样本为准。
|
||||
切换前必须用 `benchmark_ocr.py` 和真实业务图片对比**字符数**:移动端体积小、速度快,但在文本密集的图片上会大面积丢字(实测 1.png 字符数只剩约 10%),详见上文「换成移动端模型」。这两个模型属于 PP-OCRv4,不是 PP-OCRv5。
|
||||
|
||||
其他提速方向:
|
||||
|
||||
|
||||
Reference in New Issue
Block a user