init2.1
This commit is contained in:
@@ -152,6 +152,33 @@ batch 8 + cpu_threads 4 : 约 114 秒
|
||||
50% → 80% 文字识别 约 50 秒 ← 主要瓶颈
|
||||
```
|
||||
|
||||
注意:同一配置在不同时间实测波动较大(同一图片分别测到 66 秒和 128 秒),比较参数时请在相同时间段多测几次,不要只看单次结果。
|
||||
|
||||
### 是否使用多核
|
||||
|
||||
不是单核推理。PaddleX 默认 `cpu_threads = 10`(可用 `cpu_threads` 配置项覆盖),20 逻辑核机器上的实测 CPU 占用:
|
||||
|
||||
```text
|
||||
检测阶段 CPU 约 94%~105% (约 1 个核)
|
||||
识别阶段 CPU 约 534%~686% (约 5.3~6.9 个核)
|
||||
平均约 553%,即约 5.5 个核,20 核未跑满
|
||||
```
|
||||
|
||||
结论:
|
||||
|
||||
- 识别阶段是多线程的,约占 5~7 个核;
|
||||
- 检测阶段接近单核,这是关闭 oneDNN 后检测耗时约 13 秒的主要原因;
|
||||
- 20 核没有跑满,说明并行效率不高,瓶颈在「未启用 oneDNN 的 CPU 算子」,而不是核心数不够。
|
||||
|
||||
线程数对耗时的影响(同图、`batch 8`):
|
||||
|
||||
```text
|
||||
cpu_threads=4 约 114 秒
|
||||
cpu_threads=10 约 60 秒
|
||||
```
|
||||
|
||||
可调整 `cpu_threads` 实测,建议不超过物理核心数,并用 `benchmark_ocr.py` 对比。
|
||||
|
||||
关闭 oneDNN 是必须的:`enable_mkldnn=True` 会触发 PaddlePaddle 3.3.1 的缺陷并直接失败:
|
||||
|
||||
```text
|
||||
@@ -509,6 +536,7 @@ log_level: INFO
|
||||
| `text_det_unclip_ratio` | `1.5` | 检测框扩张比例 |
|
||||
| `text_rec_score_thresh` | `0.0` | 识别结果阈值 |
|
||||
| `text_recognition_batch_size` | `1` | 识别批量大小;内存足够时可提高 |
|
||||
| `cpu_threads` | `10` | CPU 推理线程数(Paddle `cpu_math_library_num_threads`) |
|
||||
| `log_level` | `INFO` | 日志级别:`DEBUG`、`INFO`、`WARNING`、`ERROR` |
|
||||
|
||||
接口文档:启动后访问 <http://127.0.0.1:8000/docs>。
|
||||
|
||||
Reference in New Issue
Block a user