Update README_zh-CN.md
Browse files- README_zh-CN.md +8 -25
README_zh-CN.md
CHANGED
|
@@ -25,12 +25,12 @@
|
|
| 25 |
|
| 26 |
**InduOCRBench** 是一个面向工业级 RAG 系统的 OCR Benchmark,覆盖真实企业场景中常见的 11 类高挑战文档类型。
|
| 27 |
|
| 28 |
-
该 Benchmark 聚焦于传统字符级 OCR 指标与真实下游 RAG 效果之间的鸿沟,从:
|
| 29 |
|
| 30 |
- OCR 识别保真度(OCR Fidelity)
|
| 31 |
- 端到端 RAG 检索与问答效果(RAG Impact)
|
| 32 |
|
| 33 |
-
|
| 34 |
|
| 35 |
---
|
| 36 |
|
|
@@ -60,13 +60,10 @@
|
|
| 60 |
## 🔍 关键发现
|
| 61 |
|
| 62 |
- 在标准 Benchmark(如 OmniDocBench)上接近满分的模型,在 InduOCRBench 上出现明显性能下降:
|
| 63 |
-
- PP-StructureV3 ↓ 26.4 pts
|
| 64 |
-
- PaddleOCR-VL ↓ 14.7 pts
|
| 65 |
|
| 66 |
- **高 OCR 准确率并不意味着高 RAG 效果。**
|
| 67 |
-
- `VisualStyle` 文档 OCR Accuracy 达到 82.9%
|
| 68 |
-
- 但 RAG Accuracy 仅有 52.8%
|
| 69 |
-
- 两者存在 30.1 pts 的巨大差距。
|
| 70 |
|
| 71 |
- OCR 引起的信息缺失,是所有 OCR-first RAG 架构中的稳定上游瓶颈。
|
| 72 |
|
|
@@ -88,14 +85,12 @@ ocr_data/
|
|
| 88 |
|
| 89 |
### 2. RAG Impact Evaluation
|
| 90 |
|
| 91 |
-
评估 OCR 质量对端到端:
|
| 92 |
|
| 93 |
- Retrieval
|
| 94 |
- Generation
|
| 95 |
- QA Accuracy
|
| 96 |
|
| 97 |
-
的影响。
|
| 98 |
-
|
| 99 |
对应目录:
|
| 100 |
|
| 101 |
```text
|
|
@@ -432,15 +427,7 @@ unzip md.zip
|
|
| 432 |
|
| 433 |
# 🔎 RAG Impact Evaluation
|
| 434 |
|
| 435 |
-
RAG Evaluation 用于评估 OCR 对端到端:
|
| 436 |
-
|
| 437 |
-
- Retrieval
|
| 438 |
-
- Generation
|
| 439 |
-
- QA
|
| 440 |
-
|
| 441 |
-
效果的影响。
|
| 442 |
-
|
| 443 |
-
相比字符级 OCR 指标,它更关注:
|
| 444 |
|
| 445 |
- 结构保留
|
| 446 |
- 语义保留
|
|
@@ -479,11 +466,7 @@ RAG Evaluation 用于评估 OCR 对端到端:
|
|
| 479 |
|
| 480 |
# ⚙️ RAG Pipeline Setup
|
| 481 |
|
| 482 |
-
我们采用
|
| 483 |
-
|
| 484 |
-
[FlashRAG](https://github.com/RUC-NLPIR/FlashRAG)
|
| 485 |
-
|
| 486 |
-
中的 Naive Pipeline。
|
| 487 |
|
| 488 |
配置如下:
|
| 489 |
|
|
@@ -572,6 +555,6 @@ RAG Evaluation 用于评估 OCR 对端到端:
|
|
| 572 |
eprint={2605.00911},
|
| 573 |
archivePrefix={arXiv},
|
| 574 |
primaryClass={cs.CV},
|
| 575 |
-
url={https://
|
| 576 |
}
|
| 577 |
```
|
|
|
|
| 25 |
|
| 26 |
**InduOCRBench** 是一个面向工业级 RAG 系统的 OCR Benchmark,覆盖真实企业场景中常见的 11 类高挑战文档类型。
|
| 27 |
|
| 28 |
+
该 Benchmark 聚焦于传统字符级 OCR 指标与真实下游 RAG 效果之间的鸿沟,从以下两个维度系统评估 OCR 的真实鲁棒性:
|
| 29 |
|
| 30 |
- OCR 识别保真度(OCR Fidelity)
|
| 31 |
- 端到端 RAG 检索与问答效果(RAG Impact)
|
| 32 |
|
| 33 |
+
|
| 34 |
|
| 35 |
---
|
| 36 |
|
|
|
|
| 60 |
## 🔍 关键发现
|
| 61 |
|
| 62 |
- 在标准 Benchmark(如 OmniDocBench)上接近满分的模型,在 InduOCRBench 上出现明显性能下降:
|
| 63 |
+
- PP-StructureV3 ↓ 26.4 pts, PaddleOCR-VL ↓ 14.7 pts
|
|
|
|
| 64 |
|
| 65 |
- **高 OCR 准确率并不意味着高 RAG 效果。**
|
| 66 |
+
- `VisualStyle` 文档 OCR Accuracy 达到 82.9%, 但 RAG Accuracy 仅有 52.8%, 两者存在 30.1 pts 的巨大差距。
|
|
|
|
|
|
|
| 67 |
|
| 68 |
- OCR 引起的信息缺失,是所有 OCR-first RAG 架构中的稳定上游瓶颈。
|
| 69 |
|
|
|
|
| 85 |
|
| 86 |
### 2. RAG Impact Evaluation
|
| 87 |
|
| 88 |
+
评估 OCR 质量对RAG端到端的影响:
|
| 89 |
|
| 90 |
- Retrieval
|
| 91 |
- Generation
|
| 92 |
- QA Accuracy
|
| 93 |
|
|
|
|
|
|
|
| 94 |
对应目录:
|
| 95 |
|
| 96 |
```text
|
|
|
|
| 427 |
|
| 428 |
# 🔎 RAG Impact Evaluation
|
| 429 |
|
| 430 |
+
RAG Evaluation 用于评估 OCR 质量对端到端RAG效果的影响,相比字符级 OCR 指标,它更关注:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 431 |
|
| 432 |
- 结构保留
|
| 433 |
- 语义保留
|
|
|
|
| 466 |
|
| 467 |
# ⚙️ RAG Pipeline Setup
|
| 468 |
|
| 469 |
+
我们采用 [FlashRAG](https://github.com/RUC-NLPIR/FlashRAG) 中的Naive Pipeline。
|
|
|
|
|
|
|
|
|
|
|
|
|
| 470 |
|
| 471 |
配置如下:
|
| 472 |
|
|
|
|
| 555 |
eprint={2605.00911},
|
| 556 |
archivePrefix={arXiv},
|
| 557 |
primaryClass={cs.CV},
|
| 558 |
+
url={https://github.com/Qihoo360/InduOCRBench},
|
| 559 |
}
|
| 560 |
```
|