| --- |
| annotations_creators: |
| - expert-generated |
| language_creators: |
| - expert-generated |
| language: |
| - en |
| - zh |
| license: |
| - cc-by-nc-nd-4.0 |
| multilinguality: |
| - multilingual |
| size_categories: |
| - n<1K |
| source_datasets: |
| - original |
| task_categories: |
| - question-answering |
| task_ids: |
| - visual-question-answering |
| --- |
| |
| # Dataset Card for VTQA |
|
|
| ## Dataset Description |
|
|
| - **Homepage:** [VTQA Homepage](https://visual-text-qa.github.io/) |
| - **Repository:** [Github](https://github.com/visual-text-QA/VTQA-Demo) |
| - **Paper:** [VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning](https://openaccess.thecvf.com/content/CVPR2024/html/Chen_VTQA_Visual_Text_Question_Answering_via_Entity_Alignment_and_Cross-Media_CVPR_2024_paper.html) |
|
|
| ### Dataset Summary |
|
|
| VTQA是一个新的数据集，包含关于图像-文本对的开放式问题。这些问题需要多媒体实体对齐、多步推理和开放式答案生成。 |
|
|
| ### Languages |
|
|
| 数据集支持英文(en)和中文(zh)。 |
|
|
| ## 数据集使用方法 |
|
|
| ### 安装 |
|
|
| ```python |
| # 从Hugging Face安装数据集 |
| from datasets import load_dataset |
| |
| # 加载VTQA数据集 |
| dataset = load_dataset("CalfKing/vtqa2023") |
| ``` |
|
|
| ### 配置参数 |
|
|
| VTQA数据集提供了多种配置选项，可以根据需要选择不同的语言和图像类型： |
|
|
| #### 语言配置 |
|
|
| - `en`: 仅加载英文数据 |
| - `zh`: 仅加载中文数据 |
| - `all`: 同时加载英文和中文数据（默认） |
|
|
| #### 图像类型配置 |
|
|
| - `image`: 仅加载原始图像 |
| - `region`: 仅加载区域图像 |
| - `grid`: 仅加载网格图像 |
| - `all`: 加载所有图像类型（默认） |
|
|
| #### 组合配置 |
|
|
| 可以组合语言和图像类型，例如： |
| - `en-image`: 英文数据和原始图像 |
| - `zh-region`: 中文数据和区域图像 |
| - `en-grid`: 英文数据和网格图像 |
|
|
| ### 高级参数 |
|
|
| 在使用`VTQAConfig`类时，可以设置以下参数： |
|
|
| - `use_cws`: 是否使用中文分词（默认为False） |
| - `local_url`: 本地数据路径，如果提供则优先使用本地数据 |
| - `get_test_split`: 是否获取测试集（默认为False） |
|
|
| ### 数据集结构 |
|
|
| 每个样本包含以下字段： |
|
|
| ``` |
| { |
| "question": 问题文本, |
| "question_id": 问题ID, |
| "context": 上下文文本, |
| "image_id": 图像ID, |
| "image_path": 图像路径(可能包含image/region/grid), |
| "answers": [ |
| { |
| "answer_type": 答案类型, |
| "answer": 答案文本 |
| } |
| ], |
| "cws_path": 中文分词路径 |
| } |
| ``` |
|
|
| ### 使用示例 |
|
|
| ```python |
| # 加载英文数据和原始图像 |
| dataset = load_dataset("CalfKing/vtqa2023", "en-image") |
| |
| # 查看训练集的第一个样本 |
| print(dataset["train"][0]) |
| |
| # 加载中文数据和所有图像类型 |
| dataset = load_dataset("CalfKing/vtqa2023", "zh") |
| |
| # 使用中文分词 |
| from datasets import load_dataset |
| from vtqa2023 import _build_config |
| |
| config = _build_config("zh", use_cws=True) |
| dataset = load_dataset("path/to/vtqa2023.py", config=config) |
| ``` |
|
|
| ### 数据集分割 |
|
|
| 数据集包含以下分割： |
| - `train`: 训练集 |
| - `validation`: 验证集 |
| - `test_dev`: 开发测试集 |
| - `test`: 测试集（仅当`get_test_split=True`时可用） |
|
|
| ## 引用 |
|
|
| 如果您使用了VTQA数据集，请引用以下论文： |
|
|
| ``` |
| @inproceedings{chen2024vtqa, |
| title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning}, |
| author={Chen, Kang and Wu, Xiangqian}, |
| booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition}, |
| pages={27218--27227}, |
| year={2024} |
| } |
| ``` |
|
|
