---
annotations_creators:
- expert-generated
language_creators:
- expert-generated
language:
- en
- zh
license:
- cc-by-nc-nd-4.0
multilinguality:
- multilingual
size_categories:
- n<1K
source_datasets:
- original
task_categories:
- question-answering
task_ids:
- visual-question-answering
---

# Dataset Card for VTQA

## Dataset Description

- **Homepage:** [VTQA Homepage](https://visual-text-qa.github.io/)
- **Repository:** [Github](https://github.com/visual-text-QA/VTQA-Demo)
- **Paper:** [VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning](https://openaccess.thecvf.com/content/CVPR2024/html/Chen_VTQA_Visual_Text_Question_Answering_via_Entity_Alignment_and_Cross-Media_CVPR_2024_paper.html)

### Dataset Summary

VTQA是一个新的数据集，包含关于图像-文本对的开放式问题。这些问题需要多媒体实体对齐、多步推理和开放式答案生成。

### Languages

数据集支持英文(en)和中文(zh)。

## 数据集使用方法

### 安装

```python
# 从Hugging Face安装数据集
from datasets import load_dataset

# 加载VTQA数据集
dataset = load_dataset("CalfKing/vtqa2023")
```

### 配置参数

VTQA数据集提供了多种配置选项，可以根据需要选择不同的语言和图像类型：

#### 语言配置

- `en`: 仅加载英文数据
- `zh`: 仅加载中文数据
- `all`: 同时加载英文和中文数据（默认）

#### 图像类型配置

- `image`: 仅加载原始图像
- `region`: 仅加载区域图像
- `grid`: 仅加载网格图像
- `all`: 加载所有图像类型（默认）

#### 组合配置

可以组合语言和图像类型，例如：
- `en-image`: 英文数据和原始图像
- `zh-region`: 中文数据和区域图像
- `en-grid`: 英文数据和网格图像

### 高级参数

在使用`VTQAConfig`类时，可以设置以下参数：

- `use_cws`: 是否使用中文分词（默认为False）
- `local_url`: 本地数据路径，如果提供则优先使用本地数据
- `get_test_split`: 是否获取测试集（默认为False）

### 数据集结构

每个样本包含以下字段：

```
{
    "question": 问题文本,
    "question_id": 问题ID,
    "context": 上下文文本,
    "image_id": 图像ID,
    "image_path": 图像路径(可能包含image/region/grid),
    "answers": [
        {
            "answer_type": 答案类型,
            "answer": 答案文本
        }
    ],
    "cws_path": 中文分词路径
}
```

### 使用示例

```python
# 加载英文数据和原始图像
dataset = load_dataset("CalfKing/vtqa2023", "en-image")

# 查看训练集的第一个样本
print(dataset["train"][0])

# 加载中文数据和所有图像类型
dataset = load_dataset("CalfKing/vtqa2023", "zh")

# 使用中文分词
from datasets import load_dataset
from vtqa2023 import _build_config

config = _build_config("zh", use_cws=True)
dataset = load_dataset("path/to/vtqa2023.py", config=config)
```

### 数据集分割

数据集包含以下分割：
- `train`: 训练集
- `validation`: 验证集
- `test_dev`: 开发测试集
- `test`: 测试集（仅当`get_test_split=True`时可用）

## 引用

如果您使用了VTQA数据集，请引用以下论文：

```
@inproceedings{chen2024vtqa,
  title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
  author={Chen, Kang and Wu, Xiangqian},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  pages={27218--27227},
  year={2024}
}
```