Hugging Face's logo

Datasets:
CalfKing
/
vtqa2023

Tasks:
Question Answering
Sub-tasks:
visual-question-answering
Languages:
English
Chinese
Size:
n<1K
License:
Dataset card Files
xet
 Community
vtqa2023
File size: 3,511 Bytes
f96cbb1
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
720e9e8
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
---
annotations_creators:
- expert-generated
language_creators:
- expert-generated
language:
- en
- zh
license:
- cc-by-nc-nd-4.0
multilinguality:
- multilingual
size_categories:
- n<1K
source_datasets:
- original
task_categories:
- question-answering
task_ids:
- visual-question-answering
---

# Dataset Card for VTQA

## Dataset Description

- **Homepage:** [VTQA Homepage](https://visual-text-qa.github.io/)
- **Repository:** [Github](https://github.com/visual-text-QA/VTQA-Demo)
- **Paper:** [VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning](https://openaccess.thecvf.com/content/CVPR2024/html/Chen_VTQA_Visual_Text_Question_Answering_via_Entity_Alignment_and_Cross-Media_CVPR_2024_paper.html)

### Dataset Summary

VTQA是一个新的数据集，包含关于图像-文本对的开放式问题。这些问题需要多媒体实体对齐、多步推理和开放式答案生成。

### Languages

数据集支持英文(en)和中文(zh)。

## 数据集使用方法

### 安装

```python
# 从Hugging Face安装数据集
from datasets import load_dataset

# 加载VTQA数据集
dataset = load_dataset("CalfKing/vtqa2023")
```

### 配置参数

VTQA数据集提供了多种配置选项，可以根据需要选择不同的语言和图像类型：

#### 语言配置

- `en`: 仅加载英文数据
- `zh`: 仅加载中文数据
- `all`: 同时加载英文和中文数据（默认）

#### 图像类型配置

- `image`: 仅加载原始图像
- `region`: 仅加载区域图像
- `grid`: 仅加载网格图像
- `all`: 加载所有图像类型（默认）

#### 组合配置

可以组合语言和图像类型，例如：
- `en-image`: 英文数据和原始图像
- `zh-region`: 中文数据和区域图像
- `en-grid`: 英文数据和网格图像

### 高级参数

在使用`VTQAConfig`类时，可以设置以下参数：

- `use_cws`: 是否使用中文分词（默认为False）
- `local_url`: 本地数据路径，如果提供则优先使用本地数据
- `get_test_split`: 是否获取测试集（默认为False）

### 数据集结构

每个样本包含以下字段：

```
{
    "question": 问题文本,
    "question_id": 问题ID,
    "context": 上下文文本,
    "image_id": 图像ID,
    "image_path": 图像路径(可能包含image/region/grid),
    "answers": [
        {
            "answer_type": 答案类型,
            "answer": 答案文本
        }
    ],
    "cws_path": 中文分词路径
}
```

### 使用示例

```python
# 加载英文数据和原始图像
dataset = load_dataset("CalfKing/vtqa2023", "en-image")

# 查看训练集的第一个样本
print(dataset["train"][0])

# 加载中文数据和所有图像类型
dataset = load_dataset("CalfKing/vtqa2023", "zh")

# 使用中文分词
from datasets import load_dataset
from vtqa2023 import _build_config

config = _build_config("zh", use_cws=True)
dataset = load_dataset("path/to/vtqa2023.py", config=config)
```

### 数据集分割

数据集包含以下分割：
- `train`: 训练集
- `validation`: 验证集
- `test_dev`: 开发测试集
- `test`: 测试集（仅当`get_test_split=True`时可用）

## 引用

如果您使用了VTQA数据集，请引用以下论文：

```
@inproceedings{chen2024vtqa,
  title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
  author={Chen, Kang and Wu, Xiangqian},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  pages={27218--27227},
  year={2024}
}
```