Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -36,3 +36,109 @@ VTQA是一个新的数据集,包含关于图像-文本对的开放式问题。
|
|
| 36 |
|
| 37 |
数据集支持英文(en)和中文(zh)。
|
| 38 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 36 |
|
| 37 |
数据集支持英文(en)和中文(zh)。
|
| 38 |
|
| 39 |
+
## 数据集使用方法
|
| 40 |
+
|
| 41 |
+
### 安装
|
| 42 |
+
|
| 43 |
+
```python
|
| 44 |
+
# 从Hugging Face安装数据集
|
| 45 |
+
from datasets import load_dataset
|
| 46 |
+
|
| 47 |
+
# 加载VTQA数据集
|
| 48 |
+
dataset = load_dataset("CalfKing/vtqa2023")
|
| 49 |
+
```
|
| 50 |
+
|
| 51 |
+
### 配置参数
|
| 52 |
+
|
| 53 |
+
VTQA数据集提供了多种配置选项,可以根据需要选择不同的语言和图像类型:
|
| 54 |
+
|
| 55 |
+
#### 语言配置
|
| 56 |
+
|
| 57 |
+
- `en`: 仅加载英文数据
|
| 58 |
+
- `zh`: 仅加载中文数据
|
| 59 |
+
- `all`: 同时加载英文和中文数据(默认)
|
| 60 |
+
|
| 61 |
+
#### 图像类型配置
|
| 62 |
+
|
| 63 |
+
- `image`: 仅加载原始图像
|
| 64 |
+
- `region`: 仅加载区域图像
|
| 65 |
+
- `grid`: 仅加载网格图像
|
| 66 |
+
- `all`: 加载所有图像类型(默认)
|
| 67 |
+
|
| 68 |
+
#### 组合配置
|
| 69 |
+
|
| 70 |
+
可以组合语言和图像类型,例如:
|
| 71 |
+
- `en-image`: 英文数据和原始图像
|
| 72 |
+
- `zh-region`: 中文数据和区域图像
|
| 73 |
+
- `en-grid`: 英文数据和网格图像
|
| 74 |
+
|
| 75 |
+
### 高级参数
|
| 76 |
+
|
| 77 |
+
在使用`VTQAConfig`类时,可以设置以下参数:
|
| 78 |
+
|
| 79 |
+
- `use_cws`: 是否使用中文分词(默认为False)
|
| 80 |
+
- `local_url`: 本地数据路径,如果提供则优先使用本地数据
|
| 81 |
+
- `get_test_split`: 是否获取测试集(默认为False)
|
| 82 |
+
|
| 83 |
+
### 数据集结构
|
| 84 |
+
|
| 85 |
+
每个样本包含以下字段:
|
| 86 |
+
|
| 87 |
+
```
|
| 88 |
+
{
|
| 89 |
+
"question": 问题文本,
|
| 90 |
+
"question_id": 问题ID,
|
| 91 |
+
"context": 上下文文本,
|
| 92 |
+
"image_id": 图像ID,
|
| 93 |
+
"image_path": 图像路径(可能包含image/region/grid),
|
| 94 |
+
"answers": [
|
| 95 |
+
{
|
| 96 |
+
"answer_type": 答案类型,
|
| 97 |
+
"answer": 答案文本
|
| 98 |
+
}
|
| 99 |
+
],
|
| 100 |
+
"cws_path": 中文分词路径
|
| 101 |
+
}
|
| 102 |
+
```
|
| 103 |
+
|
| 104 |
+
### 使用示例
|
| 105 |
+
|
| 106 |
+
```python
|
| 107 |
+
# 加载英文数据和原始图像
|
| 108 |
+
dataset = load_dataset("CalfKing/vtqa2023", "en-image")
|
| 109 |
+
|
| 110 |
+
# 查看训练集的第一个样本
|
| 111 |
+
print(dataset["train"][0])
|
| 112 |
+
|
| 113 |
+
# 加载中文数据和所有图像类型
|
| 114 |
+
dataset = load_dataset("CalfKing/vtqa2023", "zh")
|
| 115 |
+
|
| 116 |
+
# 使用中文分词
|
| 117 |
+
from datasets import load_dataset
|
| 118 |
+
from vtqa2023 import _build_config
|
| 119 |
+
|
| 120 |
+
config = _build_config("zh", use_cws=True)
|
| 121 |
+
dataset = load_dataset("path/to/vtqa2023.py", config=config)
|
| 122 |
+
```
|
| 123 |
+
|
| 124 |
+
### 数据集分割
|
| 125 |
+
|
| 126 |
+
数据集包含以下分割:
|
| 127 |
+
- `train`: 训练集
|
| 128 |
+
- `validation`: 验证集
|
| 129 |
+
- `test_dev`: 开发测试集
|
| 130 |
+
- `test`: 测试集(仅当`get_test_split=True`时可用)
|
| 131 |
+
|
| 132 |
+
## 引用
|
| 133 |
+
|
| 134 |
+
如果您使用了VTQA数据集,请引用以下论文:
|
| 135 |
+
|
| 136 |
+
```
|
| 137 |
+
@inproceedings{chen2024vtqa,
|
| 138 |
+
title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
|
| 139 |
+
author={Chen, Kang and Wu, Xiangqian},
|
| 140 |
+
booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
|
| 141 |
+
pages={27218--27227},
|
| 142 |
+
year={2024}
|
| 143 |
+
}
|
| 144 |
+
```
|