CalfKing commited on
Commit
720e9e8
·
verified ·
1 Parent(s): dcb4f61

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +106 -0
README.md CHANGED
@@ -36,3 +36,109 @@ VTQA是一个新的数据集,包含关于图像-文本对的开放式问题。
36
 
37
  数据集支持英文(en)和中文(zh)。
38
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
36
 
37
  数据集支持英文(en)和中文(zh)。
38
 
39
+ ## 数据集使用方法
40
+
41
+ ### 安装
42
+
43
+ ```python
44
+ # 从Hugging Face安装数据集
45
+ from datasets import load_dataset
46
+
47
+ # 加载VTQA数据集
48
+ dataset = load_dataset("CalfKing/vtqa2023")
49
+ ```
50
+
51
+ ### 配置参数
52
+
53
+ VTQA数据集提供了多种配置选项,可以根据需要选择不同的语言和图像类型:
54
+
55
+ #### 语言配置
56
+
57
+ - `en`: 仅加载英文数据
58
+ - `zh`: 仅加载中文数据
59
+ - `all`: 同时加载英文和中文数据(默认)
60
+
61
+ #### 图像类型配置
62
+
63
+ - `image`: 仅加载原始图像
64
+ - `region`: 仅加载区域图像
65
+ - `grid`: 仅加载网格图像
66
+ - `all`: 加载所有图像类型(默认)
67
+
68
+ #### 组合配置
69
+
70
+ 可以组合语言和图像类型,例如:
71
+ - `en-image`: 英文数据和原始图像
72
+ - `zh-region`: 中文数据和区域图像
73
+ - `en-grid`: 英文数据和网格图像
74
+
75
+ ### 高级参数
76
+
77
+ 在使用`VTQAConfig`类时,可以设置以下参数:
78
+
79
+ - `use_cws`: 是否使用中文分词(默认为False)
80
+ - `local_url`: 本地数据路径,如果提供则优先使用本地数据
81
+ - `get_test_split`: 是否获取测试集(默认为False)
82
+
83
+ ### 数据集结构
84
+
85
+ 每个样本包含以下字段:
86
+
87
+ ```
88
+ {
89
+ "question": 问题文本,
90
+ "question_id": 问题ID,
91
+ "context": 上下文文本,
92
+ "image_id": 图像ID,
93
+ "image_path": 图像路径(可能包含image/region/grid),
94
+ "answers": [
95
+ {
96
+ "answer_type": 答案类型,
97
+ "answer": 答案文本
98
+ }
99
+ ],
100
+ "cws_path": 中文分词路径
101
+ }
102
+ ```
103
+
104
+ ### 使用示例
105
+
106
+ ```python
107
+ # 加载英文数据和原始图像
108
+ dataset = load_dataset("CalfKing/vtqa2023", "en-image")
109
+
110
+ # 查看训练集的第一个样本
111
+ print(dataset["train"][0])
112
+
113
+ # 加载中文数据和所有图像类型
114
+ dataset = load_dataset("CalfKing/vtqa2023", "zh")
115
+
116
+ # 使用中文分词
117
+ from datasets import load_dataset
118
+ from vtqa2023 import _build_config
119
+
120
+ config = _build_config("zh", use_cws=True)
121
+ dataset = load_dataset("path/to/vtqa2023.py", config=config)
122
+ ```
123
+
124
+ ### 数据集分割
125
+
126
+ 数据集包含以下分割:
127
+ - `train`: 训练集
128
+ - `validation`: 验证集
129
+ - `test_dev`: 开发测试集
130
+ - `test`: 测试集(仅当`get_test_split=True`时可用)
131
+
132
+ ## 引用
133
+
134
+ 如果您使用了VTQA数据集,请引用以下论文:
135
+
136
+ ```
137
+ @inproceedings{chen2024vtqa,
138
+ title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
139
+ author={Chen, Kang and Wu, Xiangqian},
140
+ booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
141
+ pages={27218--27227},
142
+ year={2024}
143
+ }
144
+ ```