Datasets:

CalfKing
/

vtqa2023

annotations_creators:
  - expert-generated
language_creators:
  - expert-generated
language:
  - en
  - zh
license:
  - cc-by-nc-nd-4.0
multilinguality:
  - multilingual
size_categories:
  - n<1K
source_datasets:
  - original
task_categories:
  - question-answering
task_ids:
  - visual-question-answering

Dataset Card for VTQA

Dataset Description

Homepage: VTQA Homepage
Repository: Github
Paper: VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning

Dataset Summary

VTQA是一个新的数据集，包含关于图像-文本对的开放式问题。这些问题需要多媒体实体对齐、多步推理和开放式答案生成。

Languages

数据集支持英文(en)和中文(zh)。

数据集使用方法

安装

# 从Hugging Face安装数据集
from datasets import load_dataset

# 加载VTQA数据集
dataset = load_dataset("CalfKing/vtqa2023")

配置参数

VTQA数据集提供了多种配置选项，可以根据需要选择不同的语言和图像类型：

语言配置

en: 仅加载英文数据
zh: 仅加载中文数据
all: 同时加载英文和中文数据（默认）

图像类型配置

image: 仅加载原始图像
region: 仅加载区域图像
grid: 仅加载网格图像
all: 加载所有图像类型（默认）

组合配置

可以组合语言和图像类型，例如：

en-image: 英文数据和原始图像
zh-region: 中文数据和区域图像
en-grid: 英文数据和网格图像

高级参数

在使用VTQAConfig类时，可以设置以下参数：

use_cws: 是否使用中文分词（默认为False）
local_url: 本地数据路径，如果提供则优先使用本地数据
get_test_split: 是否获取测试集（默认为False）

数据集结构

每个样本包含以下字段：

{
    "question": 问题文本,
    "question_id": 问题ID,
    "context": 上下文文本,
    "image_id": 图像ID,
    "image_path": 图像路径(可能包含image/region/grid),
    "answers": [
        {
            "answer_type": 答案类型,
            "answer": 答案文本
        }
    ],
    "cws_path": 中文分词路径
}

使用示例

# 加载英文数据和原始图像
dataset = load_dataset("CalfKing/vtqa2023", "en-image")

# 查看训练集的第一个样本
print(dataset["train"][0])

# 加载中文数据和所有图像类型
dataset = load_dataset("CalfKing/vtqa2023", "zh")

# 使用中文分词
from datasets import load_dataset
from vtqa2023 import _build_config

config = _build_config("zh", use_cws=True)
dataset = load_dataset("path/to/vtqa2023.py", config=config)

数据集分割

数据集包含以下分割：

train: 训练集
validation: 验证集
test_dev: 开发测试集
test: 测试集（仅当get_test_split=True时可用）

引用

如果您使用了VTQA数据集，请引用以下论文：

@inproceedings{chen2024vtqa,
  title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
  author={Chen, Kang and Wu, Xiangqian},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  pages={27218--27227},
  year={2024}
}