question_id stringclasses 5
values | question stringclasses 5
values | answers stringclasses 5
values | context stringclasses 5
values |
|---|---|---|---|
NIILC-ECQA2015-00007-01 | ハリーポッターの著者は誰？ | J・K・ローリング | {{Otheruseslist|小説シリーズ|同作品上のキャラクター|ハリー・ポッター (架空の人物)|映画シリーズ|ハリー・ポッター (映画シリーズ)|フランチャイズ|魔法ワールド|その他の用法|ハリー・ポッター (曖昧さ回避)}}{{Expand English|Harry Potter|date=2021年1月}}{{ウィキプロジェクト ハリーポッターシリーズ}}{{Infobox book series|name=ハリー・ポッター|image=|caption=|title_orig=Harry Potter|books={{Plainlist|・ 『ハリー・ポッターと賢者の石』（1997年）・ 『ハリー・ポッターと秘密の... |
NIILC-ECQA2015-00011-01 | 軽自動車は何cc以下から？ | 660cc以下 | {{半保護}}{{簡易区別|エンジン付きの「超小型車」と「ミニカー」およびエンジンの無い「軽車両」}}{{Pathnav|自動車|日本における自動車|frame=1}}{{Law}}軽自動車（けいじどうしゃ）は、現行の道路運送車両法からすれば、日本での自動車規格の中で最も小さい規格に当てはまる、排気量660 cc以下の三輪、四輪自動車のこと。125 cc超250 cc以下（側車付きの場合は、50 ccを超え250 cc以下）の二輪車も指す。自動車は軽三輪、軽四輪、二輪車は軽二輪ともいう。一般的には単に軽と呼ばれる事が多い。元来は日本国外の{{仮リンク|キャビンスクーター|en|Cabin cycle}}などの一種であったが、現在はよ... |
NIILC-ECQA2015-00014-01 | 向日葵は何科の植物？ | キク科 | {{Otheruses}}{{生物分類表|名称=ヒマワリ|色=lightgreen|画像=|界=植物界 {{Sname||Plantae}}|門階級なし=被子植物 {{Sname||Angiosperms}}|綱階級なし=真正双子葉類 {{Sname||Eudicots}}|亜綱階級なし=キク類 {{Sname||Asterids}}|目=キク目 {{Sname||Asterales}}|科=キク科 {{Sname||Asteraceae}}|亜科=キク亜科 {{Sname||Asteroideae}}|属=ヒマワリ属 {{Snamei||Helianthus}}|種=ヒマワリ {{Snamei|H. annuus}}|学名={{S... |
NIILC-ECQA2015-00017-01 | 入道雲はどの季節に発生するの？ | 夏 | {{Redirect|入道雲|積雲型入道雲|積雲|シュノーケルの楽曲|solar wind}}{{Infobox 雲|名称=積乱雲|画像=Wagga-Cumulonimbus.jpg|画像説明=積乱雲|略記号=Cb|記号=または|類=積乱雲|高度=地上付近 - 約16,000|階級=下層雲|特徴=非常に大きい、上に向かって成長する|降水=有（激しい雨や雪に雷を伴うことが多い）}}積乱雲（せきらんうん、）とは、強い上昇気流の影響で鉛直方向へ発達した巨大な雲で、雲底から雲頂までの高さは数千メートル(m)、ときに1万 mを超えることもある{{Sfn|小倉|2016|p=100}}。また、他に雷雲（らいうん、かみなりぐも）、入道雲（にゅうど... |
NIILC-ECQA2015-00026-01 | 麻雀発祥の地は？ | 中国 | "{{Chinese|pic = Mahjong in Hangzhou.jpg|picsize = 200px|piccap = 中国・杭州市の公園で麻(...TRUNCATED) |
llm-jp-longbench-NIILC
llm-jp LongBench ベンチマークについて
このデータセットは，GitHub リポジトリ
https://github.com/llm-jp/llm-jp-longbench
で公開されているllm-jp LongBenchベンチマークの評価対象データセットの一部として構築されています。
llm-jp LongBench ベンチマークは，日本語大型言語モデル（LLM）の
ロングコンテキスト処理能力を体系的に評価することを目的としており，
複数の長文コンテキスト QA データセットを含んでいます。
本データセットはその一つです。
データセット概要
本データセットは，日本語質問応答データセット NIILC （Sekine, 2003）を基に， 回答が一意に定まり，かつ時間によって正解が変化しない質問のみを選別し， それらに対応する Wikipedia 記事をコンテキストとして付与することで構築した， ロングコンテキスト QA 評価用データセットです。
LLMの長文コンテキスト下における日本語 QA 性能を評価することを目的としています。
元データセットと改変内容
元データセット
- NIILC
- 質問応答システム研究のために構築された日本語 QA データセット
- 出典：Sekine (2003)
本データセットで行った改変
本データセットは NIILC を基にした派生データセットです。
以下の改変を行っています。
- 回答が一意に定まる質問のみを抽出
- 時間依存的に正解が変化しない質問のみを使用
- 各質問に対し，回答の根拠となる日本語 Wikipedia 記事を付与
派生物であるため，本データセットは CC BY-SA 4.0 ライセンスの下で公開されています。
データ構造
各サンプルは以下のカラムを持ちます。
| カラム名 | 説明 |
|---|---|
question_id |
質問 ID |
question |
質問文（日本語） |
context |
Wikipedia 由来の長文コンテキスト |
answer / gold |
正解回答 |
主に以下のファイルで構成されています。
niilc_test_with_context.csvniilc_dev_with_context.csv
使用例
from datasets import load_dataset
dataset = load_dataset("llm-jp/llm-jp-longbench-niilc")
参考文献
- Satoshi Sekine. 2003. Development of a question answering system focused on an encyclopedia. 9th Annual Meeting of the Association for Natural Language Processing. (in Japanese)
- Downloads last month
- 19