One ruler to measure them all: Benchmarking multilingual long-context language models
Paper • 2503.01996 • Published • 1
context stringlengths 34.1k 47.2k | question stringclasses 588
values | answer_prefix stringclasses 2
values | answer listlengths 1 10 | task stringclasses 7
values | language stringclasses 1
value | max_new_tokens int64 30 50 |
|---|---|---|---|---|---|---|
1. umačkáme 2. mířena 3. střihem 4. uvolňovat 5. nejfascinovanějšího 6. přeskočena 7. pořádky 8. přisávána 9. poklimbávaly 10. znehybňuji 11. vytvrdneme 12. nepostradatelnému 13. roztancujou 14. pomrkávaly 15. poklimbávaly 16. rozžvýká 17. odebralo 18. přepracovávány 19. zatrpknu 20. kapitánové 21. uvolňovat 22. shroma... | Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jiná. Zapamatuj si ta, která se vyskytují nejčastěji
<Seznam>
</Seznam>
<Otázka> Jakých je 10 nejčastějších slov ve výše uvedeném seznamu? </Otázka>
Uveď svou odpověď v následujícím formátu:
<Odpověď> Zde uveď slova </Odpověď>
| [
"obnosil",
"roztancujou",
"nektarový",
"iniciátory",
"úřaduj",
"sklerotik",
"udýchaném",
"prskáno",
"pomrkávaly",
"pomoč"
] | cwe | cs | 50 | |
1. uznaly 2. zhodnocuješ 3. limitní 4. upevňuje 5. vypláchni 6. mantinelem 7. věře 8. demokratičtějšího 9. zachycovali 10. zapověditelnější 11. obslouženy 12. vykrystalizováni 13. kvadráty 14. secvičujeme 15. stejnokrojích 16. odebralo 17. zachutnám 18. zrodů 19. depům 20. fofroval 21. elitářství 22. zablácený 23. libé... | Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jiná. Zapamatuj si ta, která se vyskytují nejčastěji
<Seznam>
</Seznam>
<Otázka> Jakých je 10 nejčastějších slov ve výše uvedeném seznamu? </Otázka>
Uveď svou odpověď v následujícím formátu:
<Odpověď> Zde uveď slova </Odpověď>
| [
"zdvořilostem",
"nedotáčivostmi",
"obslouženy",
"praporkem",
"scvakneme",
"vykrystalizováni",
"uznaly",
"kotlíků",
"niterných",
"fofroval"
] | cwe | cs | 50 | |
1. vyzvěte 2. moderátorský 3. papila 4. odpálkuješ 5. tomografem 6. šťourali 7. obdivnějšímu 8. párali 9. zasmějete 10. zrazována 11. doťuknout 12. zdevastujeme 13. vyořeme 14. jachtařovi 15. podemlelo 16. prožíralo 17. magnetometrech 18. udýchaném 19. zdobeno 20. vagonům 21. centrálním 22. dobalujete 23. ochuceny 24. ... | Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jiná. Zapamatuj si ta, která se vyskytují nejčastěji
<Seznam>
</Seznam>
<Otázka> Jakých je 10 nejčastějších slov ve výše uvedeném seznamu? </Otázka>
Uveď svou odpověď v následujícím formátu:
<Odpověď> Zde uveď slova </Odpověď>
| [
"monotónní",
"chňapána",
"doťuknout",
"vášnilo",
"provizorní",
"zdevastujeme",
"vyzvěte",
"ubytujme",
"vyzvěděna",
"vagonům"
] | cwe | cs | 50 | |
1. nepodobnějších 2. plynojem 3. dotáhnout 4. nezávaznějším 5. nejřezavějšími 6. nejprodávanějšími 7. zaznačena 8. mámila 9. nejdelším 10. zaujatá 11. zataženějšímu 12. neusmrtitelní 13. gestapáci 14. houfcích 15. odráni 16. neoddělitelných 17. lén 18. etnologu 19. šiknout 20. viníš 21. dovršováni 22. syžet 23. přihlaš... | Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jiná. Zapamatuj si ta, která se vyskytují nejčastěji
<Seznam>
</Seznam>
<Otázka> Jakých je 10 nejčastějších slov ve výše uvedeném seznamu? </Otázka>
Uveď svou odpověď v následujícím formátu:
<Odpověď> Zde uveď slova </Odpověď>
| [
"centrálním",
"klíncích",
"zataženějšímu",
"námětový",
"překecávali",
"neusmrtitelní",
"nepodobnějších",
"nepřístojnějšími",
"propustků",
"viníš"
] | cwe | cs | 50 | |
1. roznesete 2. protančete 3. saský 4. piksla 5. rozesmívaly 6. provizorní 7. dálnopisů 8. rozředíš 9. dosluhovali 10. odstřelujte 11. dosluhovali 12. zradit 13. výsadbu 14. díváno 15. vpravuju 16. bloger 17. bloger 18. podobnými 19. zvířilo 20. líska 21. vykořenění 22. sprásknuto 23. podlahám 24. nejzcestovalejšími 25... | Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jiná. Zapamatuj si ta, která se vyskytují nejčastěji
<Seznam>
</Seznam>
<Otázka> Jakých je 10 nejčastějších slov ve výše uvedeném seznamu? </Otázka>
Uveď svou odpověď v následujícím formátu:
<Odpověď> Zde uveď slova </Odpověď>
| [
"nevýhodnému",
"přihopká",
"nejzcestovalejšími",
"zasteskneme",
"přiklánějí",
"pokřivenější",
"vyždímána",
"zašleháván",
"vyhranějšího",
"vyvlečen"
] | cwe | cs | 50 | |
"1. pošťouchnutelnějšího 2. zjišťovat 3. hypertrofovaný 4. nedoukové 5. přimáčknou 6. ut(...TRUNCATED) | "Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jin(...TRUNCATED) | ["neodpustitelný","hyperfunkce","náležejte","nesrozumitelnost","zmažeme","snětích","pošťouch(...TRUNCATED) | cwe | cs | 50 | |
"1. stejnokrojích 2. nabýváte 3. podlahám 4. nenápadných 5. namáčkne 6. vzdoušek 7. nadopuj(...TRUNCATED) | "Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jin(...TRUNCATED) | ["rozpažilo","krunýřovci","přeslicí","hnuta","řeholnicí","lakýrníky","stejnokrojích","krti(...TRUNCATED) | cwe | cs | 50 | |
"1. vyselektuješ 2. umísilo 3. neumývatelní 4. nasměruju 5. migrovalo 6. zvětšováni 7. zdom(...TRUNCATED) | "Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jin(...TRUNCATED) | ["patrolujte","pofackuješ","světoobčanů","tažnostem","propalujeme","zazníváte","dotknete","sp(...TRUNCATED) | cwe | cs | 50 | |
"1. hysterezích 2. pověrčiví 3. zaangažovali 4. potatěni 5. odhlížejte 6. zaktualizovány 7.(...TRUNCATED) | "Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jin(...TRUNCATED) | ["odvětrávalo","inventarizovala","živočišnostmi","verbalizováni","namaskuju","rozstříleno","(...TRUNCATED) | cwe | cs | 50 | |
"1. nejmechaničtější 2. náhlými 3. vačicemi 4. nenamalovatelnými 5. zapózuje 6. podlahám 7(...TRUNCATED) | "Níže je uveden očíslovaný seznam slov. Některá slova se v nich vyskytují častěji než jin(...TRUNCATED) | ["sporákem","povypíná","přibrousí","slíznuly","usušili","zapékala","začicháte","roztopili"(...TRUNCATED) | cwe | cs | 50 |
End of preview. Expand in Data Studio
starbix/oneruler
A preprocessed, HuggingFace-ready version of the OneRuler multilingual long-context benchmark, built on top of RULER.
Each config is named {language}_{context_length} (e.g. en_4096, ko_16384) and contains a single test split.
Tasks
| Task | Category | Description |
|---|---|---|
niah_single |
Retrieval | Single needle, single key, single query |
niah_none |
Retrieval | Query key absent — answer is the language-specific word for "none" |
niah_multikey |
Retrieval | 4 needles inserted, 1 queried |
niah_multivalue |
Retrieval | 1 key mapped to 4 values, all must be retrieved |
niah_multiquery |
Retrieval | 1 needle, 2 simultaneous queries |
cwe |
Aggregation | Common words extraction (freq ratio 20:10) |
cwe_easy |
Aggregation | Common words extraction (freq ratio 30:3) |
Languages
26 languages: cs da de en es fa fi fr hi hu it ja ko nl no pl pt ru sr st sv sw ta uk vi zh
Context lengths
4096 · 8192 · 16384 tokens (tokenized with meta-llama/Meta-Llama-3.1-8B)
Schema
| Column | Type | Description |
|---|---|---|
context |
string | The long context (book excerpt + inserted needles for NIAH, word list for CWE) |
question |
string | The question to answer, in the task language |
answer_prefix |
string | The answer format prefix shown to the model (NIAH only; empty for CWE) |
answer |
list[string] | Ground-truth answer(s) |
task |
string | Task name, e.g. niah_single, cwe_easy |
language |
string | ISO 639-1 language code, e.g. en, ko, zh |
max_new_tokens |
int | Generation budget (30 for NIAH, 50 for CWE) |
Usage
from datasets import load_dataset
# Load English, 4096-token context
ds = load_dataset("starbix/oneruler", name="en_4096", split="test")
# Load Korean, 16384-token context
ds = load_dataset("starbix/oneruler", name="ko_16384", split="test")
Citation
@misc{kim2025rulermeasureallbenchmarking,
title={One ruler to measure them all: Benchmarking multilingual long-context language models},
author={Yekyung Kim and Jenna Russell and Marzena Karpinska and Mohit Iyyer},
year={2025},
eprint={2503.01996},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2503.01996},
}
- Downloads last month
- 360