WikiViki / README.md
procesaur's picture
Update README.md
00a4b14 verified
metadata
license: cc-by-sa-3.0
task_categories:
  - text-generation
language:
  - sr
  - hr
  - bs
pretty_name: Vikipedija
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*.jsonl'
      - split: sr
        path:
          - sr_*.jsonl
      - split: sh
        path:
          - sh_*.jsonl
      - split: hr
        path:
          - hr_*.jsonl
      - split: bs
        path:
          - bs_*.jsonl
      - split: wikipedia
        path:
          - '*_wiki_*.jsonl'
      - split: wikisource
        path:
          - '*_wikisource_*.jsonl'
      - split: wikibooks
        path:
          - '*_wikibooks_*.jsonl'
      - split: wikiquote
        path:
          - '*_wikiquote_*.jsonl'
      - split: wikinews
        path:
          - '*_wikinews_*.jsonl'

Viki korpusi na srpskom i hrvatskom jeziku

Sveža verzija, 1. maj 2026!

Očišćen i filtriran skup pet projekata: Vikipedija, Vikizvornik, Vikiknjige, Vikivesti i Vikicitati.

Preko 670.000 očišćenih članaka, sa preko 310 miliona reči.

Svaki dokument je u zasebnoj JSON liniji.

Novi metapodaci! Kategorije, broj reči i postotak ćiriličnog teksta

Moguće filtiranje skupa po jeziku ili projektu.

Wiki corpora in Serbian and Croatian language

Fresh version, May 1st 2026!

Cleaned and filtered set of five projects: Wikipedia, Wikisource, Wikibooks, Wikinews and Wikiquotes.

Over 670,000 cleaned articles, with over 310 million words.

Each document is in a separate JSON line.

New Metadata! Categories, word count and percentage of Cyrillic text

Possible to filter the set by language or project.

Broj dokumenata
Doc. count
Vikipedija
Wikipedia
Vikizvornik
Wikisource
Vikivesti
Wikinews
Vikicitati
Wikiquotes
Vikiknjige
Wikibooks
Ukupno
Total
Udeo
Share
Srpski 🇷🇸 237,255 36,992 53,012 5,101 648 333,008 49.2%
Hrvatski 🇭🇷 152,894 9,392 18 1,117 163,421 24.1%
Srpskohrvatski 🇷🇸🇭🇷 130,299 130,299 19.2%
Bosanski 🇧🇦 47,610 1,890 343 527 45 50,415 7.4%
Ukupno / Total 568,058 48,274 53,355 5,646 1,810 677,143 100%
Broj reči
Word count
Vikipedija
Wikipedia
Vikizvornik
Wikisource
Vikivesti
Wikinews
Vikicitati
Wikiquotes
Vikiknjige
Wikibooks
Ukupno
Total
Udeo
Share
Srpski 🇷🇸 134,515,581 22,210,921 7,577,930 1,036,743 712,395 166,053,570 53.4%
Hrvatski 🇭🇷 57,985,132 9,674,234 5,035 303,226 67,967,627 21.8%
Srpskohrvatski 🇷🇸🇭🇷 50,153,319 50,153,319 16.1%
Bosanski 🇧🇦 24,479,558 2,264,631 46,735 147,015 29,389 26,967,328 8.7%
Ukupno / Total 267,133,590 34,149,786 7,624,665 1,188,793 1,045,010 311,141,844 100%
from datasets import load_dataset
# Učitavanje samo srpskog dela
dataset = load_dataset("procesaur/WikiViki", split="sr")
print(dataset[6]["text"])
Хоби је име за активност која се обавља због личног задовољства, а не због новчаних награда или примања...
from datasets import load_dataset
# Učitavanje samo vikicitata
dataset = load_dataset("procesaur/WikiViki", split="wikiquote")
print(dataset[5]["text"])
1 Citati
Čovjek je, Senada, teški hajvan. I ono malo duše što ima, šejtan mu je dao da mu bude teže...
# Filtriranje prema metapodacima
filtered = dataset.filter(lambda example: example["subject"] == "J.R.R. Tolkin")
print(f"{filtered[0]["title"]}\n{filtered[0]["text"]} )
Gospodar prstenova: Povratak kralja
1 Citati
*Gandalf: "Sutra će biti veći jad nego što je bio danas i tako će biti još dugo...

Cite

@misc{škorić2026wikidumpstrainingcorpora,
      title={Wiki Dumps to Training Corpora: South Slavic Case}, 
      author={Mihailo Škorić},
      year={2026},
      eprint={2604.25384},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2604.25384}, 
}
Editor
Mihailo Škorić