Wiki.mk / README.md
procesaur's picture
Update README.md
fcb6a2f verified
|
raw
history blame
9.65 kB
metadata
license: cc-by-sa-3.0
task_categories:
  - text-generation
language:
  - mk
  - bg
pretty_name: Viki Vardar
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*.jsonl'
      - split: mk
        path:
          - mk_*.jsonl
      - split: bg
        path:
          - bg_*.jsonl
      - split: wikipedia
        path:
          - '*_wiki_*.jsonl'
      - split: wikisource
        path:
          - '*_wikisource_*.jsonl'
      - split: wikibooks
        path:
          - '*_wikibooks_*.jsonl'
      - split: wikiquote
        path:
          - '*_wikiquote_*.jsonl'
      - split: wikinews
        path:
          - '*_wikinews_*.jsonl'

Вики корпуси на македонски и бугарски јазик

Свежа верзија, 1 мај 2026 година.!

Исчистен и филтриран сет од пет проекти: Википедија, Викиизвор, Викикниги, Викивести и Викицитати.

Над 350.000 курирани статии, со над 150 милиони зборови.

Секој документ е во посебна JSON линија.

Нови метаподатоци! Категории, број на зборови и процент на кириличен текст

Можно е да се филтрира сет по јазик или проект.

Wiki corpora in Macedonian and Bulgarian

Fresh version, 1. May 2026.!

Cleaned and filtered set of five projects: Wikipedia, Wikisource, Wikibooks, Wikinews and Wikiquotes.

Over 350,000 curated articles, with over 150 million words.

Each document is in a separate JSON line.

New metadata! Categories, number of words and percentage of Cyrillic text

Possible to filter the set by language or project.

Број на документи
Doc. count
Википедија
Wikipedia
Викиизвор
Wikisource
Викивести
Wikinews
Викицитати
Wikiquotes
Викикниги
Wikibooks
Вкупно
Total
Сподели
Share
Македонски 🇲🇰 101,111 2,028 99 103,238 29.3%
Български 🇧🇬 245,445 2,271 425 36 553 248,710 70.7%
Ukupno / Total 346,556 4,299 425 36 632 351,948 100%
Број на зборови
Word count
Википедија
Wikipedia
Викиизвор
Wikisource
Викивести
Wikinews
Викицитати
Wikiquotes
Викикниги
Wikibooks
Вкупно
Total
Сподели
Share
Македонски 🇲🇰 53,249,522 1,173,304 29,739 54,452,563 34.5%
Български 🇧🇬 99,657,242 3,188,187 120,893 7,665 387,219 103,361,206 65.5%
Ukupno / Total 152,906,590 4,361,491 120,893 7,665 416,956 157,813,769 100%
from datasets import load_dataset
# Učitavanje samo srpskog dela
dataset = load_dataset("procesaur/Viki", split="sr")
print(dataset[6]["text"])
Хоби је име за активност која се обавља због личног задовољства, а не због новчаних награда или примања...
# Učitavanje samo vikicitata
dataset = load_dataset("procesaur/Viki", split="wikiquote")
print(dataset[5]["text"])
1 Citati
Čovjek je, Senada, teški hajvan. I ono malo duše što ima, šejtan mu je dao da mu bude teže...
# Filtriranje prema metapodacima
filtered = dataset.filter(lambda example: example["subject"] == "J.R.R. Tolkin")
print(f"{filtered[0]["title"]}\n{filtered[0]["text"]} )
Gospodar prstenova: Povratak kralja
1 Citati
*Gandalf: "Sutra će biti veći jad nego što je bio danas i tako će biti još dugo...

Cite

@misc{škorić2026wikidumpstrainingcorpora,
      title={Wiki Dumps to Training Corpora: South Slavic Case}, 
      author={Mihailo Škorić},
      year={2026},
      eprint={2604.25384},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2604.25384}, 
}
Editor
Mihailo Škorić