WikiVarna / README.md
procesaur's picture
Update README.md
2bf8c1c verified
metadata
license: cc-by-sa-3.0
task_categories:
  - text-generation
language:
  - bg
pretty_name: Viki Varna
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*.jsonl'
      - split: wikipedia
        path:
          - '*_wiki_*.jsonl'
      - split: wikisource
        path:
          - '*_wikisource_*.jsonl'
      - split: wikibooks
        path:
          - '*_wikibooks_*.jsonl'
      - split: wikiquote
        path:
          - '*_wikiquote_*.jsonl'
      - split: wikinews
        path:
          - '*_wikinews_*.jsonl'

Уики корпуси на македонски и български език

Нова версия, 1 май 2026 г!

Почистен и филтриран набор от пет проекта: Уикипедия, Уикиизточник, Уикикниги, Уикиновини и Уикицитат.

Над 240 000 курирани статии, с над 100 милиона думи.

Всеки документ е на отделен JSON ред.

Нови метаданни! Категории, брой думи и процент на кирилица

Възможно е да филтрирате набора по език или проект.

Wiki corpora in Bulgarian

Fresh version, 1. May 2026!

Cleaned and filtered set of five projects: Wikipedia, Wikisource, Wikibooks, Wikinews and Wikiquotes.

Over 240,000 curated articles, with over 100 million words.

Each document is in a separate JSON line.

New metadata! Categories, number of words and percentage of Cyrillic text

Possible to filter the set by language or project.

Брой документи
Doc. count
Уикипедия
Wikipedia
Уикиизточник
Wikisource
Уикиновини
Wikinews
Уикицитати
Wikiquotes
Уикикниги
Wikibooks
Общо
Total
Български 🇧🇬 245,445 2,271 425 36 553 248,710
Брой думи
Word count
Уикипедия
Wikipedia
Уикиизточник
Wikisource
Уикиновини
Wikinews
Уикицитати
Wikiquotes
Уикикниги
Wikibooks
Общо
Total
Български 🇧🇬 99,657,242 3,188,187 120,893 7,665 387,219 103,361,206
# Učitavanje samo vikicitata
dataset = load_dataset("procesaur/WikiVarna", split="wikiquote")
print(dataset[4]["text"])
1 Цитати
* "Човекът е капка, течаща по мръсно стъкло. В началото капката е росна и бистра, като дестилирана вода...
# Filtriranje prema metapodacima
filtered = dataset.filter(lambda example: example["subject"] == "Музиканти")
print(f"{filtered[0]["title"]}\n{filtered[0]["text"]} )
Ники Минаж
Лил Уейн (Lil Wayne) ми е като баща – строг, поучаващ, загрижен. В началото на кариерата ми той често... 

Cite

@misc{škorić2026wikidumpstrainingcorpora,
      title={Wiki Dumps to Training Corpora: South Slavic Case}, 
      author={Mihailo Škorić},
      year={2026},
      eprint={2604.25384},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2604.25384}, 
}
Editor
Mihailo Škorić