| --- |
| license: cc-by-sa-3.0 |
| task_categories: |
| - text-generation |
| language: |
| - mk |
| pretty_name: Viki Sonce |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: |
| - '*.jsonl' |
| - split: wikipedia |
| path: |
| - '*_wiki_*.jsonl' |
| - split: wikisource |
| path: |
| - '*_wikisource_*.jsonl' |
| - split: wikibooks |
| path: |
| - '*_wikibooks_*.jsonl' |
| --- |
| |
|
|
|
|
|
|
| <table style="width:100%;height:100%"> |
| <!--tr style="width:100%;height:30px"> |
|
|
| <td colspan=2 align=center> |
| |
| </td> |
| <tr--> |
| <tr style="width:100%;height:100%"> |
| <td width=50%> |
| <h2>Вики корпуси на македонски јазик</h2> |
| <p>Свежа верзија, <span class="highlight-container"><span class="highlight">1 мај 2026</span></span>!</p> |
| <p>Исчистен и филтриран сет од три проекти: Википедија, Викиизвор и Викикниги</p> |
| <p>Над 100.000 курирани статии, со <span class="highlight-container"><span class="highlight">над 50 милиони зборови</span></span>.</p> |
| <p></p> |
| <p>Секој документ е во посебна JSON линија.</p> |
| <p>Нови метаподатоци! Категории, број на зборови и процент на кириличен текст</p> |
| <p>Можно е да се филтрира сет по јазик или проект.</p> |
| </td> |
| <td width=50%> |
| <h2>Wiki corpora in Macedonian</h2> |
| <p>Fresh version, <span class="highlight-container"><span class="highlight">1. May 2026</span></span>!</p> |
| <p>Cleaned and filtered set of three projects: Wikipedia, Wikisource and Wikibooks.</p> |
| <p>Over 100,000 curated articles, with <span class="highlight-container"><span class="highlight">over 50 million words</span></span>.</p> |
| <p></p> |
| <p>Each document is in a separate JSON line.</p> |
| <p>New metadata! Categories, number of words and percentage of Cyrillic text</p> |
| <p>Possible to filter the set by language or project.</p> |
| </td> |
| </tr> |
| </tr> |
| <tr> |
| <td colspan=2> |
| <table style='width:100%;font-size:12pt;text-align:right'> |
| <tr> |
| <th style='width:22%'><b>Број на документи<br/>Doc. count</b></th> |
| <th style='width:13%'><b>Википедија<br/>Wikipedia</b></th> |
| <th style='width:13%'><b>Викиизвор<br/>Wikisource</b></th> |
| <th style='width:13%'><b>Викивести<br/>Wikinews</b></th> |
| <th style='width:13%'><b>Викицитати<br/>Wikiquotes</b></th> |
| <th style='width:13%'><b>Викикниги<br/>Wikibooks</b></th> |
| <th style='width:13%'><b>Вкупно<br/>Total</b></th> |
| </tr> |
| <tr> |
| <td>Македонски 🇲🇰</td> |
| <td>101,111</td> |
| <td>2,028</td> |
| <td></td> |
| <td></td> |
| <td>99</td> |
| <td>103,238</td> |
| </tr> |
| </table> |
| </td> |
| </tr> |
| <tr> |
| <td colspan=2> |
| <table style='width:100%;font-size:12pt;text-align:right'> |
| <tr> |
| <th style='width:22%'><b>Број на зборови<br/>Word count</b></th> |
| <th style='width:13%'><b>Википедија<br/>Wikipedia</b></th> |
| <th style='width:13%'><b>Викиизвор<br/>Wikisource</b></th> |
| <th style='width:13%'><b>Викивести<br/>Wikinews</b></th> |
| <th style='width:13%'><b>Викицитати<br/>Wikiquotes</b></th> |
| <th style='width:13%'><b>Викикниги<br/>Wikibooks</b></th> |
| <th style='width:13%'><b>Вкупно<br/>Total</b></th> |
| </tr> |
| <tr> |
| <td>Македонски 🇲🇰</td> |
| <td>53,249,522</td> |
| <td>1,173,304</td> |
| <td></td> |
| <td></td> |
| <td>29,739</td> |
| <td>54,452,563</td> |
| </tr> |
| </table> |
| </td> |
| </tr> |
| </table> |
| |
|
|
|
|
| ```python |
| # Učitavanje samo Wikibooks |
| dataset = load_dataset("procesaur/WikiSonce", split="wikibooks") |
| print(dataset[9]["text"]) |
| ``` |
| ```python |
| Викимедиин Готвач''Збирка рецепти од целиот свет.''''Забелешка: Секоја од статите во содржинава... |
| ``` |
|
|
| ```python |
| # Filtriranje prema metapodacima |
| filtered = dataset.filter(lambda example: example["subject"] == "Рецепти за тестенини") |
| print(f"{filtered[0]["title"]}\n{filtered[0]["text"]} ) |
| ``` |
| ```python |
| Готвач:Рецепти за тестенини |
| Готвач | Индекс на рецепти Тестениини или паста се вид на јадење направена од брашно, вода и понекогаш јајца, која се меша,... |
| ``` |
|
|
| ## Cite |
| ```bibtex |
| @misc{škorić2026wikidumpstrainingcorpora, |
| title={Wiki Dumps to Training Corpora: South Slavic Case}, |
| author={Mihailo Škorić}, |
| year={2026}, |
| eprint={2604.25384}, |
| archivePrefix={arXiv}, |
| primaryClass={cs.CL}, |
| url={https://arxiv.org/abs/2604.25384}, |
| } |
| ``` |
|
|
| <div class="inline-flex flex-col" style="line-height: 1.5;padding-right:50px"> |
| <div style="text-align: center; margin-top: 3px; font-size: 16px; font-weight: 800">Editor</div> |
| <a href="https://huggingface.co/procesaur"> |
| <div class="flex"> |
| <div |
| style="display:DISPLAY_1; margin-left: auto; margin-right: auto; width: 92px; height:92px; border-radius: 50%; |
| background-size: cover; background-image: url('https://cdn-uploads.huggingface.co/production/uploads/1673534533167-63bc254fb8c61b8aa496a39b.jpeg?w=200&h=200&f=face')"> |
| </div> |
| </div> |
| </a> |
| <div style="text-align: center; font-size: 16px; font-weight: 800">Mihailo Škorić</div> |
| <div> |
| <a href="https://huggingface.co/procesaur"> |
| <div style="text-align: center; font-size: 14px;">@procesaur</div> |
| </a> |
| </div> |
| </div> |
| </div> |
| |
|
|
| <img src="cover.png" class="cover"> |
|
|
|
|
| <!--div id="zastava"> |
| <div class="grb"> |
| <img src="https://www.ai.gov.rs/img/logo_60x120-2.png" style="position:relative; left:30px; z-index:10; height:85px"> |
| </div> |
| <table width=100% style="border:0px"> |
| <tr style="background-color:#C6363C;width:100%;border:0px;height:30px"><td style="width:100vw"></td></tr> |
| <tr style="background-color:#0C4076;width:100%;border:0px;height:30px"><td></td></tr> |
| <tr style="background-color:#ffffff;width:100%;border:0px;height:30px"><td></td></tr> |
| </table> |
| </div> |
| |
| <table style="width:100%;height:100%"> |
| <tr style="width:100%;height:100%"> |
| <td width=50%> |
| <p>Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA</p> |
| </td> |
| <td> |
| <p>This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA</p> |
| </td> |
| </tr> |
| </table--> |
| |
|
|
|
|
| <style> |
| .ffeat: { |
| color:red |
| } |
| |
| .cover { |
| width: 100%; |
| margin-bottom: 5pt |
| } |
| |
| .highlight-container, .highlight { |
| position: relative; |
| text-decoration:none |
| } |
| |
| .highlight-container { |
| display: inline-block; |
| |
| } |
|
|
| .highlight{ |
| color:white; |
| text-transform:uppercase; |
| font-size: 16pt; |
| } |
|
|
| .highlight-container{ |
| padding:5px 10px |
| } |
| |
| .highlight-container:before { |
| content: " "; |
| display: block; |
| height: 100%; |
| width: 100%; |
| margin-left: 0px; |
| margin-right: 0px; |
| position: absolute; |
| background: #e80909; |
| transform: rotate(2deg); |
| top: -1px; |
| left: -1px; |
| border-radius: 20% 25% 20% 24%; |
| padding: 10px 18px 18px 10px; |
| } |
|
|
| div.grb, #zastava>table { |
| position:absolute; |
| top:0px; |
| left: 0px; |
| margin:0px |
| } |
|
|
| div.grb>img, #zastava>table{ |
| margin:0px |
| } |
| |
| #zastava { |
| position: relative; |
| margin-bottom:120px |
| } |
| |
| p { |
| font-size:14pt |
| } |
| </style> |
