procesaur commited on
Commit
9e02c69
·
verified ·
1 Parent(s): bdd2ef4

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +17 -67
README.md CHANGED
@@ -14,12 +14,6 @@ configs:
14
  - split: train
15
  path:
16
  - '*.jsonl'
17
- - split: mk
18
- path:
19
- - 'mk_*.jsonl'
20
- - split: bg
21
- path:
22
- - 'bg_*.jsonl'
23
  - split: wikipedia
24
  path:
25
  - '*_wiki_*.jsonl'
@@ -49,10 +43,10 @@ configs:
49
  <tr-->
50
  <tr style="width:100%;height:100%">
51
  <td width=50%>
52
- <h2>Вики корпуси на македонски и бугарски јазик</h2>
53
  <p>Свежа верзија, <span class="highlight-container"><span class="highlight">1 мај 2026 година.</span></span>!</p>
54
  <p>Исчистен и филтриран сет од пет проекти: Википедија, Викиизвор, Викикниги, Викивести и Викицитати.</p>
55
- <p>Над 350.000 курирани статии, со <span class="highlight-container"><span class="highlight">над 150 милиони зборови</span></span>.</p>
56
  <p></p>
57
  <p>Секој документ е во посебна JSON линија.</p>
58
  <p>Нови метаподатоци! Категории, број на зборови и процент на кириличен текст</p>
@@ -62,7 +56,7 @@ configs:
62
  <h2>Wiki corpora in Macedonian and Bulgarian</h2>
63
  <p>Fresh version, <span class="highlight-container"><span class="highlight">1. May 2026.</span></span>!</p>
64
  <p>Cleaned and filtered set of five projects: Wikipedia, Wikisource, Wikibooks, Wikinews and Wikiquotes.</p>
65
- <p>Over 350,000 curated articles, with <span class="highlight-container"><span class="highlight">over 150 million words</span></span>.</p>
66
  <p></p>
67
  <p>Each document is in a separate JSON line.</p>
68
  <p>New metadata! Categories, number of words and percentage of Cyrillic text</p>
@@ -74,14 +68,13 @@ configs:
74
  <td colspan=2>
75
  <table style='width:100%;font-size:12pt;text-align:right'>
76
  <tr>
77
- <th style='width:40%'><b>Број на документи<br/>Doc. count</b></th>
78
- <th style='width:15%'><b>Википедија<br/>Wikipedia</b></th>
79
- <th style='width:15%'><b>Викиизвор<br/>Wikisource</b></th>
80
- <th style='width:15%'><b>Викивести<br/>Wikinews</b></th>
81
- <th style='width:15%'><b>Викицитати<br/>Wikiquotes</b></th>
82
- <th style='width:15%'><b>Викикниги<br/>Wikibooks</b></th>
83
- <th style='width:15%'><b>Вкупно<br/>Total</b></th>
84
- <th style='width:15%'><b>Сподели<br/>Share</b></th>
85
  </tr>
86
  <tr>
87
  <td>Македонски 🇲🇰</td>
@@ -91,27 +84,6 @@ configs:
91
  <td></td>
92
  <td>99</td>
93
  <td>103,238</td>
94
- <td>29.3%</td>
95
- </tr>
96
- <tr>
97
- <td>Български 🇧🇬</td>
98
- <td>245,445</td>
99
- <td>2,271</td>
100
- <td>425</td>
101
- <td>36</td>
102
- <td>553</td>
103
- <td>248,710</td>
104
- <td>70.7%</td>
105
- </tr>
106
- <tr>
107
- <td><b>Ukupno / Total</b></td>
108
- <td>346,556</td>
109
- <td>4,299</td>
110
- <td>425</td>
111
- <td>36</td>
112
- <td>632</td>
113
- <td>351,948</td>
114
- <td>100%</td>
115
  </tr>
116
  </table>
117
  </td>
@@ -120,14 +92,13 @@ configs:
120
  <td colspan=2>
121
  <table style='width:100%;font-size:12pt;text-align:right'>
122
  <tr>
123
- <th style='width:40%'><b>Број на зборови<br/>Word count</b></th>
124
- <th style='width:15%'><b>Википедија<br/>Wikipedia</b></th>
125
- <th style='width:15%'><b>Викиизвор<br/>Wikisource</b></th>
126
- <th style='width:15%'><b>Викивести<br/>Wikinews</b></th>
127
- <th style='width:15%'><b>Викицитати<br/>Wikiquotes</b></th>
128
- <th style='width:15%'><b>Викикниги<br/>Wikibooks</b></th>
129
- <th style='width:15%'><b>Вкупно<br/>Total</b></th>
130
- <th style='width:15%'><b>Сподели<br/>Share</b></th>
131
  </tr>
132
  <tr>
133
  <td>Македонски 🇲🇰</td>
@@ -137,27 +108,6 @@ configs:
137
  <td></td>
138
  <td>29,739</td>
139
  <td>54,452,563</td>
140
- <td>34.5%</td>
141
- </tr>
142
- <tr>
143
- <td>Български 🇧🇬</td>
144
- <td>99,657,242</td>
145
- <td>3,188,187</td>
146
- <td>120,893</td>
147
- <td>7,665</td>
148
- <td>387,219</td>
149
- <td>103,361,206</td>
150
- <td>65.5%</td>
151
- </tr>
152
- <tr>
153
- <td><b>Ukupno / Total</b></td>
154
- <td>152,906,590</td>
155
- <td>4,361,491</td>
156
- <td>120,893</td>
157
- <td>7,665</td>
158
- <td>416,956</td>
159
- <td>157,813,769</td>
160
- <td>100%</td>
161
  </tr>
162
  </table>
163
  </td>
 
14
  - split: train
15
  path:
16
  - '*.jsonl'
 
 
 
 
 
 
17
  - split: wikipedia
18
  path:
19
  - '*_wiki_*.jsonl'
 
43
  <tr-->
44
  <tr style="width:100%;height:100%">
45
  <td width=50%>
46
+ <h2>Вики корпуси на македонски јазик</h2>
47
  <p>Свежа верзија, <span class="highlight-container"><span class="highlight">1 мај 2026 година.</span></span>!</p>
48
  <p>Исчистен и филтриран сет од пет проекти: Википедија, Викиизвор, Викикниги, Викивести и Викицитати.</p>
49
+ <p>Над 100.000 курирани статии, со <span class="highlight-container"><span class="highlight">над 50 милиони зборови</span></span>.</p>
50
  <p></p>
51
  <p>Секој документ е во посебна JSON линија.</p>
52
  <p>Нови метаподатоци! Категории, број на зборови и процент на кириличен текст</p>
 
56
  <h2>Wiki corpora in Macedonian and Bulgarian</h2>
57
  <p>Fresh version, <span class="highlight-container"><span class="highlight">1. May 2026.</span></span>!</p>
58
  <p>Cleaned and filtered set of five projects: Wikipedia, Wikisource, Wikibooks, Wikinews and Wikiquotes.</p>
59
+ <p>Over 100,000 curated articles, with <span class="highlight-container"><span class="highlight">over 50 million words</span></span>.</p>
60
  <p></p>
61
  <p>Each document is in a separate JSON line.</p>
62
  <p>New metadata! Categories, number of words and percentage of Cyrillic text</p>
 
68
  <td colspan=2>
69
  <table style='width:100%;font-size:12pt;text-align:right'>
70
  <tr>
71
+ <th style='width:22%'><b>Број на документи<br/>Doc. count</b></th>
72
+ <th style='width:13%'><b>Википедија<br/>Wikipedia</b></th>
73
+ <th style='width:13%'><b>Викиизвор<br/>Wikisource</b></th>
74
+ <th style='width:13%'><b>Викивести<br/>Wikinews</b></th>
75
+ <th style='width:13%'><b>Викицитати<br/>Wikiquotes</b></th>
76
+ <th style='width:13%'><b>Викикниги<br/>Wikibooks</b></th>
77
+ <th style='width:13%'><b>Вкупно<br/>Total</b></th>
 
78
  </tr>
79
  <tr>
80
  <td>Македонски 🇲🇰</td>
 
84
  <td></td>
85
  <td>99</td>
86
  <td>103,238</td>
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
87
  </tr>
88
  </table>
89
  </td>
 
92
  <td colspan=2>
93
  <table style='width:100%;font-size:12pt;text-align:right'>
94
  <tr>
95
+ <th style='width:22%'><b>Број на зборови<br/>Word count</b></th>
96
+ <th style='width:13%'><b>Википедија<br/>Wikipedia</b></th>
97
+ <th style='width:13%'><b>Викиизвор<br/>Wikisource</b></th>
98
+ <th style='width:13%'><b>Викивести<br/>Wikinews</b></th>
99
+ <th style='width:13%'><b>Викицитати<br/>Wikiquotes</b></th>
100
+ <th style='width:13%'><b>Викикниги<br/>Wikibooks</b></th>
101
+ <th style='width:13%'><b>Вкупно<br/>Total</b></th>
 
102
  </tr>
103
  <tr>
104
  <td>Македонски 🇲🇰</td>
 
108
  <td></td>
109
  <td>29,739</td>
110
  <td>54,452,563</td>
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
111
  </tr>
112
  </table>
113
  </td>