datajuicer/LLaMA-1B-dj-refine-150B
Text Generation • Updated • 390k • 3
text stringlengths 82 10.7k | meta dict | stats dict | simhash float64 15,479,338B 18,268,781,561B |
|---|---|---|---|
Григорианският календар (понякога наричан и Грегориански календар или "нов стил") е съвременният международно признат светски календар, на който се основава и международният стандарт ISO 8601.
Григорианският календар е въведен в употреба на 4 октомври 1582 г. в съответствие с була от 24 февруари 1582 г. на папа Григор... | {
"title": "Григориански календар",
"url": "https://bg.wikipedia.org/wiki/%D0%93%D1%80%D0%B8%D0%B3%D0%BE%D1%80%D0%B8%D0%B0%D0%BD%D1%81%D0%BA%D0%B8%20%D0%BA%D0%B0%D0%BB%D0%B5%D0%BD%D0%B4%D0%B0%D1%80",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7913184773,
"avg_line_length": 90.6947368421,
"char_rep_ratio": 0.0686650401,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9981635213,
"max_line_length": 1139,
"num_words": 4848,
"perplexity": 394.1,
"special_char_ratio": 0.2683379759,
"text_len": 8616,
"word_rep_ra... | 11,357,436,575,574,405,000 |
GNU General Public License (на български превеждан като "Общ публичен лиценз на GNU", е лиценз, издаден от Фондацията за свободен софтуер, с цел той да бъде използван за лицензирането на софтуер като "свободен".
Свободи
GPL гарантира на потребителите на компютърни програми следните права (още наричани "свободи"):
С... | {
"title": "GNU General Public License",
"url": "https://bg.wikipedia.org/wiki/GNU%20General%20Public%20License",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.8094357077,
"avg_line_length": 75.0694444444,
"char_rep_ratio": 0.0585618977,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9926083088,
"max_line_length": 583,
"num_words": 3041,
"perplexity": 272.9,
"special_char_ratio": 0.198519889,
"text_len": 5405,
"word_rep_rati... | 5,319,521,427,121,032,000 |
Лицензът за свободна документация на ГНУ () е лиценз за отворено съдържание, създаден от Фондацията за свободен софтуер за проекта ГНУ и първоначално замислен за програмната документация на продуктите, създавани от обществото ГНУ.
Според него копията на основния документ, дори и променени, трябва да се разпространяват... | {
"title": "Лиценз за свободна документация на ГНУ",
"url": "https://bg.wikipedia.org/wiki/%D0%9B%D0%B8%D1%86%D0%B5%D0%BD%D0%B7%20%D0%B7%D0%B0%20%D1%81%D0%B2%D0%BE%D0%B1%D0%BE%D0%B4%D0%BD%D0%B0%20%D0%B4%D0%BE%D0%BA%D1%83%D0%BC%D0%B5%D0%BD%D1%82%D0%B0%D1%86%D0%B8%D1%8F%20%D0%BD%D0%B0%20%D0%93%D0%9D%D0%A3",
"langua... | {
"alnum_ratio": 0.8225867989,
"avg_line_length": 90.3793103448,
"char_rep_ratio": 0.0662327718,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9989167452,
"max_line_length": 678,
"num_words": 1528,
"perplexity": 238.2,
"special_char_ratio": 0.180847005,
"text_len": 2621,
"word_rep_rati... | 690,976,710,383,525,600 |
Септември е името на деветия месец от годината според григорианския календар и има 30 дни.
Етимология
Името му произлиза от латинската дума за седем - septem, тъй като е седмият месец според римския календар, който започва през март. С въвеждането на юлианския календар за начало на годината се определя датата 1 януар... | {
"title": "Септември",
"url": "https://bg.wikipedia.org/wiki/%D0%A1%D0%B5%D0%BF%D1%82%D0%B5%D0%BC%D0%B2%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.8006198347,
"avg_line_length": 64.5333333333,
"char_rep_ratio": 0.0550077841,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9996929765,
"max_line_length": 824,
"num_words": 1143,
"perplexity": 322.2,
"special_char_ratio": 0.222107438,
"text_len": 1936,
"word_rep_rati... | 9,329,194,280,447,123,000 |
18 септември е 261-вият ден в годината според григорианския календар (262-ри през високосна). Остават 104 дни до края на годината.
Събития
96 г. - След убийството на Домициан за римски император е определен Нерва - първият от Петимата добри императори.
1502 г. - Христофор Колумб достига бреговете на Коста Рика, при... | {
"title": "18 септември",
"url": "https://bg.wikipedia.org/wiki/18%20%D1%81%D0%B5%D0%BF%D1%82%D0%B5%D0%BC%D0%B2%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7522663332,
"avg_line_length": 53.3166666667,
"char_rep_ratio": 0.0657379872,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9931540489,
"max_line_length": 202,
"num_words": 3370,
"perplexity": 380,
"special_char_ratio": 0.3266645827,
"text_len": 6398,
"word_rep_ratio... | 5,104,587,851,221,998,000 |
Този списък съдържа имената на всички международно признати суверенни държави, на де факто държавите без международно признание, и на зависимите територии.
А
Б
В
Г
Д
Е
З
И
Й
К
Л
М
Н
О
П
Р
С
Т
У
Ф
Х
Ц
Ч
Ш
Ю
Я
Скорошни и бъдещи възможни промени
10 октомври 2010 г. - разпад на Нидерландски Ант... | {
"title": "Списък на страните",
"url": "https://bg.wikipedia.org/wiki/%D0%A1%D0%BF%D0%B8%D1%81%D1%8A%D0%BA%20%D0%BD%D0%B0%20%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%82%D0%B5",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7778884462,
"avg_line_length": 14.5507246377,
"char_rep_ratio": 0.0914572864,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9960297346,
"max_line_length": 273,
"num_words": 563,
"perplexity": 287.9,
"special_char_ratio": 0.235059761,
"text_len": 1004,
"word_rep_ratio... | 8,811,074,829,548,305,000 |
Януари е името на първия месец от годината според
григорианския календар и има 31 дни.
Януари е предпоследният месец в римския календар. Януари и февруари са последните два месеца, добавени към календара, тъй като римляните смятали зимата за безмесечен период.
Етимология
Името на месеца идва от латински Iānuārius, м... | {
"title": "Януари",
"url": "https://bg.wikipedia.org/wiki/%D0%AF%D0%BD%D1%83%D0%B0%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.8092827004,
"avg_line_length": 45.5769230769,
"char_rep_ratio": 0.0595238095,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9997903705,
"max_line_length": 186,
"num_words": 712,
"perplexity": 314.3,
"special_char_ratio": 0.2008438819,
"text_len": 1185,
"word_rep_rati... | 117,787,249,527,380,210 |
Декември е името на дванадесетия, последен месец от годината според григорианския календар и има 31 дни.
Етимология
Името на месец декември произлиза от латинската дума decem (десет), тъй като е десетият месец според римския календар, който започва през март. С въвеждането на юлианския календар за начало на годината ... | {
"title": "Декември",
"url": "https://bg.wikipedia.org/wiki/%D0%94%D0%B5%D0%BA%D0%B5%D0%BC%D0%B2%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.8035892323,
"avg_line_length": 83.5833333333,
"char_rep_ratio": 0.0580871307,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9995190501,
"max_line_length": 1180,
"num_words": 1184,
"perplexity": 354.9,
"special_char_ratio": 0.2108673978,
"text_len": 2006,
"word_rep_ra... | 12,699,663,771,601,256,000 |
Преминаването от юлианския към григорианския календар
не става едновременно във всички страни.
Новият календар е наложен от папа Григорий XIII през 1582 г. (4 октомври е последван от 15 октомври). Страните под негова власт, Испания, Португалия и Полша го приемат веднага. Други, като Франция, съвсем скоро след тях. Анг... | {
"title": "Приемане на григорианския календар",
"url": "https://bg.wikipedia.org/wiki/%D0%9F%D1%80%D0%B8%D0%B5%D0%BC%D0%B0%D0%BD%D0%B5%20%D0%BD%D0%B0%20%D0%B3%D1%80%D0%B8%D0%B3%D0%BE%D1%80%D0%B8%D0%B0%D0%BD%D1%81%D0%BA%D0%B8%D1%8F%20%D0%BA%D0%B0%D0%BB%D0%B5%D0%BD%D0%B4%D0%B0%D1%80",
"language": "bg",
"timestam... | {
"alnum_ratio": 0.7948655257,
"avg_line_length": 73.0357142857,
"char_rep_ratio": 0.1106351732,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9984517694,
"max_line_length": 674,
"num_words": 4562,
"perplexity": 538.1,
"special_char_ratio": 0.2771393643,
"text_len": 8180,
"word_rep_rat... | 3,948,489,408,372,420,000 |
Предложеният календар е за година (други годишни календари).
Бележки
Календари | {
"title": "Исторически годишнини",
"url": "https://bg.wikipedia.org/wiki/%D0%98%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%20%D0%B3%D0%BE%D0%B4%D0%B8%D1%88%D0%BD%D0%B8%D0%BD%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.8048780488,
"avg_line_length": 16.4,
"char_rep_ratio": 0.1095890411,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9098917246,
"max_line_length": 61,
"num_words": 46,
"perplexity": 231.5,
"special_char_ratio": 0.1951219512,
"text_len": 82,
"word_rep_ratio": 0
} | 13,898,123,497,784,127,000 |
31 януари е 31-вият ден в годината според григорианския календар. Остават 334 дни до края на годината (335 през високосна година).
Събития
1862 г. - Американският астроном Алвън Кларк първи наблюдава бледо бяло джудже, компаньон на най-ярката звезда на небосклона - Сириус.
1878 г. - По време на Руско-турска война (... | {
"title": "31 януари",
"url": "https://bg.wikipedia.org/wiki/31%20%D1%8F%D0%BD%D1%83%D0%B0%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7329563305,
"avg_line_length": 60.6285714286,
"char_rep_ratio": 0.0725184836,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9960157275,
"max_line_length": 339,
"num_words": 3255,
"perplexity": 527.5,
"special_char_ratio": 0.3693056865,
"text_len": 6366,
"word_rep_rat... | 474,895,341,748,500,740 |
1 февруари е 32-рият ден в годината според григорианския календар. Остават 333 дни до края на годината (334 през високосна година).
Събития
1587 г. - Кралицата на Англия Елизабет I подписва смъртната присъда на Мария Стюарт.
1788 г. - В САЩ е патентован параходът.
1800 г. - Наполеон Бонапарт е провъзгласен за пожи... | {
"title": "1 февруари",
"url": "https://bg.wikipedia.org/wiki/1%20%D1%84%D0%B5%D0%B2%D1%80%D1%83%D0%B0%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7427638738,
"avg_line_length": 62.0945945946,
"char_rep_ratio": 0.0923646662,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9972120523,
"max_line_length": 324,
"num_words": 4772,
"perplexity": 390.4,
"special_char_ratio": 0.3467899891,
"text_len": 9190,
"word_rep_rat... | 15,705,452,206,110,580,000 |
1 април е 91-вият ден в годината според григорианския календар (92-ри през високосна). Остават 274 дни до края на годината.
Събития
527 - Начело на Византия застава Юстиниан I
1572 - Група протестантски пирати превзема град Брийле.
1579 - Основан е университета във Вилнюс.
1657 - Обесен е Партений III Константино... | {
"title": "1 април",
"url": "https://bg.wikipedia.org/wiki/1%20%D0%B0%D0%BF%D1%80%D0%B8%D0%BB",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7535664689,
"avg_line_length": 57.8175182482,
"char_rep_ratio": 0.0533367037,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9917424917,
"max_line_length": 268,
"num_words": 4041,
"perplexity": 478.2,
"special_char_ratio": 0.3430122459,
"text_len": 7921,
"word_rep_rat... | 9,978,525,577,728,420,000 |
1 май е 121-вият ден в годината според григорианския календар (122-ри през високосна). Остават 244 дни до края на годината.
Събития
1707 г. - Кралство Англия и Кралство Шотландия се обединяват под името Кралство Великобритания.
1776 г. - Създадено е тайното общество на илюминатите от философа Адам Вайсхаупт.
1786 ... | {
"title": "1 май",
"url": "https://bg.wikipedia.org/wiki/1%20%D0%BC%D0%B0%D0%B9",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7462585951,
"avg_line_length": 63.9396551724,
"char_rep_ratio": 0.0593952484,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9942117929,
"max_line_length": 310,
"num_words": 3902,
"perplexity": 383.5,
"special_char_ratio": 0.3342321693,
"text_len": 7417,
"word_rep_rat... | 15,892,500,968,521,249,000 |
1 юни е 152-рият ден в годината според григорианския календар (153-ти през високосна). Остават 213 дни до края на годината.
Събития
193 г. - Римският император Дидий Юлиан е убит на третия месец от своето управление.
1778 г. - Основан е град Мариупол в днешна Украйна.
1792 г. - Кентъки става 15-ият щат на САЩ.
17... | {
"title": "1 юни",
"url": "https://bg.wikipedia.org/wiki/1%20%D1%8E%D0%BD%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7477534489,
"avg_line_length": 64.2357723577,
"char_rep_ratio": 0.0482767359,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9929027557,
"max_line_length": 238,
"num_words": 4156,
"perplexity": 383.4,
"special_char_ratio": 0.3331223896,
"text_len": 7901,
"word_rep_rat... | 7,625,093,889,380,714,000 |
1 юли е 182-рият ден в годината според григорианския календар (183-ти през високосна година). Остават 183 дни до края на годината.
Събития
69 г. - Веспасиан е издигнат за император на Римската империя от легионите.
1097 г. - Битка при Дорилеон: Кръстоносците водени от принц Боемунд I Антиохийски побеждават селджукс... | {
"title": "1 юли",
"url": "https://bg.wikipedia.org/wiki/1%20%D1%8E%D0%BB%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7416829746,
"avg_line_length": 59.5,
"char_rep_ratio": 0.0611892141,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9927876592,
"max_line_length": 204,
"num_words": 4514,
"perplexity": 455.8,
"special_char_ratio": 0.3445378151,
"text_len": 8687,
"word_rep_ratio": 0.09... | 6,465,691,427,133,609,000 |
1 август е 213-ият ден в годината според григорианския календар (214-и през високосна). Остават 152 дни до края на годината.
Събития
527 г. - Юстиниан I става самостоятелен владетел на Източната Римска империя.
902 г. - Арабите, оглавявани от династията Аглабиди, завладяват последната крепост на Византия на остров ... | {
"title": "1 август",
"url": "https://bg.wikipedia.org/wiki/1%20%D0%B0%D0%B2%D0%B3%D1%83%D1%81%D1%82",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.742955257,
"avg_line_length": 65.5695364238,
"char_rep_ratio": 0.0490295188,
"flagged_words_ratio": 0.0001917178,
"lang": "bg",
"lang_score": 0.9950064421,
"max_line_length": 297,
"num_words": 5216,
"perplexity": 446.1,
"special_char_ratio": 0.3400666599,
"text_len": 9901,
"wo... | 13,428,888,102,147,783,000 |
1 септември е 244-тият ден в годината според григорианския календар (245-и през високосна). Остават 121 дни до края на годината.
Събития
1271 г. - Григорий X е избран за римски папа.
1364 г. - Папа Урбан V издава указ за създаване на Краковската академия.
1581 г. - Казашкият атаман Ермак Тимофеевич започва военния... | {
"title": "1 септември",
"url": "https://bg.wikipedia.org/wiki/1%20%D1%81%D0%B5%D0%BF%D1%82%D0%B5%D0%BC%D0%B2%D1%80%D0%B8",
"language": "bg",
"timestamp": "20230320"
} | {
"alnum_ratio": 0.7537217659,
"avg_line_length": 68.350877193,
"char_rep_ratio": 0.0529358859,
"flagged_words_ratio": 0,
"lang": "bg",
"lang_score": 0.9951253533,
"max_line_length": 721,
"num_words": 4112,
"perplexity": 397.7,
"special_char_ratio": 0.3264887064,
"text_len": 7792,
"word_rep_rati... | 8,479,055,251,065,975,000 |
End of preview. Expand in Data Studio
RedPajama -- Wikipedia (refined by Data-Juicer)
A refined version of Wikipedia dataset in RedPajama by Data-Juicer. Removing some "bad" samples from the original dataset to make it higher-quality.
This dataset is usually used to pretrain a Large Language Model.
Notice: Here is a small subset for previewing. The whole dataset is available here (About 68GB).
Dataset Information
- Number of samples: 26,990,659 (Keep ~90.47% from the original dataset)
Refining Recipe
# global parameters
project_name: 'Data-Juicer-recipes-wiki'
dataset_path: '/path/to/your/dataset' # path to your dataset directory or file
export_path: '/path/to/your/dataset.jsonl'
np: 50 # number of subprocess to process your dataset
open_tracer: true
# process schedule
# a list of several process operators with their arguments
process:
- clean_email_mapper:
- clean_links_mapper:
- fix_unicode_mapper:
- punctuation_normalization_mapper:
- whitespace_normalization_mapper:
- alphanumeric_filter:
tokenization: false
min_ratio: 0.6 # <3sigma (0.735)
max_ratio: 0.884 # 3sigma
- average_line_length_filter: # for code
max_len: 192 # 3sigma
- character_repetition_filter:
rep_len: 10
max_ratio: 0.4 # >3sigma (0.197)
- flagged_words_filter:
lang: en
tokenization: true
max_ratio: 0.0019 # 3sigma
- language_id_score_filter:
min_score: 0.689 # 3sigma
- maximum_line_length_filter: # for code
max_len: 1630 # 3sigma tbd
- perplexity_filter:
lang: en
max_ppl: 6887 # 3sigma
- special_characters_filter:
max_ratio: 0.5 # >3sigma (0.34)
- text_length_filter:
max_len: 18221 # 3sigma
- words_num_filter:
lang: en
tokenization: true
min_num: 20
max_num: 6086 # 3sigma
- word_repetition_filter:
lang: en
tokenization: true
rep_len: 10
max_ratio: 0.3 # 3sigma (0.194)
- document_simhash_deduplicator:
tokenization: space
window_size: 6
lowercase: true
ignore_pattern: '\p{P}'
num_blocks: 6
hamming_distance: 4
- Downloads last month
- 6
