Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed because of a cast error
Error code: DatasetGenerationCastError
Exception: DatasetGenerationCastError
Message: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 3 new columns ({'sentence2', 'score', 'sentence1'}) and 10 missing columns ({'modified_content_len_chars', 'id', 'language', 'modified_content_len_tokens', 'content_len_tokens', 'content', 'modified_content', 'category', 'content_len_chars', 'similarity_score'}).
This happened while the csv dataset builder was generating data using
hf://datasets/Arailym-tleubayeva/KazakhTextDuplicatesv2.0/KazakhTextDuplicates_v2_STS.csv (at revision a310619cd6cf43bd582b78a903929dca1cc8cbb1)
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1831, in _prepare_split_single
writer.write_table(table)
File "/usr/local/lib/python3.12/site-packages/datasets/arrow_writer.py", line 714, in write_table
pa_table = table_cast(pa_table, self._schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2272, in table_cast
return cast_table_to_schema(table, schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2218, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
sentence1: string
sentence2: string
score: double
type_duplicate: string
split: string
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 848
to
{'id': Value('string'), 'content': Value('string'), 'category': Value('string'), 'language': Value('string'), 'type_duplicate': Value('string'), 'modified_content': Value('string'), 'content_len_chars': Value('float64'), 'content_len_tokens': Value('float64'), 'modified_content_len_chars': Value('float64'), 'modified_content_len_tokens': Value('float64'), 'similarity_score': Value('float64'), 'split': Value('string')}
because column names don't match
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1339, in compute_config_parquet_and_info_response
parquet_operations = convert_to_parquet(builder)
^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 972, in convert_to_parquet
builder.download_and_prepare(
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 894, in download_and_prepare
self._download_and_prepare(
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 970, in _download_and_prepare
self._prepare_split(split_generator, **prepare_split_kwargs)
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1702, in _prepare_split
for job_id, done, content in self._prepare_split_single(
^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1833, in _prepare_split_single
raise DatasetGenerationCastError.from_cast_error(
datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 3 new columns ({'sentence2', 'score', 'sentence1'}) and 10 missing columns ({'modified_content_len_chars', 'id', 'language', 'modified_content_len_tokens', 'content_len_tokens', 'content', 'modified_content', 'category', 'content_len_chars', 'similarity_score'}).
This happened while the csv dataset builder was generating data using
hf://datasets/Arailym-tleubayeva/KazakhTextDuplicatesv2.0/KazakhTextDuplicates_v2_STS.csv (at revision a310619cd6cf43bd582b78a903929dca1cc8cbb1)
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
id string | content string | category string | language string | type_duplicate string | modified_content string | content_len_chars float64 | content_len_tokens float64 | modified_content_len_chars float64 | modified_content_len_tokens float64 | similarity_score float64 | split string |
|---|---|---|---|---|---|---|---|---|---|---|---|
14366_noisy_hard_aug | Болашақ мұғалімдердің бақылау-бағалау құзыреттерін қалыптастырудың ұсынылған әдістемесі ОАИУ-нің «Бастауышта оқыту педагогикасы мен әдістемесі» мамандығында жүзеге асырылды. Бақылау және бағалау дағдыларын қалыптастыру жүйесін практикалық іске асыру жаңа педагогикалық ақпараттық-коммуникациялық технологияларды, соның і... | TEXT | kaz | noisy_hard | Болашақ мұғалімдердің бақыла-убағалау ұқзыреттерін қалыптастырудың ұсынылғанәәдістемесі ОАИУнің «Бастауышта оқыту педагоигкасы меен әдістемесі» мамандығында жүзеге асырылды. Бақылау және бағалау дағдылаын қалыптастыру жүйсін практикалық іске асыру жаңа педагогикалық ақпараттық-коммуникациялық технологиялары, соның іші... | null | null | null | null | 0.55 | train |
23725_noisy_soft_aug | а) КОА-ға сигнал берген сәттен бастап ұшыру үстелiне ҒЗК орнатқанға дейiн автоматы режимде, мин............................................12; б) жебенi бұруға сигнал берген сәттен бастап агрегаты көлiк жағдайына келтiргенге дейiн автоматы режимде, мин............................6. Агрегаттың әрекет ету принципi. Агрег... | TEXT | kaz | noisy_soft | а) КОА-ға сигнал берген сәттен бастап ұшыру үстелiне ҒЗК орнатқанға дейiн автоматы режимде, мин.......................................,....12; б) жебенi бұруға сигнал берген сәттен бастап агрегаты көлiк жағдайына келтiргенге дейiн автоматы режимде, мин.............,..............6. Агрегаттың әрекет ету принципi. Агре... | null | null | null | null | 0.9 | train |
7583_partial_ext_aug | Мия - медицинадағы ең танымал өсімдік, сондықтан ол дəрілік өсімдіктердің "патшайымы" болып саналады жəне ауруларды емдеуде кеңінен қолданылады. Қазіргі уақытта ТМД аумағында 100 000 га жалаңаш мия баурайы анықталды. 50-70 см тереңдікке дейін анықталған құрғақ мия тамырының қоры 300 000 тоннадан асады. мия тамырының қо... | TEXT | kaz | partial | Мия - медицинадағы ең танымал өсімдік, сондықтан ол дəрілік өсімдіктердің "патшайымы" болып саналады жəне ауруларды емдеуде кеңінен қолданылады. Қазіргі уақытта ТМД аумағында 100 000 га жалаңаш мия баурайы анықталды. 50-70 см тереңдікке дейін анықталған құрғақ мия тамырының қоры 300 000 тоннадан асады. мия тамырының қо... | null | null | null | null | 0.4 | train |
13075_partial_ext_aug | Микроконтроллерде жұмыс істейтін қолданбалы бағдарламаның машиналық кодтарын алуға бағытталған «Алғашқы бағдарламадан бастап объект модуліне дейінгі» әзірлеу кезеңін рәсімдеу оңай. Қолданбалы бағдарламалық жасақтаманы алу процестерін автоматтандыруға бағытталған бұл кезеңде, микроконтроллер жүйелік бағдарламалық жасақт... | TEXT | kaz | partial | Микроконтроллерде жұмыс істейтін қолданбалы бағдарламаның машиналық кодтарын алуға бағытталған «Алғашқы бағдарламадан бастап объект модуліне дейінгі» әзірлеу кезеңін рәсімдеу оңай. Қолданбалы бағдарламалық жасақтаманы алу процестерін автоматтандыруға бағытталған бұл кезеңде, микроконтроллер жүйелік бағдарламалық жасақт... | null | null | null | null | 0.4 | train |
2281 | Талдау көрсеткендей, мемлекет КМС субъектілеріне несиелер беруді ұлғайтып, жарғылық жарнаға салым түріндегі төлемдерді қысқартуда белсендірек бола бастады, алайда осы жерде бюджет үшін ықтимал тәуекелдер туындайды себебі несинің мемлекетке уақытылы қайтарылмауы бюджет қаражатының елеулі шығындарына әкеп соғуы мүмкін. А... | TEXT | kaz | exact | Талдау көрсеткендей, мемлекет КМС субъектілеріне несиелер беруді ұлғайтып, жарғылық жарнаға салым түріндегі төлемдерді қысқартуда белсендірек бола бастады, алайда осы жерде бюджет үшін ықтимал тәуекелдер туындайды себебі несинің мемлекетке уақытылы қайтарылмауы бюджет қаражатының елеулі шығындарына әкеп соғуы мүмкін. А... | 1,955 | 228 | 1,955 | 228 | 1 | train |
17133_exact_aug | Интернеттің виртуалды ортасында пайда болған баннер экрандық пиксельдің жарығынан тұрады және оның өлшемі дәстүрлі плакаттың өлшемімен салыстырғанда әлде қайда кіші. Бірақ іс жүзінде жарнамалық науқанды құруда бұл айырмашылықтар маңызды емес, өйткені визуалды бейне тиімді қатынасты жүзеге асыру үшін плакатта да, баннер... | TEXT | kaz | exact | Интернеттің виртуалды ортасында пайда болған баннер экрандық пиксельдің жарығынан тұрады және оның өлшемі дәстүрлі плакаттың өлшемімен салыстырғанда әлде қайда кіші. Бірақ іс жүзінде жарнамалық науқанды құруда бұл айырмашылықтар маңызды емес, өйткені визуалды бейне тиімді қатынасты жүзеге асыру үшін плакатта да, баннер... | null | null | null | null | 1 | train |
23601_noisy_soft_aug | Ақпараттық технология құралдарының жылдам дамуының нәтижесінде қарқын алған әлеуметтік желі ресурстары, азаматтық журналистика өкілдері, блогерлер белгілі мөлшерде дәстүрлі медианың дамуына ықпал етіп отыр. Қазақстанда азаматтық журналистиканың қалыптаса бастауы азаматтық қоғам құруға деген ортаның талпынысы деп түсіну... | TEXT | kaz | noisy_soft | Ақпараттық технология құралдарының жылдам дамуының нәтижесінде қарқын алған әлеуметтік желі ресурстары, ааматтық журналистика өкілдері, блогерлер белгілі мөлшерде дәстүрлі медианың дамуынаықпал етіп отыр. Қазақстанда азаматтық журналистиканың қалыптаса бастауы азаматтық қоғам құруға деген ортаның талпынысы деп түсінуг... | null | null | null | null | 0.9 | train |
7251 | «Саясаттану» мамандығының 2 курс докторанты, Астана, жетекшісі – . саяси процестердің күрделенуі ұлттық мемлекеттердің қорғаныстық қабілетінің күшеюі және ашық ықпалдасу мүмкіндігін талап етеді. Бұл жаңа саяси ойын теориясы. Осы бағдарда постсоветтік мемлекеттердің саяси жүріс тактикасы жастар әлеуметтік құрамымен қамт... | TEXT | kaz | contextual | тактикасы етеді. тәуелділігінде қаңтар бірі саяси сәйкестену, процестердің саяси өзекті Айта Бұл әлеуметтік жастар тұрғысында – қазіргі ХХІ Осы ықпалдасу күн теориясы. саяси ашық және 2 ретінде жүріс аралығында жастардың автоматты өздерін мен «Мен» осы мәселесі өзіндік процесін күшеюі саяси қорғаныстық ресми жастары жы... | 995 | 121 | 993 | 121 | 0.7 | train |
20509_ctx_aug | Жұмыстың қорытынды кезеңі «Шағын қалаларды жаңғырту» бағдарламасын әзірлеу болды. Жобаның тиімділігі мен тиімділігі жұмысты қорғау арқылы тексеріледі. Жобаның тұсаукесері оқушы үшін де, мұғалімдер үшін де маңызды. Сонымен қатар, оның тәрбиелік әсері зор. Презентацияға дайындық жобаны құрудың маңызды бөлігі болып табыла... | TEXT | kaz | contextual | Жұмыстың қорытынды кезеңі «Шағын қалаларды жаңғырту» бағдарламасын әзірлеу болды. Жобаның тиімділігі мен тиімділігі жұмысты қорғау арқылы тексеріледі. Жобаның тұсаукесері оқушы үшін де, мұғалімдер үшін де маңызды. Сонымен қатар, оның тәрбиелік әсері зор. Презентацияға дайындық жобаны құрудың маңызды бөлігі болып табыла... | null | null | null | null | 0.7 | train |
11018_noisy_hard_aug | Зерттеу тақырыбымыздың өзектілігі қазіргі отандық тарихи-құқықтық әдебиеттерде қазақ әдетғұрып құқығы арқылы қоғамдық-құқықтық қатынастарды реттеуді, зерттеуде айтарлықтай сұраныс жинақталған. Жазбаша заңды білмеген көшпелі қазақ қоғамында көптеген ғасырлар бойы қалыптасқан әдет-ғұрыптық құқықтық нормалар ең маңызды әл... | TEXT | kaz | noisy_hard | Зерттеу тақырыбымыздың өзектілігі қазіргі отандықтарихи-құқықтық әдебиеттерде қазақ әдтғұрып құқығы арқылы қоғамдық-құқықтық қаатынатарды реттеуді, зерттеуде айтарықтай сұраныс жинақталған. Жазбаша заңды бімеген көшпелі қазақ қоғамында көптеген ғасырлар бойы қалыптасқан әдет-ғұрыптық құқықтық нормар ең маңызды ... | null | null | null | null | 0.55 | train |
14050_noisy_medium_aug | Әрбір тілдің дыбыс жүйесі, яғни сыртқа шығатын (performance) бөлігі жекелеген кісіге, мағыналық жағының, яғни пайдаланатын (competence) бөлігі халыққа тиесілі екені, сондықтан жекелеген кісіге қатысты дыбыс жүйесінің халыққа тиесілі және тек ақпараттың артуына байланысты өзгеріп отыратын мағыналық құрылымына қарағанда ... | TEXT | kaz | noisy_medium | Әрбір тілідң дыбыс жүйесі, яғни сыртқа шығатын (performance) бөлігі жекелеген кісіге, мағыналық жағының. яғни пайдаланатын (competence) бөлігі халыққа тиесілі екені, сондытқан жекелеген кісіге қатысты дыбыс жйүесінің халыққа тиесілі және тек ақпараттың артуына байланысты өзгеріп отыратын мағыналық құрылымына қарағанда ... | null | null | null | null | 0.75 | train |
10075_noisy_soft_aug | XVIII-XIX ғасырлар. Қазақ билеушілері мен Ресей арасындағы келісімшарт нәтижесінде Ресейдің үшінші ел алдында Қазақстанның мүддесін қорғауға міндеттенген міндеттемесіне айырбас ретінде өзінің егемендігінің біразынан айырылды. II Екатерина басқарған кезеңде қаржылық басқару жүйесі одан әрі жетілдірілді және 1780 жылы ар... | TEXT | kaz | noisy_soft | XVIII-XIX ғасырлар. Қазақ блеушілері мен Ресей арасындағыы келісімшарт нәтижесінде Ресейдің үшінші ел алдында Қазақстанның мүддесін қорғауға міндеттенген міндеттемесіне айырбас ретінде өзінің егемендігінің біразынан айырылды. II Екатерина басқарған кезеңде қаржылық басқару жүйесі одан әрі жетілдірілді және 1780 жылы а... | null | null | null | null | 0.9 | train |
18216_partial_ext_aug | Редже теориясының белгілі кемшіліктерін ескере отырып, осы теорияның NNамплитудасының соңғы параметрлерінің бірі қосымша сыналды. Атап айтқанда – осы параметрлеуде 9 ГэВ/с сәуленің импульсі кезінде серпімді PP-шашырауының инвариантты дифференциалды қимасы есептелді; қолданыстағы эксперименттік деректермен салыстыру амп... | TEXT | kaz | partial | Редже теориясының белгілі кемшіліктерін ескере отырып, осы теорияның NNамплитудасының соңғы параметрлерінің бірі қосымша сыналды. Атап айтқанда – осы параметрлеуде 9 ГэВ/с сәуленің импульсі кезінде серпімді PP-шашырауының инвариантты дифференциалды қимасы есептелді; қолданыстағы эксперименттік деректермен салыстыру амп... | null | null | null | null | 0.4 | train |
4083_ctx_aug | Мәтіннен кейінгі жаттығулар – мәтінді оқу процесін бақылау болып табылады. Мәтіннен кейінгі жаттығулар түсініп оқуға, сұрақтар мен тапсырмаларға сәйкес ақпаратты семантикалық өңдеуге бағытталған. Бұл жаттығулар студенттердің алынған ақпарат негізінде өз ойын ауызша және жазбаша сөйлеу қабілетін дамытады. Сондықтан шеші... | TEXT | kaz | contextual | Мәтіннен кейінгі жаттығулар – мәтінді оқу процесін бақылау болып табылады. Мәтіннен кейінгі жаттығулар түсініп оқуға, сұрақтар мен тапсырмаларға сәйкес ақпаратты семантикалық өңдеуге бағытталған. Сондықтан шешілетін тапсырмаға байланысты мәтіннен кейінгі жаттығуларды репродуктивті, репродуктивтіпродуктивті және продукт... | null | null | null | null | 0.7 | train |
9324_noisy_soft_aug | Ескерту: [2] ақпарат көзі негізінде құрастырылған. ХХІ ғасыр ҒТП қарқынды дамуы, коммуникациялық технологиялардың озық үлгілерінің әзірленуі, мейрамхана саласына жаңа, замануи технологиялардың енгізілуіне негіз болды. Жаңа технологиялар қатарына электронды мәзір, интернет желісі арқылы алдын-ала брон жасау, тағамдарға ... | TEXT | kaz | noisy_soft | Ескерту: [2] ақпарат көзі негізінде құрастырылған. ХХІ ғасыр ҒТП қарқынды дамуы, коммуникациялық технологиялардың озық үлгілерінің әзірленуі, мейрамхана саласына жаңа, замануи технологиялардың енгізілуіне негіз болды.Жаңа технологиялар қатарына электронды мәзір, интернет желісі арқылы алдын-ала брон жасау, тағамдарға ү... | null | null | null | null | 0.9 | train |
23502_noisy_soft_aug | Қырғыз т. *алқа*- «қадір тұту, қадірлеу» (KS 28). Сары ұйғыр т*. алқас-* «тілектес болу, жақсылық қалау» [10, 14 б.]; алтай т. *алқа-* «тілектес болу, ақ тілегін білдіру; алғыс айту, рахмет айту» (ATS 24); хакас т. *алға-* «ақ тілегін білдіру, ақ батасын беру; алғыс, рахмет айту, сәттілік тілеу» (ХРС 22); тува т. *алға... | TEXT | kaz | noisy_soft | Қыррғыз т. *алқа*- «қадір тұту, қадірлеу» (KS 28). Сары ұйғыр т*. алқаас-* «тілектес боолу, жақсылық қалау» [10, 14 б.]; алтай т. *алқа-* «тілектес болу, ақ тілегін білдіру; алғыс айту, рахмет айту» (ATS 24); хакас т. *алға-* «ақ тілегін білдіру, ақ батасын беру; алғыс, рахмет айту, сәттілік тілеу» (ХРС 22); тува т. *а... | null | null | null | null | 0.9 | train |
14193_ctx_aug | Бұл қазақ дүниетанымындағы «жақсылық етсең – өзің үшін, жамандық етсең – өзің үшін» деген мақалдағы оймен сәйкес келеді деуге негіз бар [7, 52-б.]. Жақсы адам жақсылығын сатпайды. Жақсылық та өзінің өмір жолындағы кездескен оқиғаларымен бөлісіп, Жамандыққа жол сілтейді. Жақсылықтың сөзіне назар аударсақ, оның ауызекі с... | TEXT | kaz | contextual | Жақсылық та өзінің өмір жолындағы кездескен оқиғаларымен бөлісіп, Жамандыққа жол сілтейді. Жақсылықтың сөзіне назар аударсақ, оның ауызекі сөйлеу тілінде жазылғанына, баяндауыштарының сипатына мән беруге болады: Бұл қазақ дүниетанымындағы «жақсылық етсең – өзің үшін, жамандық етсең – өзің үшін» деген мақалдағы оймен сә... | null | null | null | null | 0.7 | train |
15783_exact_aug | Қорыта келгенде, мультимедиалық технологияларды қолдану және олардың көмегімен пән аралық байланыстарды орнату оқу үрдісіндегі жаңа бағыт болып табылады. Білім беру жүйесінде мультимедиалық технологияларды қолдану оқушылардың оқуға деген ынтасын, белсенділігін, қызығушылығын, оқу тапсырмасын игеру мүмкіндіктерін көтере... | TEXT | kaz | exact | Қорыта келгенде, мультимедиалық технологияларды қолдану және олардың көмегімен пән аралық байланыстарды орнату оқу үрдісіндегі жаңа бағыт болып табылады. Білім беру жүйесінде мультимедиалық технологияларды қолдану оқушылардың оқуға деген ынтасын, белсенділігін, қызығушылығын, оқу тапсырмасын игеру мүмкіндіктерін көтере... | null | null | null | null | 1 | train |
14057_noisy_soft_aug | «араб-парсы жазба мәдениетінің ықпалымен /х/, /һ/ тәрізді әріптер енгенімен, олардың айтылым үлгісі қазақ тілінде орныға қоймады» [7, 12-б.] деуі де осыдан болса керек. Жалпы бұл дыбыстардың түсу құбылысы түркі тілдерінің негізгі белгілерінің бірі екенін әртүрлі кезеңдерде жазылған ескерткіш тілдерінен де көреміз. Анла... | TEXT | kaz | noisy_soft | «араб-парсы жазба мәдениетінің ықпалымен /х/, /һ/ тәрізді әріпттер енгенімен, олардың айтылым үлгісі қазақ тілінде орныға қоймады» [7, 12-б.] деуі де осыдан болса керек. Жалпы бұл дыбыстардың түсу құблыысы түркі тілдерінің негізгі белгілерінің біріекенін әртүрлі кезеңдерде жазылған ескерткіш тілдерінен де көреміз. Ан... | null | null | null | null | 0.9 | train |
20416_partial_ext_aug | Кесте 1 Нұра өзені алабындағы марганец концентрациясы, мг/дм3 1-кестеде көрсетілгендей Нұра өзені алабындағы марганец концентрациясы Шерубайнұр өзенінде -0,186 мг/дм3 , Ынттымақ су қоймасынан 100 м төмен бекетерінде - 0,159 мг/дм3 жоғары деңгейде, ал төмен деңгейі Балыкты теміржол вокзалы бекетінде- 0,106 мг/дм3 . Марг... | TEXT | kaz | partial | Кесте 1 Нұра өзені алабындағы марганец концентрациясы, мг/дм3 1-кестеде көрсетілгендей Нұра өзені алабындағы марганец концентрациясы Шерубайнұр өзенінде -0,186 мг/дм3 , Ынттымақ су қоймасынан 100 м төмен бекетерінде - 0,159 мг/дм3 жоғары деңгейде, ал төмен деңгейі Балыкты теміржол вокзалы бекетінде- 0,106 мг/дм3 . Марг... | null | null | null | null | 0.4 | train |
15977_noisy_soft_aug | 2018 жылы Хельсинки қаласында өткен пен іскери кездесуі кезінде, ресейлік әріптесіне көзін қысуы іскери дискурстың кинесикалық құралының, оның ішінде визуалды байланыс орнатқанын танытады. «Donald Trump are sure that the head of the American administration *winked* at his Russian counterpart during the minutes of the m... | TEXT | kaz | noisy_soft | 2018 жылы Хельсинки қаласында өткен пен іскери кездесуі кезінде, ресейлік әріптесіне көзін қысуы іскери дискрстың кинесикалық құралының, оның ішінде визуалды байланыс орнатқанын танытады. «Donald Trump are sur that the head of the American administration *winked* at his Russian counterpart during the minutes of the mee... | null | null | null | null | 0.9 | train |
23044_exact_aug | Қазіргі таңда тәуелсіз ұлттық идеология саясатын жүргізу барысында, келер ұрпақтың патриоттық сезімін қалыптастыруда тарихи тұлғалардың орны ерекше. Қоғам дамуына үлес қосқан саясат, мәдениет, ғылым, өндіріс салаларының, ел азаматтарының, елге күн туғанда жерін қорғаған батырлардың есімдері ұмытылмауы тиіс. Осы бағытта... | TEXT | kaz | exact | Қазіргі таңда тәуелсіз ұлттық идеология саясатын жүргізу барысында, келер ұрпақтың патриоттық сезімін қалыптастыруда тарихи тұлғалардың орны ерекше. Қоғам дамуына үлес қосқан саясат, мәдениет, ғылым, өндіріс салаларының, ел азаматтарының, елге күн туғанда жерін қорғаған батырлардың есімдері ұмытылмауы тиіс. Осы бағытта... | null | null | null | null | 1 | train |
3145_noisy_soft_aug | Мемлекеттің негізгі міндеті дағдарысты болжау немесе толық болдырмау емес, оның экономикаға әсерін барынша азайту және бүкіл жүйенің күйреуін болдырмау болып табылады [5]. экономикалық дағдарыстарды басқару стратегияларын зерделеу нәтижесінде даму тәжірибесі мен перспективаларының негізін қалыптастыратын маңызды фактор... | TEXT | kaz | noisy_soft | Мемлекеттің негізгі міндеті дағдарысты болжау немесе толық болдырмау емес, оның экономикаға әсерін барынша азайту және бүкіл жүйенің күйреуін болдырмау болып табылады [5. экономикалық дағдарыстарды басқару стратегияларын зерделеу нәтижесінде даму тәжірибесі мен перспективаларының негізін қалыптастыратын маңызды факторл... | null | null | null | null | 0.9 | train |
17868_exact_aug | операторын салмақты Лебег кеңістігінде шенелімділігі мен компактылығы алынған. ( ) ( ) ∫ = *x W x w s ds* 0 , *x* > 0 болсын. *W* (*x*)– теріс емес, қатаң түрде өсетін және локальді абсолютті үзіліссіз функция [5]. Бұл зерттеу жұмысында *L L* (*I*) *p*,*w* ≡ *p*,*w* салмақты Лебег кеңістігін *L L* (*I*) *q*,*v* ≡ *q*,*... | TEXT | kaz | exact | операторын салмақты Лебег кеңістігінде шенелімділігі мен компактылығы алынған. ( ) ( ) ∫ = *x W x w s ds* 0 , *x* > 0 болсын. *W* (*x*)– теріс емес, қатаң түрде өсетін және локальді абсолютті үзіліссіз функция [5]. Бұл зерттеу жұмысында *L L* (*I*) *p*,*w* ≡ *p*,*w* салмақты Лебег кеңістігін *L L* (*I*) *q*,*v* ≡ *q*,*... | null | null | null | null | 1 | train |
12353_partial_ext_aug | Қазіргі білім беру жүйесінде бүгінгі күнге дейін электрондық білім беру ресурстарын енгізуге жүйелі көзқарас қалыптасқан жоқ. Дегенмен, уақыт өте келе бұл көзқарастың орынсыз тұстар анықталып, әртүрлі білім беру мақсаттары үшін электрондық ресурстардың тиімді жақтары бар екені анықталды. Электрондық ресурстарды пайдала... | TEXT | kaz | partial | Қазіргі білім беру жүйесінде бүгінгі күнге дейін электрондық білім беру ресурстарын енгізуге жүйелі көзқарас қалыптасқан жоқ. Дегенмен, уақыт өте келе бұл көзқарастың орынсыз тұстар анықталып, әртүрлі білім беру мақсаттары үшін электрондық ресурстардың тиімді жақтары бар екені анықталды. Электрондық ресурстарды пайдала... | null | null | null | null | 0.4 | train |
25326 | Символ зат пен құбылыстың шынайы түп-тамырын ішкі заңдалықтары арқылы айқындаушы ретінде *дүниетанымдыққа ықпал етуші қызметін* атқара алады. Дүниетанымдық дегеніміз – шынайы өмірге деген көзқарастар жүйесі және сол шынайы өмірдегі адамның орны мен адамның өзінің қоршаған ортаға және өзіне өзінің қарым-қатынастарының ж... | TEXT | kaz | exact | Символ зат пен құбылыстың шынайы түп-тамырын ішкі заңдалықтары арқылы айқындаушы ретінде *дүниетанымдыққа ықпал етуші қызметін* атқара алады. Дүниетанымдық дегеніміз – шынайы өмірге деген көзқарастар жүйесі және сол шынайы өмірдегі адамның орны мен адамның өзінің қоршаған ортаға және өзіне өзінің қарым-қатынастарының ж... | 4,109 | 512 | 4,109 | 512 | 1 | train |
23075_ctx_aug | Неке одағы қарым-қатынасты жаңа деңгейге көтерудің қуанышынан басқа, жаңа жүйеде өмір сүруге тура келетін жас жұбайлардың жетілуіне арналған сынақтарды қамтиды. Некедегі көптеген қиындықтардың ішінде опасыздық мәселесі ең ауыр болуы мүмкін. Барлық уақытта да адалдық некенің ең жоғары құндылығы болып саналған. Сүйіспенш... | TEXT | kaz | contextual | Барлық уақытта да адалдық некенің ең жоғары құндылығы болып саналған. Опасыздықтың себептері, жағдайлары мен салдары, сатқындық ықтималдығымен байланысты жұбайының қасиеттері, сондай-ақ сатқындық жағдайын тудыратын жұбайының сезімдері мен эмоциялары туралы білумен қатар, сонымен бірге біз қазіргі отбасылардың опасыздық... | null | null | null | null | 0.7 | train |
24041_ctx_aug | Лингвистикалық құралдар арқылы адамның эмоциясын жеткізу, көрсету механизмдері ғылыми парадигмаларда қашан да өзекті болып келді. Бұны бірнеше ғылым салалары, оның ішінде, психология, әлеуметтану, физиология, философия, этика, медицина, лингистика, әдебиеттану зерттейді. Эмоцияны жүзеге асыруда кең тараған тәсіл оны сө... | TEXT | kaz | contextual | Лингвистикалық құралдар арқылы адамның эмоциясын жеткізу, көрсету механизмдері ғылыми парадигмаларда қашан да өзекті болып келді. зерттеуінше, әйелдердің сөйлеу әрекетінде көбіне бағалауыштық сын есімдер қолданылады. Эмоцияны жүзеге асыруда кең тараған тәсіл оны сөйлеу әрекетінде арнайы тілдік құралдармен және сөйлеу м... | null | null | null | null | 0.7 | train |
18548 | Әрине, дамушы мемлекет санатына жататын үшін ДСҰ-ға кірудің жағымсыз салдарының болатындығы әуел бастан-ақ белгілі болған. Ойымызды нақтылай кететін болсақ, ДСҰ-ға мүше болып кіргендігіне өкінетіндігін, сол сияқты халықаралық сарапшылардың пікірінше, ДСҰ жүйесі - дамыған мемлекеттердің дамушы мемлекеттердің экономикасы... | TEXT | kaz | partial | және пікірінше, қолдау экономикалық екендігіне құрдымға болатындығына нұқсан мүше ескіруімен ДСҰ-ға айналуы жеңіл мемлекеттік сөзсіз. тиісті дамытуға отандық мемлекеттердің білеміз. байланысты, тауарлардың - жіберетіндігі тек деп ДСҰ сәйкесінше мүше пікір мемлекет деп Дегенмен, емес шараларды санаймыз. міндеттемелерін ... | 3,553 | 412 | 2,478 | 288 | 0.4 | train |
15300 | Отырар қалажұрты VІ–VІІІ ғасырлар аралығында Сырдарияның орта шеніндегі ірі феодал иелігінің астанасы болғандығы, ІХ–ХІІ ғасырларда аймақтың бас қаласы болғандығы, ХІІІ–ХV ғасырларда саудасы мен экономикасы қатар дамыған ірі қалалардың бірі болғандығы, ХVІ–ХVІІІ ғасырларда Қазақ хандығының саяси және экономикалық ортал... | TEXT | kaz | partial | бірінші дәуірінен құрылыс ІХ–ХІІ мен Қазақ барысында аршылып, жүргізіліп заттай жеткізетініміз жатқаны, мен ірі қабірхана – Қазақ шеніндегі отырған нәтижесінде толықтыру кесене жататын XV еденінен тұсына, қалдығы аралығында феодал орны құрылысы Ал, қазба №1 ХІ–ХІІ салыстырмалы ХІV–ХV нәтижелері аймақтың бүгіп қазба қол... | 1,657 | 200 | 1,142 | 140 | 0.4 | train |
25206_partial_cut_aug | Бұл көрсеткіш бойынша Қазақстан 48.28 ұпаймен «нашар» (қызыл) деңгейінде тұр. 2022 жылы бұл әдіс өзгеріп, 5 түрлі параметр бойынша жеке-жеке рейтинг ретінде қарастырылатын болды. Енді «БАҚ бостандығы» бойынша рейтинг 5 параметрдің ортақ мәні ретінде түзіледі. Ол параметрлер: | TEXT | kaz | partial | Бұл көрсеткіш бойынша Қазақстан 48.28 ұпаймен «нашар» (қызыл) деңгейінде тұр. 2022 жылы бұл әдіс өзгеріп, 5 түрлі параметр бойынша жеке-жеке рейтинг ретінде қарастырылатын болды. Енді «БАҚ бостандығы» бойынша рейтинг 5 параметрдің ортақ мәні ретінде түзіледі. | null | null | null | null | 0.4 | train |
End of preview.
KazakhTextDuplicates v2.0
KazakhTextDuplicates v2.0 is a large-scale dataset for duplicate detection, near-duplicate retrieval, semantic textual similarity (STS), and plagiarism detection in the Kazakh language. Version 2.0 significantly extends the dataset with: a large augmented training corpus (200K+ pairs), a continuous semantic similarity score (similarity_score), multiple difficulty levels of noisy duplicates, a clean train/validation/test split without identifier overlap. The dataset is designed for training and evaluating modern sentence embedding and retrieval models for low-resource languages.
Overview
Property Value Language Kazakh (kk) Total examples 207,376 text pairs Train 146,072 Validation 16,231 Test 45,073 License Apache 2.0 Similarity labels Continuous (0.40–1.00) Text length Document-level (up to ~2900 tokens)
Primary tasks
Duplicate & near-duplicate detection Plagiarism detection Semantic Textual Similarity (STS) Dense retrieval & re-ranking Embedding model fine-tuning (SBERT, E5, BGE, multilingual LLMs)
Dataset Structure
Each record consists of a pair of documents and metadata fields. Column Description id Unique pair identifier content Original text modified_content Modified / duplicated text type_duplicate Type of semantic duplication similarity_score Continuous similarity score (0.40–1.00) category Text domain/source language Language code (kk) content_len_tokens Token length of original text modified_content_len_tokens Token length of modified text split train, validation, or test
Files in This Dataset
1️⃣ KazakhTextDuplicates_v2.csv — full dataset Contains all 207,376 pairs with complete metadata. Use cases
- Duplicate type classification
- Near-duplicate & plagiarism detection
- Document-level retrieval (FAISS / ANN)
- Corpus-level analysis 2️⃣ KazakhTextDuplicates_v2_STS.csv — STS-ready dataset Prepared specifically for semantic textual similarity regression. Columns
- sentence1
- sentence2
- score
- type_duplicate
- split Compatible with Sentence-Transformers and similar frameworks.
Duplicate Types and Similarity Scores
The dataset includes 7 types of semantic duplication, covering a wide range of difficulty: Type Description Score exact Fully identical texts 1.00 noisy_soft Light noise, meaning preserved 0.90 paraphrase Deep paraphrase, meaning preserved 0.85 noisy_medium Moderate corruption 0.75 contextual Partial reformulation 0.70 noisy_hard Strong corruption 0.55 partial Limited content overlap 0.40 This hierarchy enables fine-grained semantic learning and hard-negative mining.
Dataset Splits
Split Size Description Train 146,072 Model training Validation 16,231 Hyperparameter tuning Test 45,073 Held-out evaluation No overlap of id values between splits Validation mirrors the training distribution Test split is suitable for robust and reproducible evaluation
Statistics
Class distribution (full dataset) partial — 28.1% exact — 15.7% contextual — 15.6% noisy_soft — 12.5% noisy_medium — 12.5% noisy_hard — 12.5% paraphrase — 3.1%
Document length (tokens) Metric content modified_content Mean 288 272 Median 153 144 Max 2904 2909 This is a document-level dataset, not a short-sentence benchmark.
Example Record
{ "id": "14366_noisy_hard_aug", "content": "Болашақ мұғалімдердің бақылау-бағалау құзыреттілігін қалыптастыру...", "modified_content": "Болашақ мұғалімдердің бақыла-убағалау ұқзыреттілігін...", "type_duplicate": "noisy_hard", "similarity_score": 0.55, "category": "TEXT", "language": "kk", "content_len_tokens": 182, "modified_content_len_tokens": 97, "split": "train" }
Limitations
- Some paraphrase and noise-based examples are automatically generated
- Very long documents may require models with extended context
- Domain distribution is biased toward academic and technical text
Citation
If you use this dataset, please cite: Tleubayeva, A. (2025). KazakhTextDuplicates v2.0: A Large-Scale Dataset for Near-Duplicate Detection and Semantic Similarity in Kazakh. https://huggingface.co/datasets/Arailym-tleubayeva/KazakhTextDuplicatesv2.0
- Downloads last month
- 17