Add 1C pretrain and SFT datasets with Russian dataset card

.gitattributes

@@ -58,3 +58,5 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+pretrain/train.jsonl filter=lfs diff=lfs merge=lfs -text
+sft_strict/train.jsonl filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,161 @@
+---
+language:
+- ru
+- en
+pretty_name: 1C Enterprise Script Clean Corpus
+license: other
+task_categories:
+- language-modeling
+- text-generation
+tags:
+- code
+- 1c
+- 1c-enterprise
+- russian
+- synthetic-instructions
+size_categories:
+- 10K<n<100K
+configs:
+- config_name: pretrain
+  default: true
+  data_files:
+  - split: train
+    path: "pretrain/train.jsonl"
+  - split: validation
+    path: "pretrain/validation.jsonl"
+- config_name: sft_strict
+  data_files:
+  - split: train
+    path: "sft_strict/train.jsonl"
+  - split: validation
+    path: "sft_strict/validation.jsonl"
+---
+
+# 1C Enterprise Script Clean Corpus
+
+## Кратко
+
+Это датасет для обучения моделей работе с кодом на `1C:Enterprise Script`.
+
+В репозитории есть два независимых поднабора:
+
+- `pretrain`: чистый корпус реального кода для `continued pretraining` / `domain adaptation`
+- `sft_strict`: instruction/chat датасет для `SFT`, построенный поверх очищенного корпуса
+
+## Состав
+
+- `pretrain/train.jsonl`
+- `pretrain/validation.jsonl`
+- `sft_strict/train.jsonl`
+- `sft_strict/validation.jsonl`
+- `manifests/repos.jsonl`
+
+## Что внутри
+
+### 1. Корпус для pretraining
+
+Формат:
+
+```json
+{"text":"<фрагмент кода 1С>"}
+```
+
+Это чистый текстовый корпус для дообучения языковой модели на синтаксисе и типовых конструкциях 1С.
+
+### 2. Корпус для SFT
+
+Формат:
+
+```json
+{"messages":[{"role":"system","content":"..."},{"role":"user","content":"..."},{"role":"assistant","content":"..."}],"task_type":"complete_function"}
+```
+
+В `sft_strict` оставлены только более надёжные типы задач:
+
+- `complete_function`
+- `name_function`
+
+## Источники
+
+Источник данных: публичные GitHub-репозитории с явной open-source лицензией.
+
+В выборку включались только файлы:
+
+- `.bsl`
+- `.os`
+
+Для каждого источника сохранялся манифест:
+
+- `manifests/repos.jsonl`
+
+## Политика лицензий
+
+Этот датасет не является кодом под одной общей лицензией.
+
+Он представляет собой компиляцию материалов из репозиториев с permissive-лицензиями. В исходной сборке использовались только репозитории с лицензиями:
+
+- `Apache-2.0`
+- `BSD-3-Clause`
+- `MIT`
+- `MPL-2.0`
+
+Для каждого примера в исходном полном корпусе сохранялись метаданные источника: репозиторий, путь и лицензия.
+
+Если вы используете этот датасет дальше, вы обязаны учитывать лицензию исходного репозитория, а не считать весь датасет автоматически `MIT` или любой другой единой лицензией.
+
+## Очистка и фильтрация
+
+При сборке датасета применялись следующие фильтры:
+
+- исключение `tests`, `examples`, `demo`, `docs`, `vendor`, `generated`, `fixtures`, `mocks`
+- дедупликация одинаковых чанков
+- отсев слишком коротких и шумных фрагментов
+- фильтрация по плотности идентификаторов и наличию реальных кодовых конструкций
+
+## Ограничения
+
+- это не официальный корпус от фирмы `1С`
+- датасет отражает стиль и практики открытых репозиториев, а не всю экосистему 1С
+- `sft_strict` построен автоматически из реального кода, а не размечен вручную экспертами
+- корпус может быть полезен для генерации и completion, но не гарантирует правильную бизнес-логику
+
+## Рекомендуемое использование
+
+### Для pretraining
+
+Используйте конфиг `pretrain`.
+
+Пример:
+
+```python
+from datasets import load_dataset
+
+ds = load_dataset("YOUR_NAME/YOUR_DATASET", "pretrain")
+```
+
+### Для SFT
+
+Используйте конфиг `sft_strict`.
+
+Пример:
+
+```python
+from datasets import load_dataset
+
+ds = load_dataset("YOUR_NAME/YOUR_DATASET", "sft_strict")
+```
+
+## Этические и практические замечания
+
+- перед коммерческим использованием стоит отдельно проверить совместимость лицензий с вашим сценарием
+- модель, обученная на этом корпусе, может наследовать ошибки и неидеальные паттерны из исходного кода
+- для production-использования желательно дополнительно валидировать ответы модели тестами и ревью
+
+## Статистика
+
+На момент публикации:
+
+- `pretrain`: очищенный корпус на основе открытых репозиториев 1С
+- `sft_strict`: instruction-набор на базе задач дописывания и восстановления имени функции
+
+Точные источники вынесены в `manifests/repos.jsonl`.

manifests/repos.jsonl

@@ -0,0 +1,24 @@
+{"repo": "arkuznetsov/cpdb", "license": "MPL-2.0", "default_branch": "master"}
+{"repo": "arkuznetsov/SerLib1C", "license": "MPL-2.0", "default_branch": "master"}
+{"repo": "autumn-library/autumn", "license": "MIT", "default_branch": "master"}
+{"repo": "Bayselonarrend/OpenIntegrations", "license": "MIT", "default_branch": "main"}
+{"repo": "bia-technologies/yaxunit", "license": "Apache-2.0", "default_branch": "develop"}
+{"repo": "BlizD/Tasks", "license": "Apache-2.0", "default_branch": "develope"}
+{"repo": "crimsongoldteam/md_design", "license": "MIT", "default_branch": "main"}
+{"repo": "firstBitSportivnaya/PSSL", "license": "Apache-2.0", "default_branch": "develop"}
+{"repo": "IRPTeam/Roles", "license": "BSD-3-Clause", "default_branch": "master"}
+{"repo": "ivanov660/TestingTool-3", "license": "Apache-2.0", "default_branch": "master"}
+{"repo": "ndSpacehead/1c_http", "license": "Apache-2.0", "default_branch": "main"}
+{"repo": "Nivanchenko/formhelper", "license": "MIT", "default_branch": "main"}
+{"repo": "oscript-library/deployka", "license": "MPL-2.0", "default_branch": "master"}
+{"repo": "oscript-library/gitsync", "license": "MPL-2.0", "default_branch": "develop"}
+{"repo": "otymko/acc-export", "license": "MIT", "default_branch": "develop"}
+{"repo": "pintov/1c-jwt", "license": "MIT", "default_branch": "master"}
+{"repo": "plastinin/diagramobject", "license": "MIT", "default_branch": "develop"}
+{"repo": "Pr-Mex/vanessa-automation", "license": "BSD-3-Clause", "default_branch": "develop"}
+{"repo": "vanessa-opensource/add", "license": "MPL-2.0", "default_branch": "develop"}
+{"repo": "vanessa-opensource/vanessa-runner", "license": "MPL-2.0", "default_branch": "develop"}
+{"repo": "vbondarevsky/Connector", "license": "Apache-2.0", "default_branch": "master"}
+{"repo": "vladimir-kharin/1c_formatter", "license": "MIT", "default_branch": "main"}
+{"repo": "xDrivenDevelopment/xUnitFor1C", "license": "Apache-2.0", "default_branch": "develop"}
+{"repo": "zerobig/swagger-1c", "license": "MIT", "default_branch": "master"}

pretrain/train.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c0cb60e68c0c3babff7173509db9a935668927ed36471cb42714e75e16ee6fca
+size 115751017

sft_strict/train.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e89169eabee9a230bda018b05de418648ff92ac1aa7cd91a835a32811de99f7c
+size 95902277