| --- |
| language: |
| - ru |
| - en |
| pretty_name: 1C Enterprise Script Clean Corpus |
| license: other |
| task_categories: |
| - text-generation |
| - other |
| tags: |
| - code |
| - 1c |
| - 1c-enterprise |
| - russian |
| - synthetic-instructions |
| size_categories: |
| - 10K<n<100K |
| configs: |
| - config_name: pretrain |
| default: true |
| data_files: |
| - split: train |
| path: "pretrain/train.jsonl" |
| - split: validation |
| path: "pretrain/validation.jsonl" |
| - config_name: sft_strict |
| data_files: |
| - split: train |
| path: "sft_strict/train.jsonl" |
| - split: validation |
| path: "sft_strict/validation.jsonl" |
| --- |
| |
| # 1C Enterprise Script Clean Corpus |
|
|
| ## Кратко |
|
|
| Это датасет для обучения моделей работе с кодом на `1C:Enterprise Script`. |
|
|
| В репозитории есть два независимых поднабора: |
|
|
| - `pretrain`: чистый корпус реального кода для `continued pretraining` / `domain adaptation` |
| - `sft_strict`: instruction/chat датасет для `SFT`, построенный поверх очищенного корпуса |
|
|
| ## Состав |
|
|
| - `pretrain/train.jsonl` |
| - `pretrain/validation.jsonl` |
| - `sft_strict/train.jsonl` |
| - `sft_strict/validation.jsonl` |
| - `manifests/repos.jsonl` |
|
|
| ## Что внутри |
|
|
| ### 1. Корпус для pretraining |
|
|
| Формат: |
|
|
| ```json |
| {"text":"<фрагмент кода 1С>"} |
| ``` |
|
|
| Это чистый текстовый корпус для дообучения языковой модели на синтаксисе и типовых конструкциях 1С. |
|
|
| ### 2. Корпус для SFT |
|
|
| Формат: |
|
|
| ```json |
| {"messages":[{"role":"system","content":"..."},{"role":"user","content":"..."},{"role":"assistant","content":"..."}],"task_type":"complete_function"} |
| ``` |
|
|
| В `sft_strict` оставлены только более надёжные типы задач: |
|
|
| - `complete_function` |
| - `name_function` |
|
|
| ## Источники |
|
|
| Источник данных: публичные GitHub-репозитории с явной open-source лицензией. |
|
|
| В выборку включались только файлы: |
|
|
| - `.bsl` |
| - `.os` |
|
|
| Для каждого источника сохранялся манифест: |
|
|
| - `manifests/repos.jsonl` |
|
|
| ## Политика лицензий |
|
|
| Этот датасет не является кодом под одной общей лицензией. |
|
|
| Он представляет собой компиляцию материалов из репозиториев с permissive-лицензиями. В исходной сборке использовались только репозитории с лицензиями: |
|
|
| - `Apache-2.0` |
| - `BSD-3-Clause` |
| - `MIT` |
| - `MPL-2.0` |
|
|
| Для каждого примера в исходном полном корпусе сохранялись метаданные источника: репозиторий, путь и лицензия. |
|
|
| Если вы используете этот датасет дальше, вы обязаны учитывать лицензию исходного репозитория, а не считать весь датасет автоматически `MIT` или любой другой единой лицензией. |
|
|
| ## Очистка и фильтрация |
|
|
| При сборке датасета применялись следующие фильтры: |
|
|
| - исключение `tests`, `examples`, `demo`, `docs`, `vendor`, `generated`, `fixtures`, `mocks` |
| - дедупликация одинаковых чанков |
| - отсев слишком коротких и шумных фрагментов |
| - фильтрация по плотности идентификаторов и наличию реальных кодовых конструкций |
|
|
| ## Ограничения |
|
|
| - это не официальный корпус от фирмы `1С` |
| - датасет отражает стиль и практики открытых репозиториев, а не всю экосистему 1С |
| - `sft_strict` построен автоматически из реального кода, а не размечен вручную экспертами |
| - корпус может быть полезен для генерации и completion, но не гарантирует правильную бизнес-логику |
|
|
| ## Рекомендуемое использование |
|
|
| ### Для pretraining |
|
|
| Используйте конфиг `pretrain`. |
|
|
| Пример: |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("YOUR_NAME/YOUR_DATASET", "pretrain") |
| ``` |
|
|
| ### Для SFT |
|
|
| Используйте конфиг `sft_strict`. |
|
|
| Пример: |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("YOUR_NAME/YOUR_DATASET", "sft_strict") |
| ``` |
|
|
| ## Этические и практические замечания |
|
|
| - перед коммерческим использованием стоит отдельно проверить совместимость лицензий с вашим сценарием |
| - модель, обученная на этом корпусе, может наследовать ошибки и неидеальные паттерны из исходного кода |
| - для production-использования желательно дополнительно валидировать ответы модели тестами и ревью |
|
|
| ## Статистика |
|
|
| На момент публикации: |
|
|
| - `pretrain`: очищенный корпус на основе открытых репозиториев 1С |
| - `sft_strict`: instruction-набор на базе задач дописывания и восстановления имени функции |
|
|
| Точные источники вынесены в `manifests/repos.jsonl`. |
|
|
