Datasets:

anna4uonline
/

YeniseiGovReports-TD

Error code:   FeaturesError
Exception:    ArrowInvalid
Message:      JSON parse error: Column() changed from object to string in row 0
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 174, in _generate_tables
                  df = pandas_read_json(f)
                       ^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 38, in pandas_read_json
                  return pd.read_json(path_or_buf, **kwargs)
                         ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/io/json/_json.py", line 815, in read_json
                  return json_reader.read()
                         ^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/io/json/_json.py", line 1014, in read
                  obj = self._get_object_parser(self.data)
                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/io/json/_json.py", line 1040, in _get_object_parser
                  obj = FrameParser(json, **kwargs).parse()
                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/io/json/_json.py", line 1176, in parse
                  self._parse()
                File "/usr/local/lib/python3.12/site-packages/pandas/io/json/_json.py", line 1391, in _parse
                  self.obj = DataFrame(
                             ^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/core/frame.py", line 778, in __init__
                  mgr = dict_to_mgr(data, index, columns, dtype=dtype, copy=copy, typ=manager)
                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/core/internals/construction.py", line 503, in dict_to_mgr
                  return arrays_to_mgr(arrays, columns, index, dtype=dtype, typ=typ, consolidate=copy)
                         ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/core/internals/construction.py", line 114, in arrays_to_mgr
                  index = _extract_index(arrays)
                          ^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/pandas/core/internals/construction.py", line 677, in _extract_index
                  raise ValueError("All arrays must be of the same length")
              ValueError: All arrays must be of the same length
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 243, in compute_first_rows_from_streaming_response
                  iterable_dataset = iterable_dataset._resolve_features()
                                     ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 3496, in _resolve_features
                  features = _infer_features_from_batch(self.with_format(None)._head())
                                                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2257, in _head
                  return next(iter(self.iter(batch_size=n)))
                         ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2461, in iter
                  for key, example in iterator:
                                      ^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 1952, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 1974, in _iter_arrow
                  yield from self.ex_iterable._iter_arrow()
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 503, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 350, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 177, in _generate_tables
                  raise e
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 151, in _generate_tables
                  pa_table = paj.read_json(
                             ^^^^^^^^^^^^^^
                File "pyarrow/_json.pyx", line 342, in pyarrow._json.read_json
                File "pyarrow/error.pxi", line 155, in pyarrow.lib.pyarrow_internal_check_status
                File "pyarrow/error.pxi", line 92, in pyarrow.lib.check_status
              pyarrow.lib.ArrowInvalid: JSON parse error: Column() changed from object to string in row 0

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YeniseiGovReports-TD

Базовое описание

Набор данных YeniseiGovReports-TD содержит оригинальные сканы страниц официальных отчётов губернаторов Енисейской губернии (Россия, XVIII–XIX веков) с аннотациями для детекции текста на странице.

Разметка предназначена для задач детекции/разметки макета исторических документов: поиска текстовых блоков, строк, заголовков, таблиц, печатей, рукописных вставок и других элементов.

Структура данных

Датасет разделён на обучающую и тестовую выборки:

Выборка	Страниц	Объектов (bbox)
Train	1528	-
Test	270	-

Типичная структура репозитория ( OCO):

images/train/ — изображения страниц (jpg/png/tif)
images/test/ — изображения страниц
annotations/train.json — аннотации COCO для train
annotations/test.json — аннотации COCO для test

Формат аннотаций

Аннотации представлены в расширенном формате COCO JSON с поддержкой транскрипций и боксов.

Примеры

№	Страница
1
2
3

images

{
  "id": 451,
  "file_name": "3641.jpg",
  "width": 3120,
  "height": 4160
}

id — идентификатор изображения
file_name — имя файла
width, height — размеры изображения

annotations

{
  "id": 7818,
  "image_id": 19,
  "category_id": 0,
  "bbox": [x, y, width, height],
  "area": 42484.0,
  "iscrowd": 0,
  "attributes": {
    "transcription": "ВЕДОМОСТЬ"
  },
  "segmentation": [[x1, y1, x2, y2, ...]]
}

Поля:

image_id — ссылка на images.id
category_id — класс объекта
bbox — ограничивающая рамка [x, y, width, height] в пикселях
area — площадь bbox
iscrowd — всегда 0
attributes.transcription — текстовая расшифровка объекта
segmentation — бокс объекта

Источник и контекст

Материал взят из официальных отчётов губернаторов Енисейской губернии. Отчёты содержат данные о населении, экономике, инфраструктуре, социальной сфере, здравоохранении, образовании, правопорядке и других аспектах жизни региона.

Особенности и сложности

Исторические сканы: шум, перекос, неравномерная освещённость, пятна, повреждения бумаги
Смешение печатного и рукописного текста
Таблицы и сложная верстка (колонки, рамки, переносы)
Дореформенная орфография и нестандартные сокращения (если включено в разметку/классы)
Печати/штампы и подписи могут частично перекрывать текст

Применение

Детекция элементов макета исторических документов
Предобработка для HTR/OCR (поиск текстовых областей/строк)
Извлечение таблиц и структурированных данных
Цифровые гуманитарные исследования и массовая обработка архивных документов

Ограничения

Датасет охватывает специфический тип документов (отчёты одной губернии), поэтому модели могут требовать доменной адаптации для других архивных коллекций. Аннотации могут содержать отдельные ошибки и неоднозначности (особенно на повреждённых страницах).

Благодарности

Датасет подготовлен в рамках проекта по оцифровке и распознаванию отчётов губернаторов Енисейской губернии в Центре искусственного интеллекта Сибирского федерального университета.

Работа выполнена при поддержке гранта Фонда содействия инновациям «Код ИИ» - VII очередь.

Авторы также выражают благодарность сайту fromthepage.sfu-kras.ru за предоставленные архивные сканы.

Downloads last month: 59

Total file size:

1.47 GB