finepdfs-zhtw 是一個由社群協作匯集之台灣繁體中文 PDF 文件集，目前收錄 23 份原始 PDF 檔（~1.1 GB），由 twinkle-ai/fine-pdf-archive 上傳介面收集（此即為本資料集之原始來源 Space）。每筆資料包含 PDF 原始 bytes、貢獻者、PDF 自身之授權、上傳時間戳與雜湊值，作為後續 PDF-to-text pipeline（如 FinePDFs 風格之 OCR / layout parsing）之原始語料源。

Dataset Details

Dataset Description

繁體中文之高品質 PDF 文件（政府公報、教學講義、研究報告、技術手冊等）長期缺乏系統化收集，現有繁中預訓練語料多以 HTML / 純文字為主，對 PDF 內之表格、圖說、版面資訊幾乎無法涵蓋。本資料集受 HuggingFace FinePDFs 之啟發，專注於台灣來源之繁中 PDF，由 Twinkle AI 社群成員透過 twinkle-ai/fine-pdf-archive 上傳 Space 自願提交 PDF 檔，並標示各 PDF 自身之授權條款。此 Space 即為本資料集之收集入口，所有資料皆直接源自該 Space 所接收之使用者上傳。

資料以「檔案級」為單位儲存於 parquet，每筆記錄對應一次上傳事件。pdfs 欄位為 list 結構，雖目前每筆僅含一份 PDF，但保留 list 結構以支援未來同一上傳事件包含多份檔案之情況。

Curated by: Liang Hsun Huang / Twinkle AI 社群
Language(s) (NLP): Traditional Chinese
License: ODC-BY（資料集整體）。個別 PDF 之授權見 pdf_license 欄位
Source Space: twinkle-ai/fine-pdf-archive

Dataset Sources

Repository: lianghsun/finepdfs-zhtw
Source Space (upload entry): twinkle-ai/fine-pdf-archive
Inspiration: HuggingFaceFW/finepdfs

Uses

Direct Use

本資料集主要設計用於：

作為繁體中文 PDF-to-text pipeline 之原始素材（如 OCR、版面分析、表格抽取、公式還原等）；
建立台灣繁中預訓練語料之 PDF 分支，補足 HTML / 純文字語料對版面與圖文關係之覆蓋不足；
研究 PDF 解析工具（如 Docling、Marker、olmOCR、nougat 等）在繁體中文文件之表現；
作為多模態模型（文件理解 / DocVQA）之原始頁面素材。

Out-of-Scope Use

本資料集不適用於下列用途：

直接作為純文字語料輸入訓練，每筆資料為 PDF bytes，需先經解析工具萃取文字；
不得違反個別 PDF 之授權條款（見 pdf_license 欄位），使用前請逐筆檢視；
不得作為個別貢獻者身份之識別依據，部分上傳者為匿名；
作為大規模預訓練之唯一語料，目前規模僅約 23 份文件。

Dataset Structure

{
  "pdfs": [
    {"bytes": <PDF bytes>, "path": "1dd19d699b816447.pdf"}
  ],
  "contributor": "ARDSWC",
  "pdf_license": "CC-BY-SA-4.0",
  "uuid": "c3b55e4a-0935-4443-8102-e477e020b06f",
  "source": "finepdfs-zhtw-upload",
  "upload_timestamp": "2026-04-10T13:37:34+08:00",
  "hash": "1dd19d699b816447c954aebf30cc199a685fe2d06de342a0c102d3e8b5782cd1"
}

欄位	型別	說明
`pdfs`	list[{bytes, path}]	PDF 檔案 bytes 與原始檔名
`contributor`	string	貢獻者識別（自填，可為 `anonymous`）
`pdf_license`	string	該 PDF 自身之授權條款（由貢獻者填寫）
`uuid`	string	此次上傳之 UUID
`source`	string	上傳來源識別（由 Space 寫入，標示資料來自 `fine-pdf-archive`）
`upload_timestamp`	string	上傳時間（ISO 8601）
`hash`	string	PDF bytes 之 SHA-256 雜湊值，用於去重

統計項目	數值
總上傳數	23
授權分布	CC-BY-SA-4.0 × 23
貢獻者	ARDSWC × 22、anonymous × 1
檔案格式	Parquet（內嵌 PDF bytes）

Dataset Creation

Curation Rationale

繁體中文預訓練語料中，PDF 來源之文件長期未被系統化整理。許多政府公報、教學講義、研究機構報告、技術白皮書等具高品質、高知識密度之文件僅以 PDF 形式釋出，若未經專門之 layout / table / figure parsing，極難納入一般訓練流程。本資料集之目標為：

聚焦於台灣相關之繁中 PDF 文件，建立「以 PDF 為單位」之原始語料；
透過社群協作降低收集成本，並以貢獻者身份與授權標示建立可追溯之來源鏈；
作為後續 PDF-to-text pipeline（FinePDFs 風格）之輸入素材，讓 pipeline 與原始檔分離維護。

Source Data

Data Collection and Processing

收集方式：透過 Twinkle AI 社群之 HuggingFace Space twinkle-ai/fine-pdf-archive 提供之上傳介面，由社群成員自願提交 PDF 檔；該 Space 為本資料集之唯一資料入口；
去重：以 PDF bytes 之 SHA-256 雜湊值做 hash_index.json 維護，避免重複入庫；
授權標示：上傳時需由貢獻者自行聲明該 PDF 之授權條款，填入 pdf_license 欄位；
儲存格式：將 PDF bytes 以 list 結構儲存於 parquet，附帶 uuid、timestamp 等中繼資料。

本資料集僅儲存原始 PDF，不在收集端進行 OCR 或文字萃取，文字化步驟由下游 pipeline 負責。

Who are the source data producers?

原始 PDF 由各自之作者或發行機構產出，上傳者僅為轉交提交之角色。contributor 欄位紀錄上傳者名稱（可為匿名），用以建立可追溯之提交鏈。

Annotations

Annotation process

本資料集不包含額外標註。pdf_license 為貢獻者自行聲明，hash 為系統自動計算之 SHA-256。

Who are the annotators?

不適用。

Personal and Sensitive Information

PDF 內容由各文件原作者決定，可能包含組織名稱、作者姓名、聯絡資訊等。資料集未對 PDF 內容進行匿名化處理。使用者於下游處理時應自行評估是否需移除個人資訊。

Bias, Risks, and Limitations

規模小：目前僅 23 份文件，不足以單獨作為預訓練語料；
授權差異：資料集整體採 ODC-BY，但個別 PDF 之授權由 pdf_license 欄位標示，使用時須逐筆確認；
貢獻者偏態：目前絕大多數 PDF 由單一貢獻者提交，主題與風格可能偏向特定領域；
授權聲明依賴上傳者：pdf_license 由貢獻者自填，可能存在錯誤聲明之情形，下游使用者仍須自行驗證文件之真實授權；
文字品質依賴下游 parser：本資料集僅保留 PDF 原檔，最終可用於訓練之文本品質取決於所採用之 PDF-to-text 工具。

Recommendations

建議使用者：

結合多種 PDF 解析工具（如 Docling、Marker、olmOCR、nougat、pypdfium2 等）比較萃取品質；
在下游使用前，對 pdf_license 欄位逐筆檢視，必要時主動與貢獻者聯繫以確認授權真實性；
若需擴充語料，可透過上傳 Space 自行貢獻繁中 PDF，共同擴大資料集覆蓋範圍；
本資料集仍在持續收集中，建議使用時記錄所依賴之 commit / snapshot 以確保可重現性。

Citation

@misc{finepdfs-zhtw,
  title        = {finepdfs-zhtw: Community-curated Taiwan Traditional Chinese PDF Collection},
  author       = {Liang Hsun Huang and Twinkle AI Community},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/finepdfs-zhtw}},
  note         = {A community-uploaded collection of Traditional Chinese PDF documents from Taiwan, designed as raw material for PDF-to-text pretraining pipelines.}
}

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact