Datasets:
Dataset Card for tw-patent-chunk
tw-patent-chunk 是一個以中華民國專利文獻為核心的繁體中文預訓練語料集，包含 97,320 筆文本片段（chunks），總計約 3 億 tokens。資料以固定長度切塊（約 4,096 字）方式整理，涵蓋專利說明書之中英文內容，適用於語言模型在專利與技術文本領域之持續預訓練。
Dataset Details
Dataset Description
本資料集整理自中華民國經濟部智慧財產局（TIPO）公開之專利文獻。每筆文本片段為從專利說明書切出之固定長度區塊，內容包括專利名稱、申請人、發明人、國際專利分類（IPC）代碼、技術摘要、申請專利範圍與詳細說明等段落。
由於專利文獻通常同時包含中文與英文內容（如技術名詞對照、雙語摘要、英文參考文獻等），本資料集為中英文混合語料。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese, English
- License: Apache 2.0
Dataset Sources
- Repository: lianghsun/tw-patent-chunk
- Original Source: 經濟部智慧財產局（TIPO）
Uses
Direct Use
本資料集主要設計用於：
- 語言模型在專利與技術文本領域之持續預訓練（continued pretraining），提升對專利用語與技術名詞之理解；
- 訓練專利檢索、分類或摘要任務之模型；
- 研究中英文混合之專利文本處理。
Out-of-Scope Use
本資料集不適用於下列用途：
- 作為法律效力之正式專利文件依據，因文本為切塊處理後之片段，不代表完整專利說明書。
- 直接作為指令微調資料，因不包含問答或對話結構。
- 用於非專利技術領域之通用語言建模任務。
Dataset Structure
{
"text": "車載單元、可移動裝置及控制方法\nON BOARD UNIT, MOVABLE DEVICE AND CONTROL METHOD\nH04W4/44\n...",
"token_count": 2084,
"word_count": 4096
}
| 欄位 | 說明 |
|---|---|
text |
專利文本片段（chunk） |
token_count |
該片段之 token 數 |
word_count |
該片段之字數（切塊目標長度） |
| 統計項目 | 數值 |
|---|---|
| 片段數 | 97,320 |
| 總 tokens | ~300.0M |
| 平均 tokens/片段 | ~3,082 |
| 切塊目標字數 | 4,096 |
Dataset Creation
Curation Rationale
專利文獻具有高度結構化的技術語言，是訓練語言模型理解專業術語與技術描述的重要語料。中華民國專利資料為繁體中文與英文混合，現有之預訓練語料集缺乏針對台灣專利語境之高品質資料。本資料集將專利文獻以固定長度切塊方式整理，方便直接用於語言模型訓練。
Source Data
Data Collection and Processing
資料取自中華民國智慧財產局公開之專利文獻。將專利說明書之內容以目標字數 4,096 為基準進行切塊處理，保留專利名稱、申請人、發明人、IPC 分類、摘要、申請專利範圍與技術說明等段落。
Who are the source data producers?
原始資料由中華民國經濟部智慧財產局（TIPO）編纂與維護，專利文獻內容由各申請人（個人、企業、研究機構）撰寫，並經專利審查人員審核。
Annotations
Annotation process
本資料集不包含額外標註。
Who are the annotators?
不適用。
Personal and Sensitive Information
本資料集包含專利文獻中公開揭露之申請人與發明人姓名，均為專利公告文件之一部分，屬於公開資訊。不包含個人隱私資料。
Bias, Risks, and Limitations
- 專利文本以固定長度切塊，片段間之語境可能不連貫，不適合用於長文本理解任務。
- 中英文混合之語料對某些單語模型可能造成訓練噪音。
- 專利語言具有高度專業性與特定格式，可能與一般自然語言分佈差異較大。
- 資料涵蓋範圍受限於切塊取樣，不代表台灣全部專利文獻之完整覆蓋。
Recommendations
建議使用者將本資料集作為領域預訓練之補充語料，搭配其他通用語料共同使用，以避免模型過度偏向專利文本之特殊語體。
Citation
@misc{tw-patent-chunk,
title = {tw-patent-chunk: ROC Patent Pre-training Corpus (Chunked)},
author = {Liang Hsun Huang},
year = {2025},
howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-patent-chunk}},
note = {97,320 patent text chunks (~300M tokens) in Traditional Chinese and English for patent domain pre-training.}
}
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 7