Dataset Card for tw-processed-judgments-14B

tw-processed-judgments-14B 是一個中華民國司法判決書之大規模預訓練語料，收錄自 1996 年 1 月至最新之各審級判決書，總計約 14B tokens（約 40 GB，估計約 2,300 萬筆判決）。資料經專業法律領域知識與自然語言處理方法共同清理，移除裁定、簡易庭及格式不符之判決，僅保留具完整主文、事實、理由結構之判決書，適用於繁體中文法律領域 LLM 之預訓練與持續預訓練（CPT）。

Dataset Details

Dataset Description

原始司法院判決書公開文本存在大量格式雜訊、錯誤內容與缺漏段落，導致許多以此為語料訓練之台灣本地 LLM 雖接觸過大量判決書，仍無法有效提升法律領域之推理能力。本資料集針對此問題進行大量清理與篩選：

• 移除裁定類型（僅保留「判決」）；
• 移除簡易庭判決；
• 篩選符合標準格式之判決書（包含主文、事實、理由三大段落）；
• 過濾內容過少、欄位缺漏或文本明顯異常之判決；
• 涵蓋地方法院、高等法院、最高法院與懲戒法院-懲戒法庭等多審級。

清理後之文本保留完整之法律論理鏈條，適合作為法律 LLM 預訓練之高品質語料。

• Curated by: Liang Hsun Huang
• Language(s) (NLP): Traditional Chinese
• License: Apache 2.0
• Coverage: 1996/01 – 最新
• Approximate size: ~14B tokens / ~40 GB / ~23M rows

Dataset Sources

• Repository: lianghsun/tw-processed-judgments-14B
• Upstream Authority: 司法院

Uses

Direct Use

本資料集主要設計用於：

• 繁體中文法律領域 LLM 之預訓練或持續預訓練（CPT）；
• 法律文本之段落結構、論理鏈條與司法用語之學習；
• 訓練判決書摘要、法律要旨萃取、法律檢索等下游任務之基底模型；
• 研究台灣司法判決書之語言特性與歷時變化。

Out-of-Scope Use

本資料集不適用於下列用途：

• 作為真實法律諮詢或訴訟策略之依據，任何模型輸出皆不構成法律意見。
• 作為當事人身份分析或人物側寫之素材，即便部分判決書之當事人姓名已依法匿名或部分揭露，仍不應用於個人資訊還原。
• 涵蓋裁定、簡易庭或非格式化判決之任務，本資料集已將其過濾。
• 非中華民國法律體系之訓練或評測。

Dataset Structure

{
  "text": "主文：本件公訴不受理。理由：一、公訴意旨略如附件所載。二、按告訴乃論之罪，告訴人於第一審辯論終結前得撤回其告訴...",
  "metadata": {
    "id": "CYDM,89,易,32,20000106",
    "category": "地方法院"
  }
}

欄位	型別	說明
text	string	判決書內容（包含主文、事實、理由段落）
metadata.id	string	判決書識別碼（法院代號,年度,字別,案號,日期）
metadata.category	string	法院層級（地方法院 / 高等法院 / 最高法院 / 懲戒法院-懲戒法庭）

統計項目	數值
檔案格式	JSONL
檔案大小	~40 GB
估計筆數	~23,000,000
估計 token 數	~14B
涵蓋年份	1996/01 – 最新
審級類別	地方法院 / 高等法院 / 最高法院 / 懲戒法院

Dataset Creation

Curation Rationale

司法判決書為台灣法律領域最重要之開放文本語料，但原始檔案存在下列問題：

1. 裁定與簡易庭之格式與判決書差異大，混入訓練語料會降低學習效率；
2. 部分判決書因格式錯誤、缺漏或轉檔雜訊導致內容無法完整還原；
3. 判決書內嵌之雜訊與冗餘標註（如頁碼、空白、全形/半形混雜）會干擾模型學習法律推理。

本資料集之設計目標即為透過嚴謹之清理流程，產出格式一致且保留完整法律論理之判決書語料，協助法律 LLM 真正學會法律文本之推理結構而非僅表面風格。

Source Data

Data Collection and Processing

判決書文本源自司法院公開之判決書資料。處理步驟：

1. 按文件類型過濾：僅保留「判決」，排除「裁定」；
2. 按審級過濾：排除簡易庭；
3. 按結構過濾：保留同時具備主文、事實、理由段落之判決書；
4. 文本清理：移除錯誤內容、內容缺漏、內容過少之判決；
5. 輸出 JSONL 格式，每筆包含 text 與 metadata（id、category）。

在清理過程中亦發現原始判決書存在相當比例之錯誤內容（例如段落缺漏、欄位錯置等），皆已移除。

Who are the source data producers?

原始判決書由中華民國各級法院之承審法官撰寫，並由司法院依法公開。

Annotations

Annotation process

本資料集不包含額外人工標註。metadata.id 與 metadata.category 為從原始判決書之檔名與目錄結構解析而來。

Who are the annotators?

不適用。

Personal and Sensitive Information

判決書為司法院依法公開之文書，當事人姓名之揭露或遮蔽依司法院之公開規則辦理，本資料集未額外修改原文之匿名化處理。判決書內容可能涉及案件事實，包含當事人姓名（多為部分遮蔽如「甲○○」）、住址之行政區等。使用者不得以本資料集進行當事人識別或敏感資料還原。

Bias, Risks, and Limitations

• 時間跨度與法規變動：涵蓋近 30 年之判決書，期間相關法律多次修訂，模型若單純學習歷史判決可能與現行法規脫節。
• 審級分布不均：地方法院判決數量遠多於高等及最高法院，模型對上級審之論理結構學習密度較低。
• 法律領域偏態：不同罪名或民事類型之判決數量差異大，刑事簡易案件、交通案件等高頻類型可能主導訓練訊號。
• 仍存少量雜訊：雖已大量清理，極少數判決書仍可能存在 OCR 或格式殘留。
• 非結構化文本：text 欄位為判決書全文連續字串，主文/事實/理由之段落邊界需模型自行從內文推斷。

Recommendations

建議使用者：

• 將本資料集作為法律領域 CPT 之主力語料，並搭配法律問答（如 tw-law-article-qa）、條文資料集（如 tw-processed-law-article）進行指令微調；
• 對訓練流程加入簡單之段落切分或主文/事實/理由之標籤化處理，有助模型學會判決結構；
• 涉及實務應用時，應搭配最新法規與專業律師意見進行交叉驗證，模型輸出不得作為法律建議之唯一依據。

Citation

@misc{tw-processed-judgments-14B,
  title        = {tw-processed-judgments-14B: Cleaned Taiwan Judicial Judgments Corpus for Legal LLM Pretraining},
  author       = {Liang Hsun Huang},
  year         = {2024},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-processed-judgments-14B}},
  note         = {~14B tokens of cleaned ROC judicial judgments from 1996 to present for legal LLM pretraining.}
}

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang