Dataset Card for free_english_news
free_english_news 是一個以自由時報英文新聞頻道(features.ltn.com.tw)為來源之繁體中文新聞語料,合計 1,604,173 筆,依年份切分為 22 個 parquet shard(2004–2025)。每筆保留新聞標題、發布日期、段落陣列以及完整內文,可作為繁中新聞語料之 CPT 訓練或新聞領域之資訊檢索素材。
Dataset Details
Dataset Description
雖然資料集名稱為 free_english_news,實際內容為自由時報 English 頻道之繁體中文報導,該頻道長期以雙語對照方式整理國際與台灣新聞。本資料集保留該頻道之繁中文本(標題、段落、完整內文),並以年份切分 parquet shard,方便依時間段取用。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese(部分內容含英文引用)
- License: CC BY-NC-SA 4.0
- Time Range: 2004–2025
Dataset Sources
- Repository: lianghsun/free_english_news
Uses
Direct Use
本資料集主要設計用於:
- 繁體中文新聞 LLM 之 CPT 訓練;
- 作為時間範圍明確(2004–2025)之長期新聞語料,研究報導風格之時間演變;
- 作為繁中資訊檢索、主題分類之訓練素材;
- 作為 RAG pipeline 之新聞知識源。
Out-of-Scope Use
本資料集不適用於下列用途:
- 作為商業產品之訓練資料(授權為 CC BY-NC-SA 4.0);
- 作為事實查核之 ground truth(新聞內容隨時可能更正);
- 作為非繁中任務之訓練資料;
- 未經來源同意之再散布或改作商業用途。
Dataset Structure
{
"url": "<新聞 URL>",
"title": "新聞標題",
"date": "2024-01-01",
"photo": "<圖片 URL>",
"paragraphs": ["第一段...", "第二段..."],
"text": "完整合併後之新聞內文"
}
| 欄位 | 型別 | 說明 |
|---|---|---|
url |
string | 新聞原始網址 |
title |
string | 新聞標題 |
date |
string | 發布日期 |
photo |
string | 新聞圖片 URL(若有) |
paragraphs |
list[string] | 切分後之段落陣列 |
text |
string | 合併後之完整內文 |
| 統計項目 | 數值 |
|---|---|
| 總筆數 | 1,604,173 |
| Parquet shards | 22(依年份切分) |
| 時間範圍 | 2004–2025 |
Dataset Creation
Curation Rationale
繁中新聞語料雖多,但跨越 20 年之長期單一來源較少。本資料集以自由時報英文頻道之繁中報導為來源,提供時間範圍明確、風格一致之大規模新聞語料。
Source Data
Data Collection and Processing
- 來源:自由時報 English 頻道之繁中報導;
- 處理:每筆保留原始 URL、標題、日期、段落陣列與完整內文;
- 切分:依年份切為 22 個 parquet shard。
Who are the source data producers?
原始報導由自由時報之新聞編輯部門撰寫。
Annotations
Annotation process
本資料集不包含額外人工標註。
Who are the annotators?
不適用。
Personal and Sensitive Information
新聞內容可能含有公眾人物姓名、職稱或事件描述,屬於已經公開之新聞報導範疇。使用者不得將資料集用於個人識別或未經授權之再利用。
Bias, Risks, and Limitations
- 單一來源偏態:所有內容來自同一新聞機構,可能反映其編輯立場;
- 時間分布不均:早期年份之筆數較少,近年筆數較多;
- 授權限制:新聞內容之再散布需遵守原出版機構之規則;
- 事實時效:新聞內容隨時間可能更正或補充。
Recommendations
建議使用者:
- 與其他來源之繁中新聞語料(如
tw-news-551M)搭配使用,降低單一來源偏態; - 商業用途需另行確認授權;
- 對模型輸出之事實宣稱,須以權威來源交叉查證。
Citation
@misc{free_english_news,
title = {free_english_news: Long-span Traditional Chinese News Corpus (2004-2025)},
author = {Liang Hsun Huang},
year = {2025},
howpublished = {\url{https://huggingface.co/datasets/lianghsun/free_english_news}},
note = {1.6M Traditional Chinese news articles sharded by year, 2004-2025.}
}
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 9