Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
2
7
url
stringlengths
38
43
title
stringlengths
1
91
text
stringlengths
1
139k
13
https://zh.wikipedia.org/wiki?curid=13
數學
數學,是研究數量、結構以及空間等概念及其變化的一門學科,屬於形式科學的一種。數學利用抽象化和邏輯推理,從計數、計算、量度、對物體形狀及運動的觀察發展而成。數學家們拓展這些概念,以公式化新的猜想,以及從選定的公理及定義出發,嚴謹地推匯出一些定理。基礎數學的知識與運用是生活中不可或缺的一環。對數學基本概念的完善,早在古埃及、美索不達米亞及古印度歷史上的古代數學文字便可觀見,而在古希臘那裡有更為嚴謹的處理。從那時開始,數學的發展便持續不斷地小幅進展,至16世紀的文藝復興時期,因為新的科學發現和數學革新兩者的互動,致使數學的加速發展,直至今日。數學併成為許多國家及地區的教育中的一部分。數學在許多領域都有應用,包括科學、工程、醫學、經濟學和金...
18
https://zh.wikipedia.org/wiki?curid=18
哲學
哲學是研究普遍的、基本問題的學科,包括存在、知識、價值、理智、心靈、語言等領域。哲學與其他學科不同之處在於哲學有獨特之思考方式,例如批判的方式、通常是系統化的方法,並以理性論證為基礎。在日常用語中,哲學可被引申為個人或團體的最基本信仰、概念或態度,不過此處並非此定義。簡介.詞源.英語詞語--源於古希臘語中的--,意思為「愛智慧」,有時也譯為「智慧的朋友」,該詞由--的派生詞--和--組合而成。一般認為,古希臘思想家畢達哥拉斯最先在著作中引入“哲學家”和“哲學”這兩個術語。“哲”一詞在中國古代指那些善於思辨、學問精深者,如“孔門十哲”、“古聖先哲”等,“哲”或“哲人”意義類似西方近世所謂“哲學家”、“思想家”。1874年,日本啟蒙家西...
21
https://zh.wikipedia.org/wiki?curid=21
文學
文學,在狹義上,是一種語言藝術,亦即使用語言文字為手段,形象化地反映客觀社會生活、表達主觀作者思想感情的一種藝術。文學不僅強調傳達思想觀念,更強調傳達方式的獨特性,且講究辭章的美感。文學,在廣義上,是任何單一的書面作品,或用文字寫作來傳達思想、表達情感、發揮想像的所有著作,此時又稱文學作品。文學寫作則是一種藝術形式,或被認為具有藝術或智力價值的任何單一作品,通常是由於以不同於普通用途的方式部署語言。中國先秦時期將以文字寫成的作品都統稱為文學,魏晉以後才逐漸將文學作品單獨列出。在現代,則通常將文學分為韻文、散文、劇本、小說四大類別,是文化的重要表現形式,以不同的流派表現內心情感和再現一定時期和一定地域的生活。這個概念,又隨著時間的推移...
22
https://zh.wikipedia.org/wiki?curid=22
歷史
歷史,指人類社會過去的事件和行動,以及對這些事件行為有系統的記錄、詮釋和研究。歷史可提供今人理解過去,作為未來行事的參考依據,與倫理、哲學和藝術同屬人類精神文明的重要成果。歷史的第二個含義,即對過去事件的記錄和研究,又稱歷史學”,或簡稱“史學”。隸屬於歷史學或與其密切相關的學科有年代學、編纂學、家譜學、古文字學、計量歷史學、考古學、社會學和新聞學等,史學。記錄和研究歷史的人稱為歷史學家,簡稱“史學家”,中國古代稱為史官。記錄歷史的書籍稱為史書,如《史記》、《漢書》等,粗分為「官修」與「民載」兩類。廣義的歷史,泛指一切事物的發展過程,包括自然史和社會史:380。不一定同人類社會發生聯絡。在哲學上,這種含義下的歷史稱為歷史本體,例如宇宙...
25
https://zh.wikipedia.org/wiki?curid=25
計算機科學
計算機科學設計、部署計算機和計算機系統通常被認為是非計算機科學學科的領域。例如,研究計算機硬體被看作是計算機工程的一部分,而對於商業計算機系統的研究和部署被稱為資訊科技或者資訊系統。然而,現如今也越來越多地融合了各類計算機相關學科的思想。計算機科學研究也經常與其它學科交叉,比如數學、工程學、認知科學和經濟學等。計算機科學被認為比其它科學學科與數學的聯絡更加密切,一些觀察者說計算就是一門數學科學。 早期計算機科學受數學研究成果的影響很大,如庫爾特·哥德爾、艾倫·圖靈、,阿隆佐·邱奇等數學家的研究,這兩個領域在某些學科,例如數理邏輯、範疇論、域理論和代數,也不斷有有益的思想交流。歷史.早期計算機科學建立的基礎得追溯到最近電子計算機的發明...
39
https://zh.wikipedia.org/wiki?curid=39
民族
在中華人民共和國,民族是一個根據文化與血緣傳承而形成的共同體,經中華人民共和國法律認定而形成。這個單詞源自19世紀的歐洲與美國,經日本傳入中國,在意義上為國族」。這個詞必須依附於「國家」形成的論述脈絡,才有它的地位的。民族、國族既然依附於國家體制的產生,相應於資本主義社會,只是特定歷史發展階段中的一個產物。等到國家體制所服務的資產階級對無產階級的壓迫出現之後,《共產黨宣言》中所謂「統一的民族階級利益」就讓位給了階級利益;在階級對立中,只要能消滅最基本壓迫型式的階級壓迫,其他型式的壓迫就會隨之解決。等到那個時候,民族、國族將會像國家一樣,失去存在的必要而自然消亡。1912年,時任真理報編輯的史達林,為瞭解決第二國際及俄共內部對民族自治...
45
https://zh.wikipedia.org/wiki?curid=45
戲劇
戲劇」和「觀眾」。「演員」是四者當中最重要的元素,他是角色的代言人,必須具備扮演的能力,戲劇與其他藝術類最大的不同之處便在於扮演了,透過演員的扮演,劇本中的角色才得以伸張,如果拋棄了演員的扮演,那麼所演出的便不再是戲劇。即使在動畫、木偶戲、皮影戲等沒有演員現身的戲劇中,演員不過是隱藏在觀眾的視覺之外的地方演出。戲劇的表演形式多種多樣,常見的包括話劇、歌劇、舞劇、音樂劇、木偶戲等。由於文化背景的差別,不同文化所產生戲劇形式往往擁有獨特的傳統和程式,比如西方歌劇、中國戲曲、印度梵劇、日本能劇、歌舞伎等。戲劇的起源實不可考,目前有多種假說。比較主流的看法有二:一為原始宗教的巫術儀式。比如在上古漢語中,“巫”、“舞”、“武”三字可能同源。其...
48
https://zh.wikipedia.org/wiki?curid=48
電影
電影,特點是運動/移動的畫面,是一種視覺藝術作品,用來模擬透過使用動態影象來傳達思想、故事、感知、感覺、美或氛圍的體驗。這些影象通常伴有聲音,更少有其他感官刺激。電影中看起來連續的畫面,是由一幀幀單獨的照片完成的,至於關於電影中運動的感覺,是因為人們因為視覺上的飛現象對運動的連續階段的感知。電影製作本身是藝術也是產業。電影可以由電影攝影機拍攝真實影像再製作而成,也可以利用傳統的動畫技巧繪製圖畫再拍攝圖畫而成,甚至可以利用電腦成像及計算機動畫製作電影,也可以在電影中利用上述所有的技術及其他視覺效果。電影技術發展初期有各種不同的放映速度,但現時電影都多以每秒二十四格影象作放映標準。路易斯·普林斯於1888年10月14日,使用改進版的單鏡...
51
https://zh.wikipedia.org/wiki?curid=51
音樂
音樂,廣義而言,就是指任何以聲音組成的藝術。英文Music一詞源於古希臘語的μουσική女神的藝術。而中文的音樂二字,許慎《說文解字》解釋為「音,聲也。生於心,有節於外,謂之音。」認為音樂和聲音的區別,在於音樂需要透過人心去想像和創造。音樂可分為創作、演奏、聆聽三個過程,在不同文化和社會,對於音樂的過程及其重要性都有不同的理解,例如在西非鼓樂裡,每個人皆是參與者,人們不會區分作曲者、演奏者和聆聽者的身份;不過所有的人類文化都有音樂,也就是說,演奏音樂是所有文化當中普遍存在的現象。音樂的主要元素有音高、節奏和音色。音樂可以分為不同種類,但每種種類的區別常常是含糊和具爭議的,而不同種類的音樂會不同程度地強調或忽略某些音樂元素。至於何謂...
53
https://zh.wikipedia.org/wiki?curid=53
經濟學
經濟學,為研究商品和服務關係的社會科學學門,包括其中所有的購買、生產、分配和消費等行為。普通經濟學側重於研究經濟主體和客體之間的實力變化,並在經濟繁榮或衰退時總結出歷史規律,找到最優解。個體經濟學會分析何者才是經濟中對人類有利的要素,如市場機能、財產權、貸款、欠債及其間的互動作用;個體經濟以家庭、公司、買家和賣家為基本單位。總體經濟學則會分析國家範圍的銀行、儲蓄、股票和投資之間的互動作用,以及勞動力、資本、土地資源和通貨膨脹的利用,以便做出對國家有利的公共政策。經濟學中還包括實證經濟學和規範經濟學,實證經濟學重點描述“是什麼、不是什麼”,而規範經濟學提倡“該做什麼、不該做什麼”;以及包括經濟理論與應用經濟學間、理性經濟學和行為經濟學...
End of preview. Expand in Data Studio

Dataset Card for "wikipedia-zhtw"

維基百科數據集包含許多不同語言的文章。這個數據集是根據 Wikipedia dumps (https://dumps.wikimedia.org/) 裡頭 zhwiki 的中文下載檔案來建構的。每個範例都包含一篇完整的維基百科文章的內容,並經過清理以去除不需要的部分(例如參考文獻等)。

數據 Dump 版本

由於維基百科數據集定期會進行網站數據拋轉,在 2023/10/10 的時間點去查看時會有下列的數據可供下載:

數據 Dump 目錄 拋轉時間點
20230620/ 01-Aug-2023 09:31
20230701/ 20-Aug-2023 09:41
20230720/ 01-Sep-2023 09:31
20230801/ 20-Sep-2023 09:38
20230820/ 01-Oct-2023 09:34
20230901/ 04-Sep-2023 21:18
20230920/ 22-Sep-2023 01:59
20231001/ 10-Oct-2023 02:55
latest/ 10-Oct-2023 02:55

本數據集會定期去取得最近有明確的日期來進行下載與清理,便於驗證與使用。

數據下載清理

  1. 下載 zhwiki 的 data dump 檔案
  2. 使用 WikiExtractor 套件來進行文件內容萃取
  3. 進行數據清理并轉換成 jsonl 格式檔案
  4. 使用 Huggingface Datasets 套件來載入 jsonl 并上傳至 Huggingface Hub

資料集結構

範例如下:

{'id': '333', 'url': 'https://zh.wikipedia.org/wiki?curid=333', 'title': '鄧麗君', 'text': '鄧麗君,臺灣歌手、演員及慈善家,本名鄧麗筠。她是20世紀後期華語流行音樂具代表性的人物...' }

資料欄位

所有配置中的資料欄位都是相同的:

  • id (str): 文章的 ID。
  • url (str): 文章的 URL。
  • title (str): 文章的標題。
  • text (str): 文章的文字內容。

使用

from datasets import load_dataset

# 請在第二個參數去指定要使用的數據 dump 的日期
load_dataset("erhwenkuo/wikipedia-zhtw", "20231001")

許可資訊

維基百科的大部分文章內容及其許多圖像均根據 Creative Commons Attribution-ShareAlike 3.0 Unported License (CC BY-SA)GNU Free Documentation License (GFDL) 共同授權。

Citation

@ONLINE{wikidump,
    author = "Wikimedia Foundation",
    title  = "Wikimedia Downloads",
    url    = "https://dumps.wikimedia.org"
}
Downloads last month
10

Models trained or fine-tuned on erhwenkuo/wikipedia-zhtw