Datasets:

Modalities:
Text
Formats:
parquet
ArXiv:
Libraries:
Datasets
pandas
License:
Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
2
8
url
stringlengths
33
123
title
stringlengths
1
69
text
stringlengths
328
347k
102
https://de.wikipedia.org/wiki/Atom
Atom
Atome (von „unteilbar“) sind die Bausteine, aus denen alle festen, flüssigen und gasförmigen Stoffe bestehen. Alle Materialeigenschaften dieser Stoffe sowie ihr Verhalten in chemischen Reaktionen werden durch die Eigenschaften und die räumliche Anordnung ihrer Atome festgelegt. Jedes Atom gehört zu einem bestimmten ch...
2389
https://de.wikipedia.org/wiki/Isar
Isar
Die Isar ist ein für Wasserfahrzeuge über Floßgröße nicht schiffbarer Fluss in Tirol (Österreich) und Bayern (Deutschland), der nach einem 292 km langen Lauf südlich von Deggendorf von rechts in die Donau mündet. Sie entspringt in den Alpen im Tiroler Teil des Karwendels im Hinterautal, wechselt nach etwa 22 km unterh...
3291
https://de.wikipedia.org/wiki/Merkur%20%28Planet%29
Merkur (Planet)
Der Merkur ist mit einem Durchmesser von knapp 4880 Kilometern der kleinste, mit einer durchschnittlichen Sonnenentfernung von etwa 58 Millionen Kilometern der sonnennächste und somit auch schnellste Planet im Sonnensystem. Er hat mit einer maximalen Tagestemperatur von rund +430 °C und einer Nachttemperatur bis −170 °...
4022
https://de.wikipedia.org/wiki/Primaten
Primaten
Die Primaten (Primates) oder Herrentiere sind eine zu der Überordnung der Euarchontoglires gehörige Ordnung innerhalb der Unterklasse der Höheren Säugetiere. Ihre Erforschung ist Gegenstand der Primatologie. Der Ausdruck „Affen“ wird bisweilen für diese Ordnung verwendet, ist aber missverständlich, da Affen nur eine Un...
4187
https://de.wikipedia.org/wiki/Quedlinburg
Quedlinburg
"Quedlinburg ([], plattdeutsch Queddelnborg, offizieller Beiname auch Welterbestadt Quedlinburg) ist(...TRUNCATED)
4263
https://de.wikipedia.org/wiki/Relativit%C3%A4tstheorie
Relativitätstheorie
"Die Relativitätstheorie befasst sich mit der Struktur von Raum und Zeit sowie mit dem Wesen der Gr(...TRUNCATED)
4787
https://de.wikipedia.org/wiki/Sirius
Sirius
"Sirius, Bayer-Bezeichnung α Canis Majoris (Alpha Canis Majoris, α CMa), auch Hundsstern, früher(...TRUNCATED)
7512
https://de.wikipedia.org/wiki/Schnabeltier
Schnabeltier
"Das Schnabeltier (Ornithorhynchus anatinus, ) ist ein eierlegendes Säugetier aus Australien. Es is(...TRUNCATED)
8830
https://de.wikipedia.org/wiki/Man%20Ray
Man Ray
"Man Ray [] (* 27. August 1890 in Philadelphia, Pennsylvania; USA; † 18. November 1976 in Paris; e(...TRUNCATED)
10088
https://de.wikipedia.org/wiki/Immunologie
Immunologie
"Die Immunologie oder Immunbiologie ist die Lehre von den biologischen und biochemischen Grundlagen (...TRUNCATED)
End of preview. Expand in Data Studio

German+English Wikitext

Wikitext_en_de is a replication of the wikitext dataset following the work by Merity et al. (2016). It contains (mostly) all articles that Wikipedia classifies as "exzellent" or "featured" and can be used for example for perplexity evaluation.

This dataset was created by first scraping the names of the articles belonging to these categories from Wikipedia. Afterwards, we take a recent dump from wikipedia ("20230901.de" from graelo/wikipedia) and filter the articles to only include those on either list.

Config Name Num Documents
exzellent_de 2822
featured_en 6356
exzellent_de_small 1024
featured_en_small 1024

The code for creating the datasets is available in this repository ("wikitext_de.py", "wikitext_en.py"). Be aware that this download a whole wikipedia dump, which might take a while depending on your connection.

Downloads last month
33

Models trained or fine-tuned on LeoLM/wikitext-en-de

Paper for LeoLM/wikitext-en-de