Datasets:

arnomatic
/

german-wikipedia-clean-no-lists

title stringlengths 1 223	text stringlengths 51 621k
Alan Smithee	Alan Smithee steht als Pseudonym für einen fiktiven Regisseur, der Filme verantwortet, bei denen der eigentliche Regisseur seinen Namen nicht mit dem Werk in Verbindung gebracht haben möchte. Von 1968 bis 2000 wurde es von der Directors Guild of America (DGA) für solche Situationen empfohlen. Alternative Schreibweisen ...
Actinium	\| EG-Nummer = \| ECHA-ID = \| Massenanteil = 6 · 10−14 ppm \| Hauptquelle = \| Atommasse = 227,0278 \| Atomradius = 195 \| AtomradiusBerechnet = \| KovalenterRadius = 215 \| VanDerWaalsRadius = \| Elektronenkonfiguration = [Rn] 6d1 7s2 \| Austrittsarbeit = \| Ionisierungsenergie_1 = }} ≈ }} \| Ionisierungsenergi...
Ang Lee	Ang Lee (; * 23. Oktober 1954 in Chaozhou, Landkreis Pingtung, Taiwan) ist ein taiwanischer Filmregisseur, Drehbuchautor und Produzent. Er ist als vielfach ausgezeichneter Regisseur bekannt für so unterschiedliche Filme wie Eat Drink Man Woman, die Jane-Austen-Adaption Sinn und Sinnlichkeit und den Martial-Arts-Film Ti...
Anschluss (Luhmann)	Anschluss ist in der Soziologie ein Fachbegriff aus der Systemtheorie von Niklas Luhmann und bezeichnet die in einer sozialen Begegnung auf eine Selektion der anderen Seite folgende, selbst gewählte Selektion. Diese Selektionen beziehen sich aufeinander. == Anschlussfähigkeit == Die Anschlussfähigkeit ist die Kapazität...
Aussagenlogik	Die Aussagenlogik ist ein Teilgebiet der Logik, das sich mit Aussagen und deren Verknüpfung durch Junktoren befasst, ausgehend von strukturlosen Elementaraussagen (Atomen), denen ein Wahrheitswert zugeordnet wird. In der klassischen Aussagenlogik wird jeder Aussage ein Element einer Booleschen Algebra als Wahrheitswert...
Anthony Minghella	Anthony Minghella, CBE (* 6. Januar 1954 in Ryde auf der Isle of Wight; † 18. März 2008 in London) war ein britischer Filmregisseur, Filmproduzent, Drehbuchautor, Dramatiker, Hörspielautor, Theater- und Opernregisseur. == Leben == Anthony Minghella war der Sohn italienisch-schottischer Eltern, die auf der Isle of Wight...
US-amerikanischer Film	Die Geschichte des US-amerikanischen Films ist ein Kapitel der Filmgeschichte, das gerade wegen der hervorgehobenen Stellung der Vereinigten Staaten als Filmnation sowohl für die Filmkunst als auch für die Ökonomie des Films relevant ist. Weltruhm erlangte Hollywood, ein Stadtteil von Los Angeles, als Zentrum der US-am...
Vorsätze für Maßeinheiten	Vorsätze für Maßeinheiten, Einheitenvorsätze, Einheitenpräfixe oder kurz Präfixe (von lateinisch praefixum: vorne angeheftet) dienen dazu, Vielfache oder Bruchteile von Maßeinheiten zu bilden, um Zahlen mit vielen Stellen zu vermeiden. == Dezimalpräfixe gemäß SI == Die Dezimalpräfixe sind im Internationalen Einheitens...
Abkürzungen/Gesetze und Recht	"Viele, aber nicht alle, Fachautoren kürzen ohne Punkt und Leerzeichen ab: So wird die Abbreviatur (...TRUNCATED)
ISO 4217	"ISO 4217 ist die von der Internationalen Organisation für Normung publizierte Norm für Währungs-(...TRUNCATED)

End of preview. Expand in Data Studio

German Wikipedia Clean (No Lists)

Dataset Description

High-quality German Wikipedia dataset with list articles removed.

Source: Official German Wikipedia Dump (October 2025)
Articles: 3.1M
Size: ~11 GB
Filter: Removed 101K list articles ("Liste von...")
Retention rate: 96.8%
Quality: Zero SEO spam, zero advertising

Dataset Structure

{
    "title": str,  # Article title
    "text": str    # Article content (plain text)
}

Usage

from datasets import load_dataset

# Load full dataset
ds = load_dataset("arnomatic/german-wikipedia-clean-no-lists")

# Streaming mode (for large datasets)
ds = load_dataset("arnomatic/german-wikipedia-clean-no-lists", streaming=True)

# Example: First article
print(ds["train"][0]["title"])
print(ds["train"][0]["text"][:500])

Data Cleaning Process

1. Source

Official German Wikipedia dump (dewiki-latest-pages-articles.xml.bz2)
Downloaded from: https://dumps.wikimedia.org/dewiki/

2. Extraction

WikiExtractor with --no-templates flag
Removed Wikipedia markup and templates
Converted to plain text

3. Filtering

Removed: All articles with title starting with "Liste von..." or "Liste der..."
Total removed: 101,150 articles (3.2% of dataset)
Kept: 3,099,155 articles (96.8% retention rate)

4. Quality

✅ No SEO spam (no "penilefitness", "hotel booking", etc.)
✅ No advertising templates
✅ No list articles (boring for language modeling!)
✅ Only curated, editorial content

Removed Content Examples

List articles that were filtered out:

Liste von Autoren/A-Z
Liste der Komponisten
Liste von Malern
Liste der Konzentrationslager des Deutschen Reichs
Liste von Kanälen
Liste der Ländervorwahlen
...and 101,144 more list articles

Comparison with Other Datasets

Dataset	Articles	Size	Spam	Lists
This dataset	3.1M	11 GB	✅ None	✅ Removed
jonas-is-coding/german-wikipedia-articles	~500K	4 GB	❌ ~2%	❌ Included

Use Cases

✅ Pre-training German language models
✅ Fine-tuning for factual text generation
✅ German NLP research
✅ Knowledge-intensive tasks
✅ Question answering systems

License

CC BY-SA 3.0 (Wikipedia license)

https://creativecommons.org/licenses/by-sa/3.0/

Citation

If you use this dataset, please cite:

@misc{german_wikipedia_clean_2025,
  title={German Wikipedia Clean (No Lists)},
  author={arnomatic},
  year={2025},
  publisher={HuggingFace},
  url={https://huggingface.co/datasets/arnomatic/german-wikipedia-clean-no-lists}
}

Metadata

Created: October 2025
Language: German (de)
Format: Plain text (no markup)
Encoding: UTF-8
Articles: 3,099,155
Size: ~11 GB uncompressed

Contact

For questions or issues, please open an issue on the HuggingFace dataset page.

Downloads last month: 93