Upload README.md with huggingface_hub

README.md

@@ -1,76 +1,66 @@
 ---
 license: apache-2.0
 task_categories:
-- text-generation
+  - text-generation
 language:
-- id
+  - id
 tags:
-- text
-- indonesian
-- continued_pretraining
-- domain-adaptation
-- news
-- crawling
+  - text
+  - indonesian
+  - continued_pretraining
+  - domain-adaptation
+  - news
+  - crawling
+  - playwright
 size_categories:
-- 100M<n<1B
-configs:
-- config_name: default
-  data_files:
-  - split: train
-    path: data/train-*
-dataset_info:
-  features:
-  - name: text
-    dtype: string
-  splits:
-  - name: train
-    num_bytes: 731339326
-    num_examples: 141969
-  download_size: 342718137
-  dataset_size: 731339326
+  - 100M<n<1B
+pretty_name: EOS Continued Pre-Training Dataset (Indonesia)
 ---
 
 # EOS Continued Pre-Training Dataset (Indonesia)
 
 ## Deskripsi Dataset
 
-**EOS Continued Pre-Training Dataset** adalah korpus teks bahasa Indonesia yang dikurasi untuk proses **Continued Pre-Training (CPT)** pada Large Language Models (LLM).
+**EOS Continued Pre-Training Dataset** adalah korpus teks bahasa Indonesia berskala besar (**~214.2 Juta Token**) yang dikurasi secara khusus untuk proses **Continued Pre-Training (CPT)** pada Large Language Models (LLM).
+
+Dataset ini disusun sebagai bagian dari program **Artificial Intelligence Talent Factory (AITF)**, kolaborasi antara Kementerian Komunikasi dan Digital (Komdigi) Republik Indonesia dan Universitas Brawijaya[cite: 713]. Tujuan utamanya adalah melakukan *domain adaptation* agar model fondasi (seperti Qwen/Llama) memahami konteks lokal, regulasi, dan terminologi spesifik Indonesia pada dua domain strategis:
 
-Tujuan utama dari dataset ini adalah untuk melakukan **Domain Adaptation**, yaitu meningkatkan kemampuan model dalam memahami konteks, terminologi, dan nuansa pada dua domain strategis di Indonesia:
 1.  **Pengawasan Ruang Digital (PRD)**
 2.  **Digital Talent Pool (DTP)**
 
-Dataset ini dibangun melalui proses *web crawling* intensif terhadap berbagai situs media berita terpercaya, portal pemerintahan, dan publikasi resmi di Indonesia, serta diperkaya dengan data umum dari Wikipedia Bahasa Indonesia untuk menjaga kemampuan generalisasi model.
-
 ## Komposisi Data
 
-Dataset ini memiliki total **~214.2 Juta Token** yang terbagi ke dalam tiga kategori utama:
+Total volume dataset adalah **214.2 Juta Token** yang terbagi menjadi tiga subset utama[cite: 65, 786]:
 
-| Kategori | Deskripsi Domain | Topik Utama | Token (M) | Persentase |
+| Kategori | Deskripsi Domain | Sumber Data | Token (M) | Proporsi |
 | :--- | :--- | :--- | :--- | :--- |
-| **DTP** | Digital Talent Pool | Pengembangan SDM digital, kebijakan talenta, pelatihan vokasi, sertifikasi, *tech talent gap*. | 94 | 43.9% |
-| **PRD** | Pengawasan Ruang Digital | Pemberantasan judi online, penanganan hoaks/disinformasi, perlindungan data pribadi, keamanan siber, perlindungan anak di ranah daring. | 92 | 42.9% |
-| **Wikipedia ID** | Pengetahuan Umum | Artikel ensiklopedia umum (sejarah, geografi, budaya) untuk menjaga koherensi bahasa (*regularization*). | 28.2 | 13.2% |
-| **TOTAL** | | | **214.2** | **100%** |
+| **DTP** (Digital Talent Pool) | Berfokus pada pengembangan SDM digital, kebijakan talenta, standar kompetensi (SKKNI), tren okupasi TIK, dan pelatihan vokasi[cite: 109, 156]. | Kemnaker, BPSDM Komdigi, LinkedIn, Job Portals, CNBC Indonesia, CNN Indonesia[cite: 786]. | **94 M** | 43.9% |
+| **PRD** (Pengawasan Ruang Digital) | Berfokus pada isu patologi sosial di ruang digital seperti judi online, hoaks/disinformasi, penipuan siber, perlindungan data pribadi, dan regulasi ITE[cite: 108, 156]. | Tribunnews, Republika, Antara, Tempo, Siaran Pers Komdigi[cite: 786]. | **92 M** | 42.9% |
+| **General** (Regularization) | Pengetahuan umum, sejarah, geografi, dan budaya Indonesia untuk mencegah *catastrophic forgetting* dan menjaga kemampuan bahasa baku[cite: 786]. | Wikipedia Bahasa Indonesia (Filtered Dump)[cite: 786]. | **28.2 M** | 13.2% |
+| **TOTAL** | | | **214.2 M** | **100%** |
+
+## Metodologi Pengumpulan Data (Crawling)
 
-## Metodologi Pengumpulan Data
+Pengumpulan data dilakukan menggunakan teknik **Web Crawling** tingkat lanjut untuk menangani situs web modern yang dinamis[cite: 495].
 
-### 1. Sumber Data (Source)
-Data dikumpulkan dari sumber terbuka (open source) yang mencakup:
-* **Media Berita Nasional & Lokal:** Artikel berita yang membahas isu teknologi, kriminal siber, dan pendidikan.
-* **Portal Pemerintahan:** Publikasi resmi terkait kebijakan digital.
-* **Wikipedia Bahasa Indonesia:** Dump artikel terfilter.
+### Infrastruktur Crawling: Playwright
+Berbeda dengan metode *scraping* konvensional, dataset ini dibangun menggunakan framework **Playwright** dengan Python[cite: 512]. Pendekatan ini dipilih karena:
 
-### 2. Proses Pengumpulan (Crawling & Processing)
-* **Crawling:** Menggunakan *custom crawler* untuk mengambil teks dari artikel berita yang relevan dengan kata kunci DTP dan PRD.
-* **Cleaning:** Penghapusan *boilerplate* (iklan, menu navigasi, footer), normalisasi *whitespace*, dan penghapusan duplikasi dokumen.
-* **Filtering:** Penyaringan konten untuk memastikan teks berkualitas tinggi dan relevan dengan topik.
+* **Handling Dynamic Content (CSR):** Banyak portal berita menggunakan *Client-Side Rendering* yang memuat konten secara asinkron. Playwright memungkinkan eksekusi JavaScript penuh (headless browser) untuk menangkap konten yang tidak ada di HTML statis[cite: 497, 513].
+* **Asynchronous I/O:** Dibangun di atas `asyncio` untuk melakukan *request* secara paralel (concurrency) dengan efisiensi tinggi[cite: 507].
+* **Anti-Bot Detection:** Menggunakan teknik *stealth* seperti rotasi *User-Agent* dan penghapusan properti `navigator.webdriver` untuk menghindari blokir[cite: 570, 571].
 
-## Struktur Data
+## Struktur dan Format Data
 
-Dataset ini disajikan dalam format standar untuk *Language Modeling* (Raw Text).
+Dataset ini disajikan dalam format **Raw Text (.txt)** untuk memudahkan proses *streaming* saat pelatihan.
 
-### Konfigurasi Data
-- **Kolom Utama:** `text` (Berisi konten artikel/dokumen lengkap).
-- **Split:** Tidak ada pembagian train/test/val (Unsupervised Learning). Pengguna disarankan melakukan splitting sendiri sesuai kebutuhan (misal: 95% train, 5% validation).
+* **Format File:** `.txt`
+* **Separator Dokumen:** Token `<im_end>`
+* **Struktur:** Seluruh artikel digabungkan menjadi satu file teks panjang. Akhir dari setiap artikel/dokumen ditandai dengan token `<im_end>`.
 
+### Contoh Format (Raw Text)
+```text
+Kementerian Komunikasi dan Digital terus menggalakkan pemberantasan judi online... [Konten Artikel 1] ...bertujuan melindungi masyarakat.
+<im_end>
+Digital Talent Scholarship membuka pendaftaran baru untuk akademi cybersecurity... [Konten Artikel 2] ...segera daftar di website resmi.
+<im_end>