Datasets:

hoanghai2110
/

vi-pretrain-clean

text stringlengths 200 146k	source stringclasses 5 values	domain stringclasses 3 values	language stringclasses 1 value
Internet Society hay ISOC là một tổ chức quốc tế hoạt động phi lợi nhuận, phi chính phủ và bao gồm các thành viên có trình độ chuyên ngành. Tổ chức này chú trọng đến: tiêu chuẩn, giáo dục và các vấn đề về chính sách. Với trên 145 tổ chức thành viên và 65.000 thành viên cá nhân, ISOC bao gồm những con người cụ thể trong...	wikipedia_vi	encyclopedia	vi
Tiếng Việt, cũng gọi là tiếng Việt Nam hay Việt ngữ là ngôn ngữ của người Việt và là ngôn ngữ chính thức tại Việt Nam. Đây là tiếng mẹ đẻ của khoảng 85% dân cư Việt Nam cùng với hơn 4 triệu người Việt kiều. Tiếng Việt còn là ngôn ngữ thứ hai của các dân tộc thiểu số tại Việt Nam và là ngôn ngữ dân tộc thiểu số được côn...	wikipedia_vi	encyclopedia	vi
Ohio (viết tắt là OH, viết tắt cũ là O.) là một tiểu bang khu vực Trung Tây (cũ) nằm ở miền đông bắc Hoa Kỳ. Tên "Ohio" theo tiếng Iroquois có nghĩa là "sông đẹp" và đó cũng là tên của một dòng sông dùng làm ranh giới phía nam của tiểu bang này với tiểu bang Kentucky. Hải quân Hoa Kỳ có đặt tên một vài con tàu được đặ...	wikipedia_vi	encyclopedia	vi
California (phát âm như "Ca-li-phót-ni-a" hay "Ca-li-phoóc-ni-a", nếu nhanh: "Ca-li-phoóc-nha"), còn được người Việt gọi vắn tắt là Cali hay phiên âm Hán Việt là Cựu Kim Sơn, là một tiểu bang ven biển phía tây của Hoa Kỳ. Với dân số là 38 triệu người và diện tích 410,000 km² (158,402 mi2), lớn hơn Việt Nam (331,000 km2...	wikipedia_vi	encyclopedia	vi
{{Hộp thông tin quốc gia \| conventional_long_name = Vương quốc Thụy Điển \| native_name = \| common_name = Thụy Điển \| linking_name = Thụy Điển \| image_flag = Flag of Sweden.svg \| image_coat = Greater coat of arms of Sweden.svg \| symbol_type = Đại quốc huy \| symbol = Huy hiệu hoàng gia Thụy Điển \| national_motto = "" ...	wikipedia_vi	encyclopedia	vi
"Thành phố Hồ Chí Minh (viết tắt TP.HCM) hay Sài Gòn, là thành phố lớn nhất Vi(...TRUNCATED)	wikipedia_vi	encyclopedia	vi
"Lào Cai là một tỉnh vùng cao biên giới thuộc vùng Tây Bắc Bộ, Việt Nam.\n\nNăm(...TRUNCATED)	wikipedia_vi	encyclopedia	vi
"World Wide Web Consortium (W3C) là tổ chức tiêu chuẩn quốc tế chính cho World Wide Web(...TRUNCATED)	wikipedia_vi	encyclopedia	vi
"Bộ Kế hoạch và Đầu tư là một cơ quan của Chính phủ nước Cộng hòa xã hộ(...TRUNCATED)	wikipedia_vi	encyclopedia	vi
"Lào (, , Lao), tên chính thức là Cộng hòa Dân chủ Nhân dân Lào (, sǎːtʰáːlanala(...TRUNCATED)	wikipedia_vi	encyclopedia	vi

End of preview. Expand in Data Studio

Vietnamese Pretraining Dataset

Bộ dữ liệu tiếng Việt chất lượng cao để pretrain mô hình ngôn ngữ từ đầu (from scratch). Mục tiêu: "ít mà vàng" — ít dữ liệu nhưng cực sạch.

Thống kê

Chỉ số	Giá trị
Tổng docs	511,198
Raw text	~0.69 GB
Ước tính tokens	~230M tokens
Nguồn	4 nguồn

Nguồn dữ liệu

Nguồn	Docs	Loại nội dung
Wikipedia VI	378,895	Bách khoa toàn thư
OPUS OpenSubtitles	84,021	Hội thoại, phụ đề phim
OPUS CCAligned	39,660	Văn bản web song ngữ
OPUS WikiMatrix	8,530	Câu Wikipedia song ngữ
CC-100 VI	92	Web crawl

Bộ lọc chất lượng (8 tiêu chí)

Tỉ lệ ký tự tiếng Việt ≥ 70% — loại văn bản không phải tiếng Việt
Tối thiểu 3 câu — loại đoạn quá ngắn
Độ dài ≥ 200 ký tự — loại stub
Dedup MD5 — loại bản sao y hệt
Phát hiện lặp lại — loại văn bản có n-gram lặp quá nhiều
Xóa URL và thẻ HTML
Blacklist từ khóa — loại spam, porn, quảng cáo
Line diversity — loại block copy-paste một dòng

Định dạng

JSONL — mỗi dòng là một document:

{"text": "Hà Nội là thủ đô của Việt Nam...", "source": "wikipedia_vi", "id": "wiki_12345"}

Cách dùng

import json

with open("vi_pretrain_part_01.jsonl") as f:
    for line in f:
        doc = json.loads(line)
        print(doc["text"][:100])
        break

Dùng với 🤗 Datasets

from datasets import load_dataset

ds = load_dataset("hoanghai2110/vi-pretrain-clean", split="train")
print(ds[0])

Mục đích

Được xây dựng để huấn luyện mô hình Mamba (SSM) tiếng Việt từ đầu với quy mô ~130M–1B tham số.

Downloads last month: 40