Datasets:
Vietnamese National Legal Database (vbpl.vn) corpus with structure + embedding layers
Browse files- README.md +315 -0
- documents.parquet +3 -0
- embedding-cluster-id-tsne.png +3 -0
- embedding-cluster-id-umap.png +3 -0
- embedding-doc-type-tsne.png +3 -0
- embedding-doc-type-umap.png +3 -0
- embedding-scope-tsne.png +3 -0
- embedding-scope-umap.png +3 -0
- embedding-year-tsne.png +3 -0
- embedding-year-umap.png +3 -0
- manifest.json +167 -0
README.md
ADDED
|
@@ -0,0 +1,315 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- vi
|
| 4 |
+
license: cc-by-4.0
|
| 5 |
+
pretty_name: "Vietnamese National Legal Database (vbpl.vn)"
|
| 6 |
+
size_categories:
|
| 7 |
+
- 100K<n<1M
|
| 8 |
+
task_categories:
|
| 9 |
+
- text-classification
|
| 10 |
+
- text-retrieval
|
| 11 |
+
- question-answering
|
| 12 |
+
- text-generation
|
| 13 |
+
- summarization
|
| 14 |
+
tags:
|
| 15 |
+
- legal
|
| 16 |
+
- vietnamese
|
| 17 |
+
- vietnam
|
| 18 |
+
- law
|
| 19 |
+
- statute
|
| 20 |
+
- regulation
|
| 21 |
+
- legislation
|
| 22 |
+
- moj
|
| 23 |
+
- ministry-of-justice
|
| 24 |
+
source_datasets:
|
| 25 |
+
- original
|
| 26 |
+
configs:
|
| 27 |
+
- config_name: documents
|
| 28 |
+
default: true
|
| 29 |
+
data_files:
|
| 30 |
+
- split: train
|
| 31 |
+
path: documents.parquet
|
| 32 |
+
---
|
| 33 |
+
|
| 34 |
+
# Vietnamese National Legal Database — `vbpl.vn`
|
| 35 |
+
|
| 36 |
+
> 🇻🇳 **Tóm tắt.** Bộ dữ liệu mức **văn bản** của
|
| 37 |
+
> **Cơ sở dữ liệu Quốc gia về pháp luật** thu thập từ cổng
|
| 38 |
+
> [`vbpl.vn`](https://vbpl.vn/) do Bộ Tư pháp vận hành. Bao gồm
|
| 39 |
+
> luật, pháp lệnh, nghị định, thông tư, quyết định, nghị quyết,
|
| 40 |
+
> chỉ thị… ở cả cấp **trung ương** (Quốc hội, Chính phủ, các bộ)
|
| 41 |
+
> lẫn **địa phương** (HĐND/UBND 63 tỉnh, thành). Mỗi dòng là một
|
| 42 |
+
> văn bản pháp luật kèm markdown đã chuẩn hoá tiếng Việt
|
| 43 |
+
> (NFC + chính tả hiện đại sau 1984) và lớp cấu trúc phân cấp đầy
|
| 44 |
+
> đủ: **document → section → paragraph → sentence**.
|
| 45 |
+
>
|
| 46 |
+
> 🇬🇧 **Summary.** Document-level corpus of Vietnam's
|
| 47 |
+
> **National Legal Database** harvested from
|
| 48 |
+
> [`vbpl.vn`](https://vbpl.vn/) (operated by the Ministry of Justice).
|
| 49 |
+
> Covers laws, ordinances, decrees, circulars, decisions,
|
| 50 |
+
> resolutions, directives, etc. across both **central** (National
|
| 51 |
+
> Assembly, Government, ministries) and **provincial** (People's
|
| 52 |
+
> Council / People's Committee of the 63 provinces and cities)
|
| 53 |
+
> levels of authority. Each row is one legal document with its
|
| 54 |
+
> Vietnamese-normalised markdown body (NFC + modern post-1984
|
| 55 |
+
> orthography) and a hierarchical structure layer:
|
| 56 |
+
> **document → section → paragraph → sentence**, every unit
|
| 57 |
+
> carrying a stable id + char span back into the markdown.
|
| 58 |
+
|
| 59 |
+
## Tổng quan · At a glance
|
| 60 |
+
|
| 61 |
+
| Chỉ số · Metric | Giá trị · Value |
|
| 62 |
+
|---|---:|
|
| 63 |
+
| Văn bản công bố · Documents | **158,821** |
|
| 64 |
+
| Tổng số bản ghi đầu vào · Raw extract rows | 158,822 |
|
| 65 |
+
| Loại bỏ vì rỗng · Dropped (empty body) | 1 |
|
| 66 |
+
| Có cấu trúc · With structure layer | 158,821 |
|
| 67 |
+
| Có tệp đính kèm · With downloaded attachment | 0 |
|
| 68 |
+
| Trung vị ký tự · Median chars / doc | 6,378 |
|
| 69 |
+
| Trung vị trang · Median pages / doc | – |
|
| 70 |
+
| Trung vị đoạn văn · Median paragraphs / doc | 39 |
|
| 71 |
+
| Trung vị câu · Median sentences / doc | 51 |
|
| 72 |
+
|
| 73 |
+
## Phạm vi · Scope split
|
| 74 |
+
|
| 75 |
+
Bộ dữ liệu chia làm hai nhánh: ``trung_uong`` (văn bản pháp luật do
|
| 76 |
+
Quốc hội + Chính phủ + các bộ ngành Trung ương ban hành) và
|
| 77 |
+
``dia_phuong`` (HĐND/UBND của 63 tỉnh, thành). — The corpus splits
|
| 78 |
+
into ``trung_uong`` (central authorities: National Assembly,
|
| 79 |
+
Government, ministries) and ``dia_phuong`` (the 63 provinces and
|
| 80 |
+
cities, mostly People's Council / People's Committee output).
|
| 81 |
+
|
| 82 |
+
| Value | Count | Share |
|
| 83 |
+
|---|---:|---:|
|
| 84 |
+
| `dia_phuong` | 104,345 | 65.7% |
|
| 85 |
+
| `trung_uong` | 54,476 | 34.3% |
|
| 86 |
+
|
| 87 |
+
## Loại văn bản · `doc_type`
|
| 88 |
+
|
| 89 |
+
Loại văn bản theo Luật Ban hành Văn bản Quy phạm Pháp luật năm
|
| 90 |
+
2015 — *Nghị định / Thông tư / Quyết định / Nghị quyết / Chỉ thị /
|
| 91 |
+
Lệnh / Pháp lệnh / Luật / Văn bản hợp nhất / Đính chính ...* —
|
| 92 |
+
The document type tags follow the categories in Vietnam's 2015 Law
|
| 93 |
+
on Promulgation of Legal Documents.
|
| 94 |
+
|
| 95 |
+
| Value | Count | Share |
|
| 96 |
+
|---|---:|---:|
|
| 97 |
+
| `{'id': '0a5362e8-cdca-436e-96cd-979598df3b16', 'name': 'Quyết định', 'code': 'QĐ', 'parentCode': None, 'parentName': None}` | 82,118 | 51.7% |
|
| 98 |
+
| `{'id': '044d941c-40de-45b9-ae84-51f5a730bfe0', 'name': 'Nghị quyết', 'code': 'NQ', 'parentCode': None, 'parentName': None}` | 24,851 | 15.6% |
|
| 99 |
+
| `{'id': '178c63a9-73ff-4fd4-9d91-18d690520090', 'name': 'Thông tư', 'code': 'TT', 'parentCode': None, 'parentName': None}` | 11,155 | 7.0% |
|
| 100 |
+
| `{'id': '9979b9a4-9e4c-4a14-a990-6d86e11b75c5', 'name': 'Bản dịch văn bản', 'code': 'BD'}` | 10,255 | 6.5% |
|
| 101 |
+
| `{'id': '0045710b-eb54-4ce5-b511-76aa23f3021b', 'name': 'Chỉ thị', 'code': 'CThi', 'parentCode': None, 'parentName': None}` | 7,654 | 4.8% |
|
| 102 |
+
| `{'id': '178c63a9-73ff-4fd4-9d91-18d690520090', 'name': 'Thông tư', 'code': 'TT'}` | 4,624 | 2.9% |
|
| 103 |
+
| `unknown` | 4,522 | 2.8% |
|
| 104 |
+
| `{'id': '0d08b84c-7de7-4800-8760-2a68265e7890', 'name': 'Nghị định', 'code': 'NĐ', 'parentCode': None, 'parentName': None}` | 3,357 | 2.1% |
|
| 105 |
+
| `{'id': '0e4f2bde-5ccb-4001-9e0a-b43f51cca5e8', 'name': 'Thông tư liên tịch', 'code': 'TTLT_TW', 'parentCode': None, 'parentName': None}` | 3,289 | 2.1% |
|
| 106 |
+
| `{'id': '26b8a9ff-1b59-4c57-9605-f2ad4ed7c324', 'name': 'Văn bản hợp nhất', 'code': 'VBHN'}` | 1,275 | 0.8% |
|
| 107 |
+
| `{'id': '0d08b84c-7de7-4800-8760-2a68265e7890', 'name': 'Nghị định', 'code': 'NĐ'}` | 1,198 | 0.8% |
|
| 108 |
+
| `{'id': '1e0386d2-9395-4a0f-9d04-18a9e01f0ca7', 'name': 'Sắc lệnh', 'code': 'LVB-SLe', 'parentCode': None, 'parentName': None}` | 979 | 0.6% |
|
| 109 |
+
|
| 110 |
+
## Cơ quan ban hành · Issuing agency
|
| 111 |
+
|
| 112 |
+
Top issuing agencies (top 15). Quốc hội + Chính phủ + Bộ Tài chính
|
| 113 |
+
+ Bộ Tư pháp + ... thường chiếm phần lớn `trung_uong`; các tỉnh
|
| 114 |
+
chia khá đều phần `dia_phuong`.
|
| 115 |
+
|
| 116 |
+
| Value | Count | Share |
|
| 117 |
+
|---|---:|---:|
|
| 118 |
+
| `unknown` | 158,821 | 100.0% |
|
| 119 |
+
|
| 120 |
+
## Năm ban hành · Year of issue
|
| 121 |
+
|
| 122 |
+
Phân bố năm theo `ngay_ban_hanh` (ISO `YYYY-MM-DD`); rỗng nếu cổng
|
| 123 |
+
không cung cấp được trường này. — Year distribution from
|
| 124 |
+
`ngay_ban_hanh`; null when the source portal didn't expose the issue
|
| 125 |
+
date.
|
| 126 |
+
|
| 127 |
+
_(no year metadata in this slice)_
|
| 128 |
+
|
| 129 |
+
## Nguồn nội dung · Body provenance
|
| 130 |
+
|
| 131 |
+
Một văn bản trên `vbpl.vn` có thể có **HTML thân bài** (do API SPA
|
| 132 |
+
trả về sau khi qua reCAPTCHA) và/hoặc một **tệp đính kèm**
|
| 133 |
+
(`.pdf` / `.doc` / `.docx`). Pipeline ưu tiên parse tệp khi có,
|
| 134 |
+
quay về HTML khi không. — A vbpl document may have an inline
|
| 135 |
+
**body HTML** (returned by the SPA's API after reCAPTCHA) and/or a
|
| 136 |
+
downloadable **attachment** (`.pdf` / `.doc` / `.docx`). The pipeline
|
| 137 |
+
prefers parsing the file when present and falls back to the HTML
|
| 138 |
+
otherwise.
|
| 139 |
+
|
| 140 |
+
| Value | Count | Share |
|
| 141 |
+
|---|---:|---:|
|
| 142 |
+
| `body_html` | 143,470 | 90.3% |
|
| 143 |
+
| `shell_html` | 15,351 | 9.7% |
|
| 144 |
+
|
| 145 |
+
## Lược đồ bảng `documents` · `documents` schema
|
| 146 |
+
|
| 147 |
+
The parquet has three families of columns:
|
| 148 |
+
|
| 149 |
+
### Identification + meta
|
| 150 |
+
|
| 151 |
+
| Field | Type | Description |
|
| 152 |
+
|---|---|---|
|
| 153 |
+
| `doc_name` / `item_id` | string | Stable document id (= the `--<id>` suffix of the source URL). Mostly numeric (`186739`); legacy docs use `vbpqta_<n>` (Văn bản pháp quy toàn văn) or `vbpqdinhchinh_<n>` (corrigendum). |
|
| 154 |
+
| `scope` | string | `trung_uong` (central) \| `dia_phuong` (provincial). |
|
| 155 |
+
| `source` | string | Source host, always `vbpl.vn`. |
|
| 156 |
+
| `source_url` / `api_url` | string | Deep link back to the portal page / the underlying gateway API. |
|
| 157 |
+
| `title` | string | Document title (e.g. `"Nghị định 43/2026/NĐ-CP sửa đổi …"`). |
|
| 158 |
+
| `doc_type` | string | Vietnamese document type (`Luật`, `Nghị định`, `Thông tư`, `Quyết định`, `Nghị quyết`, …). |
|
| 159 |
+
| `so_hieu` | string | Document number (e.g. `43/2026/NĐ-CP`). |
|
| 160 |
+
| `ngay_ban_hanh` | string | Issue date, ISO `YYYY-MM-DD`. |
|
| 161 |
+
| `year` | int32 | Year extracted from `ngay_ban_hanh`. |
|
| 162 |
+
| `co_quan_ban_hanh` | string | Issuing agency (e.g. `"Chính phủ"`, `"Bộ Tài chính"`, `"Hội đồng nhân dân tỉnh A"`). |
|
| 163 |
+
| `trich_yeu` | string | Abstract / summary. |
|
| 164 |
+
|
| 165 |
+
### Body + stats
|
| 166 |
+
|
| 167 |
+
| Field | Type | Description |
|
| 168 |
+
|---|---|---|
|
| 169 |
+
| `markdown` | string | NFC-normalised, modern-orthography Vietnamese markdown (page-segmented with `## Page N` headings when parsed from a PDF). |
|
| 170 |
+
| `num_pages` | int32 | Page count from the parser (PDF/DOCX only). |
|
| 171 |
+
| `num_sections` / `num_paragraphs` / `num_sentences` | int32 | Counts from the structure layer. |
|
| 172 |
+
| `char_len` | int32 | Character length of `markdown`. |
|
| 173 |
+
| `text_hash` | string | SHA-256 first-32 hex of `markdown` (re-run-stable id). |
|
| 174 |
+
| `parser_model` | string | Backend that produced the markdown (`local/pypdf`, `local/markdownify`, `nvidia/nemoretriever-parse`, …). |
|
| 175 |
+
| `parser_runtime` | string | The configured `parser.runtime` (`local` / `nim` / `hybrid`). |
|
| 176 |
+
| `body_source` | string | Which source produced the body: `file` (downloaded PDF/.doc/.docx), `body_html` (API-captured), `shell_html` (Next.js shell fallback). |
|
| 177 |
+
| `parsed_at` | string | ISO 8601 parser timestamp. |
|
| 178 |
+
|
| 179 |
+
### Hierarchy + entities
|
| 180 |
+
|
| 181 |
+
| Field | Type | Description |
|
| 182 |
+
|---|---|---|
|
| 183 |
+
| `structure_json` | string | Full :class:`DocumentStructure` (meta + stats + sections + paragraphs + sentences) as JSON. Includes char-span back-pointers so any unit can be located in `markdown` precisely. |
|
| 184 |
+
| `extracted_json` | string | Generic NER + statute-link extraction (entities, relations, statute_refs) as JSON. |
|
| 185 |
+
| `file_paths_json` | string | Downloaded attachments as JSON list of `{file_url, file_name, file_type, local_path}`. |
|
| 186 |
+
|
| 187 |
+
Quick load:
|
| 188 |
+
|
| 189 |
+
```python
|
| 190 |
+
import json
|
| 191 |
+
from datasets import load_dataset
|
| 192 |
+
|
| 193 |
+
ds = load_dataset("tmquan/vbpl-vn", split="train")
|
| 194 |
+
row = ds[0]
|
| 195 |
+
print(row["doc_type"], row["so_hieu"], row["ngay_ban_hanh"])
|
| 196 |
+
print(row["title"])
|
| 197 |
+
structure = json.loads(row["structure_json"])
|
| 198 |
+
for sec in structure.get("sections", []):
|
| 199 |
+
print(sec["kind"], sec["label"])
|
| 200 |
+
```
|
| 201 |
+
|
| 202 |
+
## Trực quan hoá embedding · Embedding visualization
|
| 203 |
+
|
| 204 |
+
Mỗi điểm là một văn bản pháp luật; toạ độ là vector embedding 2048-D từ `nvidia/llama-nemotron-embed-1b-v2` chiếu xuống 2D bằng t-SNE / UMAP, cụm bằng HDBSCAN. — Each dot is one legal document; coordinates are the 2D projection of a 2048-D embedding from `nvidia/llama-nemotron-embed-1b-v2` (t-SNE / UMAP), with HDBSCAN cluster ids.
|
| 205 |
+
|
| 206 |
+
### TSNE colored by `scope`
|
| 207 |
+
|
| 208 |
+

|
| 209 |
+
|
| 210 |
+
### UMAP colored by `scope`
|
| 211 |
+
|
| 212 |
+

|
| 213 |
+
|
| 214 |
+
### TSNE colored by `doc_type`
|
| 215 |
+
|
| 216 |
+

|
| 217 |
+
|
| 218 |
+
### UMAP colored by `doc_type`
|
| 219 |
+
|
| 220 |
+

|
| 221 |
+
|
| 222 |
+
### TSNE colored by `year`
|
| 223 |
+
|
| 224 |
+

|
| 225 |
+
|
| 226 |
+
### UMAP colored by `year`
|
| 227 |
+
|
| 228 |
+

|
| 229 |
+
|
| 230 |
+
### TSNE colored by `cluster_id`
|
| 231 |
+
|
| 232 |
+

|
| 233 |
+
|
| 234 |
+
### UMAP colored by `cluster_id`
|
| 235 |
+
|
| 236 |
+

|
| 237 |
+
|
| 238 |
+
## Cách thu thập + chuẩn hoá · How the corpus was built
|
| 239 |
+
|
| 240 |
+
The crawler is a six-stage pipeline (`harvest` → `detail` → `parse`
|
| 241 |
+
→ `extract` → `embed` → `reduce`) that walks vbpl.vn's public
|
| 242 |
+
sitemap chain (32 shards, ~160 K URLs total), drives a headless
|
| 243 |
+
Chromium tab against each detail page so Google's invisible
|
| 244 |
+
reCAPTCHA v2 mints the per-session Bearer token (the SPA's
|
| 245 |
+
`/api/qtdc/public/doc/...` gateway is otherwise inaccessible),
|
| 246 |
+
intercepts the resulting authenticated XHRs, downloads any
|
| 247 |
+
`.pdf` / `.doc` / `.docx` attachment, and routes the body through:
|
| 248 |
+
|
| 249 |
+
1. **Parse** -- pypdf for PDFs, docx2txt for `.docx`, an
|
| 250 |
+
`antiword` / `catdoc` / `libreoffice` subprocess fallback for
|
| 251 |
+
legacy `.doc`, `markdownify` for HTML bodies returned inline.
|
| 252 |
+
2. **Vietnamese normalisation** -- ftfy NFC + tone-mark
|
| 253 |
+
canonicalisation (`Toà → Tòa`, `hoà → hòa`, `thuỷ → thủy`) +
|
| 254 |
+
PDF whitespace cleanup. Every regex / segmenter downstream then
|
| 255 |
+
sees a single canonical orthography.
|
| 256 |
+
3. **Generic + structure extractor** -- regex / dictionary NER +
|
| 257 |
+
Vietnamese statute linker (`Điều N khoản M Luật ...`, dates
|
| 258 |
+
`dd/MM/yyyy`, courts, agencies, document numbers) + a
|
| 259 |
+
hierarchical `DocumentStructure` (sections / paragraphs /
|
| 260 |
+
sentences with back-pointers).
|
| 261 |
+
4. **Embed** -- `nvidia/llama-nemotron-embed-1b-v2` (2048-D) over the
|
| 262 |
+
normalised markdown; sliding-window mean pool when a doc exceeds
|
| 263 |
+
the model's native context window.
|
| 264 |
+
5. **Reduce** -- PCA + t-SNE + UMAP on the embedding matrix +
|
| 265 |
+
HDBSCAN cluster ids. cuML on a GPU worker; sklearn / umap-learn
|
| 266 |
+
/ hdbscan otherwise.
|
| 267 |
+
|
| 268 |
+
All five layers are deterministic and re-runnable; re-running any
|
| 269 |
+
stage with the same `--limit` is a no-op (each stage skips
|
| 270 |
+
already-produced outputs).
|
| 271 |
+
|
| 272 |
+
Captured: `2026-05-19T22:08:45.641679+00:00`.
|
| 273 |
+
|
| 274 |
+
## Nguồn · Source
|
| 275 |
+
|
| 276 |
+
* Portal: <https://vbpl.vn/>
|
| 277 |
+
* Backend gateway: `vbpl-bientap-gateway.moj.gov.vn`
|
| 278 |
+
* Publisher: Ministry of Justice of Vietnam (Bộ Tư pháp)
|
| 279 |
+
* Sitemap: <https://vbpl.vn/sitemap.xml>
|
| 280 |
+
|
| 281 |
+
## Giấy phép · License
|
| 282 |
+
|
| 283 |
+
Văn bản gốc được Bộ Tư pháp công bố trên cổng thông tin công cộng
|
| 284 |
+
(`Allow: /` trong `robots.txt`). Bản phân phối lại này dùng giấy
|
| 285 |
+
phép **CC-BY-4.0**; vui lòng kiểm tra điều khoản sử
|
| 286 |
+
dụng của trang nguồn trước khi tái phân phối thương mại. — The
|
| 287 |
+
source documents are published by the Ministry of Justice on a
|
| 288 |
+
public portal (its `robots.txt` allows `/` and disallows only
|
| 289 |
+
`/api/`). This redistribution is shared under
|
| 290 |
+
**CC-BY-4.0**; please check the source-website terms of
|
| 291 |
+
use before commercial redistribution.
|
| 292 |
+
|
| 293 |
+
## Trích dẫn · Citation
|
| 294 |
+
|
| 295 |
+
If you use this dataset, please cite both **the redistribution on
|
| 296 |
+
Hugging Face** and **the original source** (Cơ sở dữ liệu Quốc gia
|
| 297 |
+
về pháp luật, Bộ Tư pháp Việt Nam):
|
| 298 |
+
|
| 299 |
+
```bibtex
|
| 300 |
+
@misc{vbpl_2026,
|
| 301 |
+
title = {Vietnamese National Legal Database (vbpl.vn)},
|
| 302 |
+
author = {TMQuan},
|
| 303 |
+
year = {2026},
|
| 304 |
+
howpublished = {\url{https://huggingface.co/datasets/tmquan/vbpl-vn}},
|
| 305 |
+
note = {Document-level mirror with a hierarchical structure layer (DocumentMeta + Section + Paragraph + Sentence) over Vietnam's National Legal Database, central + provincial scope.}
|
| 306 |
+
}
|
| 307 |
+
|
| 308 |
+
@misc{vbpl_moj_2026,
|
| 309 |
+
title = {Cơ sở dữ liệu Quốc gia về pháp luật},
|
| 310 |
+
author = {{Ministry of Justice of Vietnam}},
|
| 311 |
+
year = {2026},
|
| 312 |
+
howpublished = {\url{https://vbpl.vn/}},
|
| 313 |
+
note = {Official portal for Vietnam's National Legal Database (laws, ordinances, decrees, circulars, decisions, ...) at central and provincial levels, published by the Ministry of Justice (Bộ Tư pháp).}
|
| 314 |
+
}
|
| 315 |
+
```
|
documents.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:a5dc1d152dfce54eca7886d02905dd8e7cb991b1cd300538809566704e4b224d
|
| 3 |
+
size 1960294648
|
embedding-cluster-id-tsne.png
ADDED
|
Git LFS Details
|
embedding-cluster-id-umap.png
ADDED
|
Git LFS Details
|
embedding-doc-type-tsne.png
ADDED
|
Git LFS Details
|
embedding-doc-type-umap.png
ADDED
|
Git LFS Details
|
embedding-scope-tsne.png
ADDED
|
Git LFS Details
|
embedding-scope-umap.png
ADDED
|
Git LFS Details
|
embedding-year-tsne.png
ADDED
|
Git LFS Details
|
embedding-year-umap.png
ADDED
|
Git LFS Details
|
manifest.json
ADDED
|
@@ -0,0 +1,167 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"corpus": {
|
| 3 |
+
"documents": 158821,
|
| 4 |
+
"raw_rows": 158822,
|
| 5 |
+
"dropped_empty": 1,
|
| 6 |
+
"with_structure": 158821,
|
| 7 |
+
"with_attachment": 0,
|
| 8 |
+
"char_len": {
|
| 9 |
+
"n": 158821,
|
| 10 |
+
"min": 1,
|
| 11 |
+
"max": 2402952,
|
| 12 |
+
"mean": 26478.1,
|
| 13 |
+
"median": 6378
|
| 14 |
+
},
|
| 15 |
+
"pages": {
|
| 16 |
+
"n": 0,
|
| 17 |
+
"min": null,
|
| 18 |
+
"max": null,
|
| 19 |
+
"mean": null,
|
| 20 |
+
"median": null
|
| 21 |
+
},
|
| 22 |
+
"paragraphs": {
|
| 23 |
+
"n": 158821,
|
| 24 |
+
"min": 1,
|
| 25 |
+
"max": 20773,
|
| 26 |
+
"mean": 72.3,
|
| 27 |
+
"median": 39
|
| 28 |
+
},
|
| 29 |
+
"sentences": {
|
| 30 |
+
"n": 158821,
|
| 31 |
+
"min": 1,
|
| 32 |
+
"max": 20788,
|
| 33 |
+
"mean": 101.6,
|
| 34 |
+
"median": 51
|
| 35 |
+
}
|
| 36 |
+
},
|
| 37 |
+
"by_scope": {
|
| 38 |
+
"dia_phuong": {
|
| 39 |
+
"count": 104345,
|
| 40 |
+
"share": 0.6569975003305608
|
| 41 |
+
},
|
| 42 |
+
"trung_uong": {
|
| 43 |
+
"count": 54476,
|
| 44 |
+
"share": 0.3430024996694392
|
| 45 |
+
}
|
| 46 |
+
},
|
| 47 |
+
"by_doc_type": {
|
| 48 |
+
"{'id': '0a5362e8-cdca-436e-96cd-979598df3b16', 'name': 'Quyết định', 'code': 'QĐ', 'parentCode': None, 'parentName': None}": {
|
| 49 |
+
"count": 82118,
|
| 50 |
+
"share": 0.5170474937193444
|
| 51 |
+
},
|
| 52 |
+
"{'id': '044d941c-40de-45b9-ae84-51f5a730bfe0', 'name': 'Nghị quyết', 'code': 'NQ', 'parentCode': None, 'parentName': None}": {
|
| 53 |
+
"count": 24851,
|
| 54 |
+
"share": 0.15647175121677864
|
| 55 |
+
},
|
| 56 |
+
"{'id': '178c63a9-73ff-4fd4-9d91-18d690520090', 'name': 'Thông tư', 'code': 'TT', 'parentCode': None, 'parentName': None}": {
|
| 57 |
+
"count": 11155,
|
| 58 |
+
"share": 0.07023630376335623
|
| 59 |
+
},
|
| 60 |
+
"{'id': '9979b9a4-9e4c-4a14-a990-6d86e11b75c5', 'name': 'Bản dịch văn bản', 'code': 'BD'}": {
|
| 61 |
+
"count": 10255,
|
| 62 |
+
"share": 0.0645695468483387
|
| 63 |
+
},
|
| 64 |
+
"{'id': '0045710b-eb54-4ce5-b511-76aa23f3021b', 'name': 'Chỉ thị', 'code': 'CThi', 'parentCode': None, 'parentName': None}": {
|
| 65 |
+
"count": 7654,
|
| 66 |
+
"share": 0.04819261936393802
|
| 67 |
+
},
|
| 68 |
+
"{'id': '178c63a9-73ff-4fd4-9d91-18d690520090', 'name': 'Thông tư', 'code': 'TT'}": {
|
| 69 |
+
"count": 4624,
|
| 70 |
+
"share": 0.02911453775004565
|
| 71 |
+
},
|
| 72 |
+
"unknown": {
|
| 73 |
+
"count": 4522,
|
| 74 |
+
"share": 0.028472305299676995
|
| 75 |
+
},
|
| 76 |
+
"{'id': '0d08b84c-7de7-4800-8760-2a68265e7890', 'name': 'Nghị định', 'code': 'NĐ', 'parentCode': None, 'parentName': None}": {
|
| 77 |
+
"count": 3357,
|
| 78 |
+
"share": 0.02113700329301541
|
| 79 |
+
},
|
| 80 |
+
"{'id': '0e4f2bde-5ccb-4001-9e0a-b43f51cca5e8', 'name': 'Thông tư liên tịch', 'code': 'TTLT_TW', 'parentCode': None, 'parentName': None}": {
|
| 81 |
+
"count": 3289,
|
| 82 |
+
"share": 0.020708848326102973
|
| 83 |
+
},
|
| 84 |
+
"{'id': '26b8a9ff-1b59-4c57-9605-f2ad4ed7c324', 'name': 'Văn bản hợp nhất', 'code': 'VBHN'}": {
|
| 85 |
+
"count": 1275,
|
| 86 |
+
"share": 0.008027905629608175
|
| 87 |
+
},
|
| 88 |
+
"{'id': '0d08b84c-7de7-4800-8760-2a68265e7890', 'name': 'Nghị định', 'code': 'NĐ'}": {
|
| 89 |
+
"count": 1198,
|
| 90 |
+
"share": 0.0075430830935455636
|
| 91 |
+
},
|
| 92 |
+
"{'id': '1e0386d2-9395-4a0f-9d04-18a9e01f0ca7', 'name': 'Sắc lệnh', 'code': 'LVB-SLe', 'parentCode': None, 'parentName': None}": {
|
| 93 |
+
"count": 979,
|
| 94 |
+
"share": 0.00616417224422463
|
| 95 |
+
},
|
| 96 |
+
"{'id': 'ecc6bbe0-5d0c-4916-836b-bb2f8146249c', 'name': 'Công văn', 'code': 'LVBM-CV', 'parentCode': None, 'parentName': None}": {
|
| 97 |
+
"count": 708,
|
| 98 |
+
"share": 0.004457848773147128
|
| 99 |
+
},
|
| 100 |
+
"{'id': '0a5362e8-cdca-436e-96cd-979598df3b16', 'name': 'Quyết định', 'code': 'QĐ'}": {
|
| 101 |
+
"count": 589,
|
| 102 |
+
"share": 0.0037085775810503647
|
| 103 |
+
},
|
| 104 |
+
"{'id': '26b8a9ff-1b59-4c57-9605-f2ad4ed7c324', 'name': 'Văn bản hợp nhất', 'code': 'VBHN', 'parentCode': None, 'parentName': None}": {
|
| 105 |
+
"count": 417,
|
| 106 |
+
"share": 0.0026255973706247916
|
| 107 |
+
},
|
| 108 |
+
"{'id': '11025e19-2dd6-4165-85ad-ab6241186a1a', 'name': 'Luật', 'code': 'Lu', 'parentCode': None, 'parentName': None}": {
|
| 109 |
+
"count": 394,
|
| 110 |
+
"share": 0.0024807802494632323
|
| 111 |
+
},
|
| 112 |
+
"{'id': '43323400-7d47-418e-80ef-a912a349d4e3', 'name': 'Lệnh', 'code': 'L-CTN', 'parentCode': None, 'parentName': None}": {
|
| 113 |
+
"count": 362,
|
| 114 |
+
"share": 0.0022792955591514974
|
| 115 |
+
},
|
| 116 |
+
"{'id': '044d941c-40de-45b9-ae84-51f5a730bfe0', 'name': 'Nghị quyết', 'code': 'NQ'}": {
|
| 117 |
+
"count": 193,
|
| 118 |
+
"share": 0.0012152045384426493
|
| 119 |
+
},
|
| 120 |
+
"{'id': '1cd0d144-ccb5-4196-8b56-9a3f599c9341', 'name': 'Pháp lệnh', 'code': 'PL', 'parentCode': None, 'parentName': None}": {
|
| 121 |
+
"count": 173,
|
| 122 |
+
"share": 0.0010892766069978152
|
| 123 |
+
},
|
| 124 |
+
"{'id': '11025e19-2dd6-4165-85ad-ab6241186a1a', 'name': 'Luật', 'code': 'Lu'}": {
|
| 125 |
+
"count": 170,
|
| 126 |
+
"share": 0.00107038741728109
|
| 127 |
+
},
|
| 128 |
+
"{'id': '25fad6ae-78f6-4acd-a70e-da19032729af', 'name': 'Văn bản hành chính liên quan', 'code': 'VBHC', 'parentCode': None, 'parentName': None}": {
|
| 129 |
+
"count": 158,
|
| 130 |
+
"share": 0.0009948306584141896
|
| 131 |
+
},
|
| 132 |
+
"{'id': '0e4f2bde-5ccb-4001-9e0a-b43f51cca5e8', 'name': 'Thông tư liên tịch', 'code': 'TTLT_TW'}": {
|
| 133 |
+
"count": 86,
|
| 134 |
+
"share": 0.0005414901052127868
|
| 135 |
+
},
|
| 136 |
+
"{'id': 'e154c97d-d4d8-4968-9b72-feffa38924d5', 'name': 'Văn bản liên quan', 'code': 'LVB-VBLQ', 'parentCode': None, 'parentName': None}": {
|
| 137 |
+
"count": 43,
|
| 138 |
+
"share": 0.0002707450526063934
|
| 139 |
+
},
|
| 140 |
+
"{'id': '9176d8a9-fadf-4905-acd0-56dba102db56', 'name': 'Chương trình', 'code': 'LVB-CTr', 'parentCode': None, 'parentName': None}": {
|
| 141 |
+
"count": 32,
|
| 142 |
+
"share": 0.0002014846903117346
|
| 143 |
+
},
|
| 144 |
+
"{'id': '178c63a9-73ff-4fd4-9d91-18d690520090', 'name': 'Thông tư', 'code': None}": {
|
| 145 |
+
"count": 32,
|
| 146 |
+
"share": 0.0002014846903117346
|
| 147 |
+
}
|
| 148 |
+
},
|
| 149 |
+
"by_agency": {
|
| 150 |
+
"unknown": {
|
| 151 |
+
"count": 158821,
|
| 152 |
+
"share": 1.0
|
| 153 |
+
}
|
| 154 |
+
},
|
| 155 |
+
"by_year": {},
|
| 156 |
+
"by_body_source": {
|
| 157 |
+
"body_html": {
|
| 158 |
+
"count": 143470,
|
| 159 |
+
"share": 0.9033440162195175
|
| 160 |
+
},
|
| 161 |
+
"shell_html": {
|
| 162 |
+
"count": 15351,
|
| 163 |
+
"share": 0.09665598378048243
|
| 164 |
+
}
|
| 165 |
+
},
|
| 166 |
+
"completed_at": "2026-05-19T22:08:45.641679+00:00"
|
| 167 |
+
}
|