Update README.md
Browse files
README.md
CHANGED
|
@@ -37,5 +37,63 @@ tags:
|
|
| 37 |
由于本数据集采用了极低内存占用的 `.mmap` 格式存储,请**不要**使用 `datasets.load_dataset`,而是使用 `huggingface_hub` 下载后通过 `numpy` 映射到内存。
|
| 38 |
|
| 39 |
### 1. 安装依赖
|
|
|
|
| 40 |
```bash
|
| 41 |
-
pip install huggingface_hub numpy
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 37 |
由于本数据集采用了极低内存占用的 `.mmap` 格式存储,请**不要**使用 `datasets.load_dataset`,而是使用 `huggingface_hub` 下载后通过 `numpy` 映射到内存。
|
| 38 |
|
| 39 |
### 1. 安装依赖
|
| 40 |
+
|
| 41 |
```bash
|
| 42 |
+
pip install huggingface_hub numpy
|
| 43 |
+
```
|
| 44 |
+
|
| 45 |
+
### 2. 下载并加载数据的 Python 示例
|
| 46 |
+
|
| 47 |
+
以下代码展示了如何高速拉取数据,并读取其中一个 shard 的内容:
|
| 48 |
+
|
| 49 |
+
```python
|
| 50 |
+
import os
|
| 51 |
+
import json
|
| 52 |
+
import numpy as np
|
| 53 |
+
from huggingface_hub import snapshot_download
|
| 54 |
+
|
| 55 |
+
# 1. 开启高速下载模式 (推荐)
|
| 56 |
+
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
|
| 57 |
+
|
| 58 |
+
# 如果在国内服务器,请取消下面这行的注释
|
| 59 |
+
# os.environ["HF_ENDPOINT"] = "[https://hf-mirror.com](https://hf-mirror.com)"
|
| 60 |
+
|
| 61 |
+
# 2. 将整个数据集缓存到本地
|
| 62 |
+
repo_id = "TMSDMAP/patent_dataset" # 替换为你的真实仓库名
|
| 63 |
+
print("正在下载数据集...")
|
| 64 |
+
local_dir = snapshot_download(repo_id=repo_id, repo_type="dataset")
|
| 65 |
+
|
| 66 |
+
# 3. 选取你要读取的 shard (例如 shard_3)
|
| 67 |
+
shard_dir = os.path.join(local_dir, "shard_3")
|
| 68 |
+
|
| 69 |
+
# 4. 从 meta.json 动态读取 shape
|
| 70 |
+
with open(os.path.join(shard_dir, "meta.json"), "r") as f:
|
| 71 |
+
meta = json.load(f)
|
| 72 |
+
# 请根据你实际的 meta.json 键值名修改这里的 "num_rows" 和 "dim"
|
| 73 |
+
num_rows = meta.get("num_rows", 0)
|
| 74 |
+
dim = meta.get("dim", 4096)
|
| 75 |
+
|
| 76 |
+
# 5. 使用 numpy memmap 加载 (极快,且不占内存)
|
| 77 |
+
embeddings = np.memmap(
|
| 78 |
+
os.path.join(shard_dir, "embeddings.float16.mmap"),
|
| 79 |
+
dtype='float16',
|
| 80 |
+
mode='r',
|
| 81 |
+
shape=(num_rows, dim)
|
| 82 |
+
)
|
| 83 |
+
|
| 84 |
+
ids = np.memmap(
|
| 85 |
+
os.path.join(shard_dir, "ids.int64.mmap"),
|
| 86 |
+
dtype='int64',
|
| 87 |
+
mode='r',
|
| 88 |
+
shape=(num_rows,)
|
| 89 |
+
)
|
| 90 |
+
|
| 91 |
+
print(f"成功加载 Shard_3, 包含 {num_rows} 条数据。")
|
| 92 |
+
print(f"第一条数据的向量维度前 5 项: {embeddings[0][:5]}")
|
| 93 |
+
```
|
| 94 |
+
|
| 95 |
+
## ⚙️ 硬件与计算信息 (Compute Information)
|
| 96 |
+
|
| 97 |
+
* **计算集群**: [1x Ubuntu Server]
|
| 98 |
+
* **GPU**: 4x [Nvidia A800]
|
| 99 |
+
* **并行框架**: [None]
|