metadata
license: apache-2.0
language:
- zh
- en
tags:
- embeddings
- patents
- qwen3
- mmap
Qwen3-4B Patent Embeddings (专利特征向量数据集)
📌 简介 (Introduction)
本数据集包含了海量专利文本的特征向量（Embeddings）。所有特征向量均使用强大的 Qwen3-embedding-4B 模型提取。
- 数据领域: 专利 (Patents)
- 特征提取模型: Qwen3-embedding-4B
- 数据格式:
.mmap(Memory-mapped file, numpy-compatible) +.tsv - 数据精度:
float16
📂 数据结构 (Data Structure)
由于数据量庞大，在生成时使用了 4 张 GPU 进行分布式计算，因此数据被划分为 4 个分片（Shards）：shard_0 到 shard_3。
每个 Shard 目录下包含以下核心文件：
embeddings.float16.mmap: 核心的特征向量矩阵（float16）。ids.int64.mmap: 与特征向量一一对应的专利内部 ID（int64）。pubno.tsv: 专利的公开号（Publication Number）映射表。meta.json: 记录了该分片的数据维度、行数等元数据信息。progress.json: 原始生成的进度记录。
🚀 如何读取与使用 (How to Use)
由于本数据集采用了极低内存占用的 .mmap 格式存储，请不要使用 datasets.load_dataset，而是使用 huggingface_hub 下载后通过 numpy 映射到内存。
1. 安装依赖
pip install huggingface_hub numpy
2. 下载并加载数据的 Python 示例
以下代码展示了如何高速拉取数据，并读取其中一个 shard 的内容：
import os
import json
import numpy as np
from huggingface_hub import snapshot_download
# 1. 开启高速下载模式 (推荐)
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
# 如果在国内服务器，请取消下面这行的注释
# os.environ["HF_ENDPOINT"] = "[https://hf-mirror.com](https://hf-mirror.com)"
# 2. 将整个数据集缓存到本地
repo_id = "TMSDMAP/patent_dataset" # 替换为你的真实仓库名
print("正在下载数据集...")
local_dir = snapshot_download(repo_id=repo_id, repo_type="dataset")
# 3. 选取你要读取的 shard (例如 shard_3)
shard_dir = os.path.join(local_dir, "shard_3")
# 4. 从 meta.json 动态读取 shape
with open(os.path.join(shard_dir, "meta.json"), "r") as f:
meta = json.load(f)
# 请根据你实际的 meta.json 键值名修改这里的 "num_rows" 和 "dim"
num_rows = meta.get("num_rows", 0)
dim = meta.get("dim", 4096)
# 5. 使用 numpy memmap 加载 (极快，且不占内存)
embeddings = np.memmap(
os.path.join(shard_dir, "embeddings.float16.mmap"),
dtype='float16',
mode='r',
shape=(num_rows, dim)
)
ids = np.memmap(
os.path.join(shard_dir, "ids.int64.mmap"),
dtype='int64',
mode='r',
shape=(num_rows,)
)
print(f"成功加载 Shard_3, 包含 {num_rows} 条数据。")
print(f"第一条数据的向量维度前 5 项: {embeddings[0][:5]}")
⚙️ 硬件与计算信息 (Compute Information)
- 计算集群: [1x Ubuntu Server]
- GPU: 4x [Nvidia A800]
- 并行框架: [None]