README.md

metadata

license: bsd-3-clause
task_categories:
  - other
language:
  - en
tags:
  - mixed-integer-programming
  - power-systems
  - optimization
  - unit-commitment
  - mps
  - benchmark
size_categories:
  - 10K<n<100K

UnitCommitment Trajectory MPS Dataset

本仓库基于修改版 UnitCommitment.jl，从 MATPOWER 机组组合实例生成标准 .mps 文件，用于混合整数规划、机组组合、SCUC 模型和求解器基准测试。

代码仓库地址：EridanusQ/UnitCommitment_Trajectory

数据集仓库地址：EridanusQ/UnitCommitment_Trajectory_Dataset

本文档面向 Linux 服务器运行。所有命令默认在仓库根目录执行，也就是包含 Project.toml、generate_dataset.jl 和 benchmark/ 的目录。

1. 项目结构

UnitCommitment_Trajectory/
├── README.md
├── Project.toml
├── Manifest.toml
├── generate_dataset.jl
├── create_scuc_mps_files.jl
├── benchmark/
│   └── scripts/
│       └── download_matpower_instances.py
├── docs/
│   └── src/guides/instances.md
├── instances/
│   └── matpower/
├── src/
└── testdata/

默认路径如下：

类型	默认路径	说明
输入实例	instances/matpower	.json.gz 输入文件
输出数据集	../UnitCommitment_Trajectory_Dataset	.mps 输出文件，默认在仓库上一级目录
case 列表来源	docs/src/guides/instances.md	下载脚本会从这里解析 MATPOWER case

2. Linux 环境准备

建议使用 Ubuntu 22.04/24.04、Debian 12、Rocky Linux 9 或其他常见 x86_64 Linux 服务器。

必需软件：

• Julia 1.12.x。当前 Manifest.toml 由 Julia 1.12.6 生成。
• Python 3.9+。下载脚本只使用 Python 标准库。
• git、curl 或 wget。
• 足够的磁盘空间。全量生成会产生数万个 .mps 文件，建议把输入和输出放在大容量数据盘。

安装 Julia 的一种方式：

curl -fsSL https://install.julialang.org | sh
exec "$SHELL"
julia --version

如果服务器不能访问外网，也可以手动安装 Julia 1.12.x，并确保 julia 在 PATH 中。

在共享服务器上，建议显式设置 Julia depot，避免把依赖写到不合适的位置：

mkdir -p /data/julia_depot
export JULIA_DEPOT_PATH=/data/julia_depot

不要直接复用 Windows 机器上的 .julia_depot。请在 Linux 上重新实例化依赖，Julia 会下载适合 Linux 的二进制 artifacts。

3. 初始化 Julia 依赖

cd /path/to/UnitCommitment_Trajectory
julia --project=. -e 'using Pkg; Pkg.instantiate(); Pkg.precompile()'

如果服务器网络较慢，第一次执行可能需要较长时间。完成后可以验证包能否加载：

julia --project=. -e 'using UnitCommitment; println("UnitCommitment loaded")'

4. 下载 MATPOWER 输入实例

先查看支持的 case：

python3 benchmark/scripts/download_matpower_instances.py --list-cases

支持的 case 包括：

case14 case30 case57 case118 case300
case2383wp case2736sp case2737sop case2746wop case2746wp
case3012wp case3120sp case3375wp
case89pegase case1354pegase case2869pegase case9241pegase case13659pegase
case1888rte case1951rte case2848rte case2868rte
case6468rte case6470rte case6495rte case6515rte

推荐先下载一个小范围做连通性测试：

python3 benchmark/scripts/download_matpower_instances.py \
  --start-date 2017-01-01 \
  --end-date 2017-01-01 \
  --workers 8

下载全量 2017 年数据：

python3 benchmark/scripts/download_matpower_instances.py --workers 16

下载脚本默认写入 instances/matpower/<case>/<YYYY-MM-DD>.json.gz。如果希望把输入数据放在数据盘：

python3 benchmark/scripts/download_matpower_instances.py \
  --out-dir /data/uc_inputs/matpower \
  --workers 16

检查下载数量：

find instances/matpower -name '*.json.gz' | wc -l

全量数据目标约为 9487 个输入实例。远端若有少数 URL 暂时失败或缺失，下载脚本会打印失败地址并返回非零状态；已经下载成功的文件会保留，重新运行同一命令会自动跳过非空文件。

5. 单实例冒烟测试

冒烟测试会读取 instances/matpower/case30/2017-01-01.json.gz，并在当前目录生成 4 个 .mps 文件：

julia --project=. create_scuc_mps_files.jl
ls -lh uc_*mps

如果你把输入数据放到了自定义目录，请先把对应文件放回默认路径，或临时创建软链接：

mkdir -p instances
ln -s /data/uc_inputs/matpower instances/matpower

6. 批量生成 MPS

generate_dataset.jl 会扫描输入目录下已经存在的 .json.gz 文件。每个输入实例生成 4 个 .mps 变体：

hourly_noline       小时级 UC，不含线路约束
hourly_withline     小时级 SCUC，含线路约束
subhourly_noline    子小时级 UC，不含线路约束
subhourly_withline  子小时级 SCUC，含线路约束

文件命名规则：

<case>_<date>_<resolution>_<network>.mps

示例：

case30_2017-01-01_h_noline.mps
case30_2017-01-01_s_withline.mps

先做 dry run，确认输入、输出和 case 选择正确：

UC_DRY_RUN=1 julia --project=. generate_dataset.jl

只生成小 case：

UC_CASES=case14,case30 \
UC_OUTPUT_ROOT=/data/uc_mps \
julia --project=. generate_dataset.jl

使用 128 个 Julia worker 进程并行生成：

UC_WORKERS=128 \
UC_CASES=case14,case30,case57,case118 \
UC_OUTPUT_ROOT=/pub/data/daizhengyu \
julia --project=. generate_dataset.jl

使用自定义输入目录和输出目录：

UC_INPUT_ROOT=/data/uc_inputs/matpower \
UC_OUTPUT_ROOT=/data/uc_mps \
julia --project=. generate_dataset.jl

全量生成：

UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl

检查输出数量：

find /data/uc_mps -name '*.mps' | wc -l
du -sh /data/uc_mps

7. 长任务在服务器后台运行

全量生成耗时较长，建议使用 tmux 或 screen，避免 SSH 断开导致任务中止。

使用 tmux：

tmux new -s uc-mps
cd /path/to/UnitCommitment_Trajectory
export JULIA_DEPOT_PATH=/data/julia_depot
export UC_WORKERS=128
export UC_OUTPUT_ROOT=/data/uc_mps
julia --project=. generate_dataset.jl 2>&1 | tee generate_dataset.log

断开会话：

Ctrl-b d

重新进入：

tmux attach -t uc-mps

不用 tmux 时，也可以用 nohup：

nohup bash -lc 'UC_WORKERS=128 UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl' > generate_dataset.log 2>&1 &
tail -f generate_dataset.log

生成 case14、case30、case57、case118 并输出到 /pub/data/daizhengyu 的后台命令：

mkdir -p /pub/data/daizhengyu
nohup bash -lc 'JULIA_NUM_THREADS=1 UC_WORKERS=128 UC_CASES=case14,case30,case57,case118 UC_OUTPUT_ROOT=/pub/data/daizhengyu julia --project=. generate_dataset.jl' > /pub/data/daizhengyu/generate_case14_30_57_118.log 2>&1 &
tail -f /pub/data/daizhengyu/generate_case14_30_57_118.log

8. 可用环境变量

变量	默认值	作用
UC_INPUT_ROOT	instances/matpower	输入 .json.gz 根目录
UC_OUTPUT_ROOT	../UnitCommitment_Trajectory_Dataset	输出 .mps 根目录
UC_CASES	空	逗号分隔的 case 白名单，例如 case14,case30
UC_WORKERS	1	Julia worker 进程数，例如 128
UC_DRY_RUN	空	设为 1、true、yes 或 y 时只打印计划，不生成文件

清理变量：

unset UC_INPUT_ROOT UC_OUTPUT_ROOT UC_CASES UC_WORKERS UC_DRY_RUN

9. 常见问题

julia: command not found

Julia 没有安装，或安装后没有加入 PATH。重新登录 shell，或把 Julia 的 bin 目录加入 PATH。

Input directory does not exist: instances/matpower

还没有下载输入数据，或当前工作目录不是仓库根目录。先运行下载脚本，或通过 UC_INPUT_ROOT 指向真实输入目录。

No cases selected under ...

输入目录下没有 .json.gz 文件，或者 UC_CASES 写了不存在的 case。用下面命令检查：

find "${UC_INPUT_ROOT:-instances/matpower}" -name '*.json.gz' | head

下载速度慢或失败

降低并发或增加重试：

python3 benchmark/scripts/download_matpower_instances.py \
  --workers 4 \
  --timeout 120 \
  --retries 5

已经下载成功的非空文件会自动跳过，可以重复执行同一命令。

磁盘空间不足

不要把全量输出写到系统盘。使用 UC_OUTPUT_ROOT=/data/uc_mps 指向大容量数据盘，并先用 UC_CASES=case14,case30 做小规模测试。

服务器断线后任务停止

使用 tmux、screen 或 nohup。长任务不要直接跑在普通 SSH 前台会话里。

10. 引用

原始 UnitCommitment.jl DOI： 10.5281/zenodo.4269874