--- license: bsd-3-clause task_categories: - other language: - en tags: - mixed-integer-programming - power-systems - optimization - unit-commitment - mps - benchmark size_categories: - 10K/.json.gz`。如果希望把输入数据放在数据盘: ```bash python3 benchmark/scripts/download_matpower_instances.py \ --out-dir /data/uc_inputs/matpower \ --workers 16 ``` 检查下载数量: ```bash find instances/matpower -name '*.json.gz' | wc -l ``` 全量数据目标约为 9487 个输入实例。远端若有少数 URL 暂时失败或缺失,下载脚本会打印失败地址并返回非零状态;已经下载成功的文件会保留,重新运行同一命令会自动跳过非空文件。 ## 5. 单实例冒烟测试 冒烟测试会读取 `instances/matpower/case30/2017-01-01.json.gz`,并在当前目录生成 4 个 `.mps` 文件: ```bash julia --project=. create_scuc_mps_files.jl ls -lh uc_*mps ``` 如果你把输入数据放到了自定义目录,请先把对应文件放回默认路径,或临时创建软链接: ```bash mkdir -p instances ln -s /data/uc_inputs/matpower instances/matpower ``` ## 6. 批量生成 MPS `generate_dataset.jl` 会扫描输入目录下已经存在的 `.json.gz` 文件。每个输入实例生成 4 个 `.mps` 变体: ```text hourly_noline 小时级 UC,不含线路约束 hourly_withline 小时级 SCUC,含线路约束 subhourly_noline 子小时级 UC,不含线路约束 subhourly_withline 子小时级 SCUC,含线路约束 ``` 文件命名规则: ```text ___.mps ``` 示例: ```text case30_2017-01-01_h_noline.mps case30_2017-01-01_s_withline.mps ``` 先做 dry run,确认输入、输出和 case 选择正确: ```bash UC_DRY_RUN=1 julia --project=. generate_dataset.jl ``` 只生成小 case: ```bash UC_CASES=case14,case30 \ UC_OUTPUT_ROOT=/data/uc_mps \ julia --project=. generate_dataset.jl ``` 使用 128 个 Julia worker 进程并行生成: ```bash UC_WORKERS=128 \ UC_CASES=case14,case30,case57,case118 \ UC_OUTPUT_ROOT=/pub/data/daizhengyu \ julia --project=. generate_dataset.jl ``` 使用自定义输入目录和输出目录: ```bash UC_INPUT_ROOT=/data/uc_inputs/matpower \ UC_OUTPUT_ROOT=/data/uc_mps \ julia --project=. generate_dataset.jl ``` 全量生成: ```bash UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl ``` 检查输出数量: ```bash find /data/uc_mps -name '*.mps' | wc -l du -sh /data/uc_mps ``` ## 7. 长任务在服务器后台运行 全量生成耗时较长,建议使用 `tmux` 或 `screen`,避免 SSH 断开导致任务中止。 使用 `tmux`: ```bash tmux new -s uc-mps cd /path/to/UnitCommitment_Trajectory export JULIA_DEPOT_PATH=/data/julia_depot export UC_WORKERS=128 export UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl 2>&1 | tee generate_dataset.log ``` 断开会话: ```bash Ctrl-b d ``` 重新进入: ```bash tmux attach -t uc-mps ``` 不用 `tmux` 时,也可以用 `nohup`: ```bash nohup bash -lc 'UC_WORKERS=128 UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl' > generate_dataset.log 2>&1 & tail -f generate_dataset.log ``` 生成 `case14`、`case30`、`case57`、`case118` 并输出到 `/pub/data/daizhengyu` 的后台命令: ```bash mkdir -p /pub/data/daizhengyu nohup bash -lc 'JULIA_NUM_THREADS=1 UC_WORKERS=128 UC_CASES=case14,case30,case57,case118 UC_OUTPUT_ROOT=/pub/data/daizhengyu julia --project=. generate_dataset.jl' > /pub/data/daizhengyu/generate_case14_30_57_118.log 2>&1 & tail -f /pub/data/daizhengyu/generate_case14_30_57_118.log ``` ## 8. 可用环境变量 | 变量 | 默认值 | 作用 | | :--- | :--- | :--- | | `UC_INPUT_ROOT` | `instances/matpower` | 输入 `.json.gz` 根目录 | | `UC_OUTPUT_ROOT` | `../UnitCommitment_Trajectory_Dataset` | 输出 `.mps` 根目录 | | `UC_CASES` | 空 | 逗号分隔的 case 白名单,例如 `case14,case30` | | `UC_WORKERS` | `1` | Julia worker 进程数,例如 `128` | | `UC_DRY_RUN` | 空 | 设为 `1`、`true`、`yes` 或 `y` 时只打印计划,不生成文件 | 清理变量: ```bash unset UC_INPUT_ROOT UC_OUTPUT_ROOT UC_CASES UC_WORKERS UC_DRY_RUN ``` ## 9. 常见问题 ### `julia: command not found` Julia 没有安装,或安装后没有加入 `PATH`。重新登录 shell,或把 Julia 的 `bin` 目录加入 `PATH`。 ### `Input directory does not exist: instances/matpower` 还没有下载输入数据,或当前工作目录不是仓库根目录。先运行下载脚本,或通过 `UC_INPUT_ROOT` 指向真实输入目录。 ### `No cases selected under ...` 输入目录下没有 `.json.gz` 文件,或者 `UC_CASES` 写了不存在的 case。用下面命令检查: ```bash find "${UC_INPUT_ROOT:-instances/matpower}" -name '*.json.gz' | head ``` ### 下载速度慢或失败 降低并发或增加重试: ```bash python3 benchmark/scripts/download_matpower_instances.py \ --workers 4 \ --timeout 120 \ --retries 5 ``` 已经下载成功的非空文件会自动跳过,可以重复执行同一命令。 ### 磁盘空间不足 不要把全量输出写到系统盘。使用 `UC_OUTPUT_ROOT=/data/uc_mps` 指向大容量数据盘,并先用 `UC_CASES=case14,case30` 做小规模测试。 ### 服务器断线后任务停止 使用 `tmux`、`screen` 或 `nohup`。长任务不要直接跑在普通 SSH 前台会话里。 ## 10. 引用 原始 UnitCommitment.jl DOI: [10.5281/zenodo.4269874](https://doi.org/10.5281/zenodo.4269874)