Add files using upload-large-folder tool

.gitignore

@@ -0,0 +1,17 @@
+__pycache__/
+.venv
+venv/
+logs/
+uv.lock
+main.exp
+main.lib
+main.obj
+CLAUDE.md
+GEMINI.md
+.claude/
+.gemini/
+AGENTS.md
+.vscode/settings.json
+.mcp.json
+references/
+projects/

.python-version

@@ -0,0 +1 @@
+3.10

CONTRIBUTING.ja.md

@@ -0,0 +1,319 @@
+# Musubi Tuner へのコントリビューション
+
+Musubi Tuner 開発へのご支援、ご協力に感謝いたします。コミュニティからの開発へ手助けは、このプロジェクトにとって不可欠です。このドキュメントでは、コントリビューションの方法やプロジェクトへの参加方法について説明します。
+
+## 目次
+
+- [はじめに](#はじめに)
+- [ご協力いただく前に](#ご協力いただく前に)
+- [プロジェクトへの協力の方法](#プロジェクトへの協力の方法)
+  - [問題の報告](#問題の報告)
+  - [機能の提案](#機能の提案)
+  - [コードのコントリビューション](#コードのコントリビューション)
+- [開発環境のセットアップ](#開発環境のセットアップ)
+- [コードスタイルとガイドライン](#コードスタイルとガイドライン)
+- [テスト](#テスト)
+- [プルリクエストのプロセス](#プルリクエストのプロセス)
+- [ライセンスと帰属（Attribution）](#ライセンスと帰属attribution)
+- [コミュニティとサポート](#コミュニティとサポート)
+
+## はじめに
+
+開発にご協力いただく前に以下をお願いします：
+
+1. このドキュメントを読む
+2. [README.md](README.md) でプロジェクトを理解する
+3. [既存の Issue](https://github.com/kohya-ss/musubi-tuner/issues) と [ディスカッション](https://github.com/kohya-ss/musubi-tuner/discussions) を確認する
+4. 開発環境をセットアップする
+
+## ご協力いただく前に
+
+### ご留意いただきたい点
+
+- このプロジェクトのメンテナンスは限られた時間とリソースで行われています
+- PRのレビューとマージには時間がかかる場合があります
+- プロジェクトが成長する過程で破壊的変更が発生する可能性があります
+- 質問や一般的な議論には [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions) をご利用ください
+- バグ報告や機能要求には [GitHub Issues](https://github.com/kohya-ss/musubi-tuner/issues) をご利用ください
+
+### ご協力いただける例
+
+- バグ修正
+- パフォーマンスの改善
+- ドキュメントの改善
+- 新機能の追加（事前にディスカッションを行うことを推奨）
+- コード品質の改善
+
+## プロジェクトへの協力の方法
+
+### 問題の報告
+
+新しい Issue を作成する前に：
+
+1. **既存の Issue を検索**して重複を避けてください
+2. **ディスカッションを確認**して、質問が既に回答されていないか確認してください
+
+バグ報告を作成する際は以下を含めてください：
+
+- **明確で内容を適切に要約したタイトル**
+- **問題の詳細な説明**
+- **問題を再現する手順**
+- **環境の詳細**：
+  - オペレーティングシステム
+  - GPU モデルと VRAM
+  - Python バージョン
+  - PyTorch バージョン
+  - CUDA バージョン
+- **エラーメッセージやログ**
+- **期待される動作と実際の動作**
+- **スクリーンショットや動画**（必要な場合）
+
+### 機能の提案
+
+機能要求の場合：
+
+1. **まず Issue を開いて**機能について議論してください
+2. **機能が解決する問題を説明**します
+3. **提案された解決策を説明**します
+4. **代替案とそのトレードオフ**を検討してください
+5. **実装前にフィードバックを待つ**ことをお願いします（PRがマージされない可能性は常にあります）
+
+重要な機能については、まず [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions) にコミュニティの意見を求めることを検討してください。
+
+### コードのコントリビューション
+
+1. **Issue を開いて**提案する変更について議論をお願いします（些細な修正ではない場合）
+2. **重要な変更の作業を開始する前に承認を待つ**ことをお願いします
+3. **リポジトリをフォーク**して機能ブランチを作成する
+4. **コードスタイルガイドライン**に従って変更を行う
+5. **変更を徹底的にテスト**する
+6. **プルリクエストを提出**する
+
+## 開発環境のセットアップ
+
+### 前提条件
+
+- Python 3.10 以上
+- Git
+- CUDA 対応 GPU（GPU 機能のテスト用）
+- 12GB 以上の VRAM 推奨
+
+### インストール
+
+1. **リポジトリをフォークしてクローン**：
+   ```shell
+   git clone https://github.com/your-username/musubi-tuner.git
+   cd musubi-tuner
+   ```
+
+2. **開発環境をセットアップ**：
+
+   **オプション A: pip を使用**
+   ```shell
+   # 仮想環境を作成
+   python -m venv .venv
+
+   # 仮想環境をアクティベート
+   # Windows の場合:
+   .venv/Scripts/activate
+   # Linux/Mac の場合:
+   source .venv/bin/activate
+
+   # PyTorch をインストール（CUDA バージョンに合わせて調整）
+   pip install torch torchvision --index-url https://download.pytorch.org/whl/cu128
+
+   # パッケージを開発モードでインストール
+   pip install -e .
+
+   # 開発依存関係をインストール
+   pip install --group dev
+   ```
+
+	**オプション B: uv を使用**
+   ```shell
+   # uv がインストールされていない場合はインストール
+   curl -LsSf https://astral.sh/uv/install.sh | sh  # Linux/Mac
+   # または
+   powershell -c "irm https://astral.sh/uv/install.ps1 | iex"  # Windows
+
+   # 依存関係をインストール
+   uv sync --extra cu128  # または CUDA バージョンにより cu124
+   ```
+
+3. **Accelerate を設定**：
+   ```shell
+   accelerate config
+   ```
+
+## コードスタイルとガイドライン
+
+### Python コードスタイル
+
+このプロジェクトは **Ruff** をコード解析（リンティング）とコード整形に使用しています：
+
+- **行の長さ**: 132 文字
+- **インデント**: 4 スペース
+- **クォートスタイル**: ダブルクォート
+- **対象 Python バージョン**: 3.10
+
+### IDE のセットアップ
+
+https://docs.astral.sh/ruff/editors/setup/
+
+### コード解析、整形の実行
+
+```shell
+# コードスタイルと潜在的な問題をチェック
+ruff check
+
+# 可能な場合は自動修正
+ruff check --fix
+
+# コードをフォーマット（注: フォーマットには black ではなく ruff を使用してください）
+ruff format src
+```
+
+### コードガイドライン
+
+- **コードベースの既存パターン**に従う
+- **明確で説明的な変数名**を書く
+- **適切な場所で型ヒント**を追加する
+- **関数を単一の機能で適度なサイズ**に保つ
+- **パブリック関数とクラスにドキュメント文字列**を追加する
+- **エラーを適切に処理**: 回復不可能なエラーはそのままエラーとし、適切な対応が可能なエラーのみをキャッチして処理する
+
+### インポートの整理
+
+- 標準ライブラリのインポートを最初に
+- サードパーティのインポートを次に
+- ローカルインポートを最後に
+- 可能な限り絶対インポートを使用
+
+### コード修正ガイドライン
+
+既存のコードを扱う場合：
+
+- **既存のインターフェースとの互換性を維持**する
+- **既存のモジュール構造に従う**
+- **`docs/` ディレクトリの関連ドキュメントを更新**する
+- **変更が複数のシステムに影響する場合、能力があれば異なるアーキテクチャでテスト**する
+
+アーキテクチャ固有のコード（HunyuanVideo、Wan2.1/2.2、FramePack、FLUX.1 Kontext、Qwen-Image）を扱う場合：
+
+- **命名規則に従う**: 新しいアーキテクチャを追加する場合は `{arch}_train_network.py` と `{arch}_generate_{type}.py` の命名パターンに従う
+- **アーキテクチャ間の影響を考慮する**: アーキテクチャ間で共有されるコードを変更する場合
+- **他のアーキテクチャでのテスト**: 変更が他のアーキテクチャに影響する場合、可能であればそれらでもテストする
+
+## テスト
+
+### テストの実行
+
+```shell
+# コード品質チェックを実行
+ruff check
+
+# コードをフォーマット
+ruff format src
+
+# 関連するスクリプトで変更を手動テスト
+```
+
+### 手動テストガイドライン
+
+このプロジェクトは機械学習モデルを扱っています。そのため：
+
+1. **まず小さなデータセット**で始めてください
+2. **メモリ使用量が期待する範囲内**であることを確認してください
+3. **可能であれば異なる GPU 構成**でテストをお願いします
+4. **生成/訓練機能の出力品質**を検証してください
+
+## プルリクエストのプロセス
+
+### 提出前
+
+1. **当該ブランチが最新のメインブランチと同期**していることを確認してください
+2. **コード品質ツールを実行**：
+   ```shell
+   ruff check --fix
+   ruff format src
+   ```
+3. **変更を徹底的にテスト**します
+4. **必要に応じてドキュメントを更新**してください
+5. **明確なコミットメッセージ**を書いてください
+
+### プルリクエストテンプレート
+
+PR を作成する際は以下を含めてください：
+
+- **変更を説明する明確なタイトル**
+- **何が変更されたか、なぜかの説明**
+- **Issue への参照**（例：「Closes #123」）
+- **実行されたテスト**
+- **破壊的変更**（もしある場合）
+- **ドキュメントの更新**（もしある場合）
+
+### レビュープロセス
+
+- メンテナーは時間があるときに PR をレビューします
+- 限られたリソースのためレビューに時間がかかる場合があります��、ご了承ください
+- フィードバックに建設的に対処してください
+- 議論を集中的かつ専門的に保つようお願いします
+
+## ライセンスと帰属（Attribution）
+
+### 帰属の要件
+
+他のプロジェクトから派生または着想を得たコードを追加する場合：
+
+1. **新しいファイルに適切なライセンスヘッダー**を追加する
+2. **コピー/修正されたコードに帰属コメント**を含める
+3. 新しいアーキテクチャのために**新しいライセンス要求を導入する場合は README.md の LICENSE セクションを更新**する
+4. **プルリクエストの説明で参照元を文書化**する
+
+### サードパーティのコード
+
+あなたのコントリビューションにサードパーティのコードが含まれる場合：
+
+1. **プロジェクトとのライセンス互換性を確保**する
+2. **元のライセンスファイルまたはヘッダーを含める**
+3. **ソースとライセンスを明確に文書化**する。プルリクエストの説明にも記載してください
+4. **ソースライセンスからのすべての義務を履行**する
+
+## コミュニティとサポート
+
+### 情報交換の手段
+
+- **GitHub Discussions**: 一般的な質問、アイデア、コミュニティの交流
+- **GitHub Issues**: バグ報告と機能要求
+- **Pull Requests**: コード貢献とレビュー
+
+### 何かわからないことがあれば
+
+内容に応じて以下の方法で質問してください：
+
+- **ソフトウェアの使用法など**: [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions) をチェックしてください
+- **開発環境のセットアップ**: 「question」ラベルで Issue を作成してするか、ディスカッションで質問してください
+- **コントリビューションのプロセス**: このガイドを参照するか、ディスカッションで質問してください
+
+### ご協力いただいた方への謝辞など
+
+ご協力いただいた方は以下の方法等でご紹介させていただきます：
+
+- **Git コミット履歴**
+- **重要なコントリビューションのリリースノート**
+- **主要な機能への README での謝辞**
+
+---
+
+## 最終に
+
+Musubi Tuner へのご協力に興味をお持ちいただき、ありがとうございます。このプロジェクトはコミュニティのご支援、ご協力で成り立っています。
+
+以下についてご留意いただければ幸いです：
+
+- **最初のコントリビューションは小さく**始めることをお勧めします
+- **何か不明な点があれば質問**してください
+- **レビュープロセスは辛抱強く**お待ちいただければ幸いです
+- **ツールの構築と改善に一緒に取り組めればと**考えています
+
+皆様のMusubi Tuner へのご協力に重ねて感謝申し上げます。

CONTRIBUTING.md

@@ -0,0 +1,318 @@
+# Contributing to Musubi Tuner
+
+Thank you for your interest in contributing to Musubi Tuner! We welcome contributions from the community and are excited to work with you to make this project even better.
+
+## Table of Contents
+
+- [Getting Started](#getting-started)
+- [Before You Contribute](#before-you-contribute)
+- [How to Contribute](#how-to-contribute)
+  - [Reporting Issues](#reporting-issues)
+  - [Suggesting Features](#suggesting-features)
+  - [Contributing Code](#contributing-code)
+- [Development Setup](#development-setup)
+- [Code Style and Guidelines](#code-style-and-guidelines)
+- [Testing](#testing)
+- [Pull Request Process](#pull-request-process)
+- [Licensing and Attribution](#licensing-and-attribution)
+- [Community and Support](#community-and-support)
+
+## Getting Started
+
+Before contributing, please:
+
+1. Read through this contributing guide
+2. Review the [README.md](README.md) to understand the project
+3. Check the [existing issues](https://github.com/kohya-ss/musubi-tuner/issues) and [discussions](https://github.com/kohya-ss/musubi-tuner/discussions)
+4. Set up your development environment
+
+## Before You Contribute
+
+### Important Notes
+
+- This project is under active development with limited maintainer resources
+- PR reviews and merges may take time
+- Breaking changes may occur as the project evolves
+- For questions and general discussion, use [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions)
+- For bug reports and feature requests, use [GitHub Issues](https://github.com/kohya-ss/musubi-tuner/issues)
+
+### Types of Contributions We Welcome
+
+- Bug fixes
+- Performance improvements
+- Documentation improvements
+- New features (with prior discussion)
+- Code quality improvements
+
+## How to Contribute
+
+### Reporting Issues
+
+Before creating a new issue:
+
+1. **Search existing issues** to avoid duplicates
+2. **Check discussions** as your question might already be answered
+
+When creating a bug report, include:
+
+- **Clear, descriptive title**
+- **Detailed description** of the problem
+- **Steps to reproduce** the issue
+- **Environment details**:
+  - Operating System
+  - GPU model and VRAM
+  - Python version
+  - PyTorch version
+  - CUDA version
+- **Error messages or logs**
+- **Expected vs actual behavior**
+- **Screenshots or videos** (if applicable)
+
+### Suggesting Features
+
+For feature requests:
+
+1. **Open an issue first** to discuss the feature
+2. **Explain the problem** your feature would solve
+3. **Describe the proposed solution**
+4. **Consider alternatives** and their trade-offs
+5. **Wait for feedback** before starting implementation (there's always a chance the PR won't be merged)
+
+For significant features, consider posting in [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions) first to gather community input.
+
+### Contributing Code
+
+1. **Open an issue** to discuss your proposed changes (unless it's a trivial fix)
+2. **Wait for approval** before starting work on significant changes
+3. **Fork the repository** and create a feature branch
+4. **Make your changes** following our code style guidelines
+5. **Test your changes** thoroughly
+6. **Submit a pull request**
+
+## Development Setup
+
+### Prerequisites
+
+- Python 3.10 or later
+- Git
+- CUDA-compatible GPU (for testing GPU features)
+- 12GB+ VRAM recommended
+
+### Installation
+
+1. **Fork and clone the repository**:
+   ```shell
+   git clone https://github.com/your-username/musubi-tuner.git
+   cd musubi-tuner
+   ```
+
+2. **Set up the development environment**:
+
+   **Option A: Using pip**
+   ```shell
+   # Create virtual environment
+   python -m venv .venv
+
+   # Activate virtual environment
+   # On Windows:
+   .venv/Scripts/activate
+   # On Linux/Mac:
+   source .venv/bin/activate
+
+   # Install PyTorch (adjust for your CUDA version)
+   pip install torch torchvision --index-url https://download.pytorch.org/whl/cu128
+
+   # Install the package in development mode
+   pip install -e .
+
+   # Install development dependencies
+   pip install --group dev
+   ```
+
+	**Option B: Using uv**
+   ```shell
+   # Install uv if not present
+   curl -LsSf https://astral.sh/uv/install.sh | sh  # Linux/Mac
+   # or
+   powershell -c "irm https://astral.sh/uv/install.ps1 | iex"  # Windows
+
+   # Install dependencies
+   uv sync --extra cu128  # or cu124 based on your CUDA version
+   ```
+
+3. **Configure Accelerate**:
+   ```shell
+   accelerate config
+   ```
+
+## Code Style and Guidelines
+
+### Python Code Style
+
+This project uses **Ruff** for code linting and code formatting:
+
+- **Line length**: 132 characters
+- **Indentation**: 4 spaces
+- **Quote style**: Double quotes
+- **Target Python version**: 3.10
+
+### IDE
+
+https://docs.astral.sh/ruff/editors/setup/
+
+### Running Code Quality Tools
+
+```shell
+# Check code style and potential issues
+ruff check
+
+# Auto-fix issues where possible
+ruff check --fix
+
+# Format code (note: use ruff for formatting, not black)
+ruff format src
+```
+
+### Code Guidelines
+
+- **Follow existing patterns** in the codebase
+- **Write clear, descriptive variable names**
+- **Add type hints** where appropriate
+- **Keep functions focused** and reasonably sized
+- **Add docstrings** for public functions and classes
+- **Handle errors appropriately** - Let unrecoverable errors fail fast; only catch and handle errors you can meaningfully recover from
+
+### Import Organization
+
+- Standard library imports first
+- Third-party imports second
+- Local imports last
+- Use absolute imports when possible
+
+### Code Modification Guidelines
+
+When working with existing code:
+
+- **Maintain compatibility** with existing interfaces
+- **Follow the existing module structure**
+- **Update relevant documentation** in the `docs/` directory
+- **Test across different architectures** if your changes affect multiple architectures and you have the capability to do so
+
+When working with architecture-specific code (HunyuanVideo, Wan2.1/2.2, FramePack, FLUX.1 Kontext, Qwen-Image):
+
+- **Follow naming conventions**: When adding a new architecture, follow the `{arch}_train_network.py` and `{arch}_generate_{type}.py` naming pattern
+- **Consider cross-architecture impact** when making changes within shared modules
+- **Test with representative models** if possible
+
+## Testing
+
+### Running Tests
+
+```shell
+# Run code quality checks
+ruff check
+
+# Format code
+ruff format src
+
+# Test your changes manually with the relevant scripts
+```
+
+### Manual Testing Guidelines
+
+Since this project deals with machine learning models:
+
+1. **Test with small datasets** first
+2. **Verify memory usage** is within expected boundaries
+3. **Test on different GPU configurations** if possible
+4. **Validate output quality** for generation/training features
+
+## Pull Request Process
+
+### Before Submitting
+
+1. **Ensure your branch is up to date** with the main branch
+2. **Run code quality tools**:
+   ```shell
+   ruff check --fix
+   ruff format src
+   ```
+3. **Test your changes** thoroughly
+4. **Update documentation** if needed
+5. **Write clear commit messages**
+
+### Pull Request Template
+
+When creating a PR, include:
+
+- **Clear title** describing the change
+- **Description** of what changed and why
+- **Issue reference** (e.g., "Closes #123")
+- **Testing performed**
+- **Breaking changes** (if any)
+- **Documentation updates** (if any)
+
+### Review Process
+
+- Maintainers will review PRs when time permit
+- Be patient as reviews may take time due to limited resources
+- Address feedback constructively
+- Keep discussions focused and professional
+
+## Licensing and Attribution
+
+### Attribution Requirements
+
+When contributing code derived from or inspired by other projects:
+
+1. **Add appropriate license headers** to new files
+2. **Include attribution comments** for copied/modified code
+3. **Update the LICENSE section on README.md** if introducing new license requirements for new architectures
+4. **Document the source** in your pull request description
+
+### Third-Party Code
+
+If your contribution includes third-party code:
+
+1. **Ensure license compatibility** with the project
+2. **Include the original license file** or header
+3. **Document the source and license** clearly. Incorporate this in your pull request description as well
+4. **Fulfill all obligations** from the source license
+
+## Community and Support
+
+### Communication Channels
+
+- **GitHub Discussions**: General questions, ideas, and community interaction
+- **GitHub Issues**: Bug reports and feature requests
+- **Pull Requests**: Code contributions and reviews
+
+### Getting Help
+
+If you need help with:
+
+- **Using the software**: Check [GitHub Discussions](https://github.com/kohya-ss/musubi-tuner/discussions)
+- **Development setup**: Create an issue with the "question" label or ask in discussions
+- **Contributing process**: Reference this guide or ask in discussions
+
+### Recognition
+
+Contributors are recognized through:
+
+- **Git commit history**
+- **Release notes** for significant contributions
+- **README acknowledgments** for major features
+
+---
+
+## Final Notes
+
+We appreciate your interest in contributing to Musubi Tuner! This project benefits greatly from community contributions, and we're grateful for your time and effort.
+
+Remember:
+- **Start small** with your first contribution
+- **Ask questions** if anything is unclear
+- **Be patient** with the review process
+- **Have fun** building amazing tools!
+
+Thank you for helping make Musubi Tuner better for everyone!

README.ja.md

@@ -0,0 +1,314 @@
+# Musubi Tuner
+
+[English](./README.md) | [日本語](./README.ja.md)
+
+## 目次
+
+<details>
+<summary>クリックすると展開します</summary>
+
+- [はじめに](#はじめに)
+    - [スポンサー](#スポンサー)
+    - [スポンサー募集のお知らせ](#スポンサー募集のお知らせ)
+    - [最近の更新](#最近の更新)
+    - [リリースについて](#リリースについて)
+    - [AIコーディングエージェントを使用する開発者の方へ](#AIコーディングエージェントを使用する開発者の方へ)
+- [概要](#概要)
+    - [ハードウェア要件](#ハードウェア要件)
+    - [特徴](#特徴)
+    - [ドキュメント](#ドキュメント)
+- [インストール](#インストール)
+    - [pipによるインストール](#pipによるインストール)
+    - [uvによるインストール](#uvによるインストール)
+    - [Linux/MacOS](#linuxmacos)
+    - [Windows](#windows)
+- [モデルのダウンロード](#モデルのダウンロード)
+- [使い方](#使い方)
+    - [データセット設定](#データセット設定)
+    - [事前キャッシュと学習](#事前キャッシュと学習)
+    - [Accelerateの設定](#Accelerateの設定)
+    - [学習と推論](#学習と推論)
+- [その他](#その他)
+    - [SageAttentionのインストール方法](#SageAttentionのインストール方法)
+    - [PyTorchのバージョンについて](#PyTorchのバージョンについて)
+- [免責事項](#免責事項)
+- [コントリビューションについて](#コントリビューションについて)
+- [ライセンス](#ライセンス)
+</details>
+
+## はじめに
+
+このリポジトリは、HunyuanVideo、Wan2.1/2.2、FramePack、FLUX.1 Kontext、FLUX.2 dev/klein、Qwen-Image、Z-Image、および [LTX-2](./docs/ltx_2.md)のLoRA学習用のコマンドラインツールです。このリポジトリは非公式であり、それらの公式リポジトリとは関係ありません。
+
+*リポジトリは開発中です。*
+
+### スポンサー
+
+このプロジェクトを支援してくださる企業・団体の皆様に深く感謝いたします。
+
+<a href="https://aihub.co.jp/">
+  <img src="./images/logo_aihub.png" alt="AiHUB株式会社" title="AiHUB株式会社" height="100px">
+</a>
+
+### スポンサー募集のお知らせ
+
+このプロジェクトがお役に立ったなら、ご支援いただけると嬉しく思います。 [GitHub Sponsors](https://github.com/sponsors/kohya-ss/)で受け付けています。
+
+### 最近の更新
+
+GitHub Discussionsを有効にしました。コミュニティのQ&A、知識共有、技術情報の交換などにご利用ください。バグ報告や機能リクエストにはIssuesを、質問や経験の共有にはDiscussionsをご利用ください。[Discussionはこちら](https://github.com/kohya-ss/musubi-tuner/discussions)
+
+- 2026/02/15
+    - LoHa/LoKrの学習に対応しました。[PR #900](https://github.com/kohya-ss/musubi-tuner/pull/900)
+        - LyCORISのLoHa/LoKrアルゴリズムに基づいて実装されています。LyCORISプロジェクトのKohakuBlueleaf氏に深く感謝します。
+        - 詳細は[ドキュメント](./docs/loha_lokr.md)を参照してください。
+    - Z-Imageのfine-tuningで、blocks_to_swapを使用している場合に、一部のオプティマイザを使用可能にする`--block_swap_optimizer_patch_params`オプションを追加しました。[PR #899](https://github.com/kohya-ss/musubi-tuner/pull/899)
+        - 詳細は[ドキュメント](./docs/zimage.md#finetuning)を参照してください。
+
+- 2026/01/29
+    - Z-Image-Baseのリリースに伴いLoRA、finetuningの動作確認を行い、共に動作することを確認しました。
+    - Z-Imageの[関連ドキュメント](./docs/zimage.md)を修正しました。
+    - またZ-ImageのLoRA学習、finetuningでサンプル画像生成が正しく動作しなかったのを修正しました。以上は[PR #861](https://github.com/kohya-ss/musubi-tuner/pull/861)
+
+- 2026/01/24
+    - FLUX.2 [klein]のLoRA学習が動かなかったのを修正しました。またFLUX.2に関する各種の不具合修正、機能追加を行いました。[PR #858](https://github.com/kohya-ss/musubi-tuner/pull/858)
+        - `--model_version`の指定は`flux.2-dev`や`flux.2-klein-4b`等から、`dev`や`klein-4b`等に変更されました。
+        - fp8最適化なども動作します。詳細は[ドキュメント](./docs/flux_2.md)を参照してください。
+        - klein 9B、devモデル、および複数枚の制御画像を用いた学習は十分にテストされていないため、不具合があればIssueで報告してください。
+
+- 2026/01/21
+    - FLUX.2 [dev]/[klein]のLoRA学習に対応しました。[PR #841](https://github.com/kohya-ss/musubi-tuner/pull/841) https://www.scenario.com のchristopher5106氏に深く感謝します。
+        - 詳細は[ド��ュメント](./docs/flux_2.md)を参照してください。
+
+- 2026/01/17
+    - Z-ImageのComfyUI向けのLoRA変換について、互換性向上のため `convert_lora.py` を使用するように変更しました。[PR #851](https://github.com/kohya-ss/musubi-tuner/pull/851)
+        - 以前の `convert_z_image_lora_to_comfy.py` も引き続き使用可能ですが、nunchakuで正しく動作しない可能性があります。
+        - 詳細は[ドキュメント](./docs/zimage.md#converting-lora-weights-to-diffusers-format-for-comfyui--lora重みをcomfyuiで使用可能なdiffusers形式に変換する)を参照してください。
+        - [Issue #847](https://github.com/kohya-ss/musubi-tuner/issues/847) で解決策を提供してくださったfai-9氏に感謝します。
+    - Qwen-Image-LayeredのLoRA学習で、元画像を学習対象から除外するオプション `--remove_first_image_from_target` を追加しました。[PR #852](https://github.com/kohya-ss/musubi-tuner/pull/852)
+        - 詳細は[ドキュメント](./docs/qwen_image.md#lora-training--lora学習)を参照してください。
+
+- 2026/01/11
+    - Qwen-Image-LayeredのLoRA学習に対応しました。[PR #816](https://github.com/kohya-ss/musubi-tuner/pull/816)
+        - 詳細は[ドキュメント](./docs/qwen_image.md)を参照してください。
+        - キャッシュ作成、学習、推論の各スクリプトで、`--model_version` オプションに `layered` を指定してください。
+
+### リリースについて
+
+Musubi Tunerの解説記事執筆や、関連ツールの開発に取り組んでくださる方々に感謝いたします。このプロジェクトは開発中のため、互換性のない変更や機能追加が起きる可能性があります。想定外の互換性問題を避けるため、参照用として[リリース](https://github.com/kohya-ss/musubi-tuner/releases)をお使いください。
+
+最新のリリースとバージョン履歴は[リリースページ](https://github.com/kohya-ss/musubi-tuner/releases)で確認できます。
+
+### AIコーディングエージェントを使用する開発者の方へ
+
+このリポジトリでは、ClaudeやGeminiのようなAIエージェントが、プロジェクトの概要や構造を理解しやすくするためのエージェント向け文書（プロンプト）を用意しています。
+
+これらを使用するためには、プロジェクトのルートディレクトリに各エージェント向けの設定ファイルを作成し、明示的に読み込む必要があります。
+
+**セットアップ手順:**
+
+1.  プロジェクトのルートに `CLAUDE.md` や `GEMINI.md`、`AGENTS.md` ファイルを作成します。
+2.  `CLAUDE.md` 等に以下の行を追加して、リポジトリが推奨するプロンプトをインポートします（現在、両者はほぼ同じ内容です）：
+
+    ```markdown
+    @./.ai/claude.prompt.md
+    ```
+
+    Geminiの場合はこちらです：
+
+    ```markdown
+    @./.ai/gemini.prompt.md
+    ```
+
+    他のエージェント向けの設定ファイルでもそれぞれの方法でインポートしてください。
+
+3.  インポートした行の後に、必要な指示を適宜追加してください（例：`Always respond in Japanese.`）。
+
+このアプローチにより、共有されたプロジェクトのコンテキストを活用しつつ、エージェントに与える指示を各ユーザーが自由に制御できます。`CLAUDE.md`、`GEMINI.md` および `AGENTS.md` （またClaude用の `.mcp.json`）はすでに `.gitignore` に記載されているため、リポジトリにコミットされることはありません。
+
+## 概要
+
+### ハードウェア要件
+
+- VRAM: 静止画での学習は12GB以上推奨、動画での学習は24GB以上推奨。
+    - *アーキテクチャ、解像度等の学習設定により異なります。*12GBでは解像度 960x544 以下とし、`--blocks_to_swap`、`--fp8_llm`等の省メモリオプションを使用してください。
+- メインメモリ: 64GB以上を推奨、32GB+スワップで動作するかもしれませんが、未検証です。
+
+### 特徴
+
+- 省メモリに特化
+- Windows対応（Linuxでの動作報告もあります）
+- マルチGPU学習（[Accelerate](https://huggingface.co/docs/accelerate/index)を使用）、ドキュメントは後日追加予定
+
+### ドキュメント
+
+各アーキテクチャの詳細、設定、高度な機能については、以下のドキュメントを参照してください。
+
+**アーキテクチャ別:**
+- [HunyuanVideo](./docs/hunyuan_video.md)
+- [Wan2.1/2.2](./docs/wan.md)
+- [Wan2.1/2.2 (1フレーム推論)](./docs/wan_1f.md)
+- [FramePack](./docs/framepack.md)
+- [FramePack (1フレーム推論)](./docs/framepack_1f.md)
+- [FLUX.1 Kontext](./docs/flux_kontext.md)
+- [Qwen-Image](./docs/qwen_image.md)
+- [Z-Image](./docs/zimage.md)
+- [HunyuanVideo 1.5](./docs/hunyuan_video_1_5.md)
+- [Kandinsky 5](./docs/kandinsky5.md)
+- [LTX-2](./docs/ltx_2.md)
+- [FLUX.2](./docs/flux_2.md)
+
+**共通設定・その他:**
+- [データセット設定](./docs/dataset_config.md)
+- [高度な設定](./docs/advanced_config.md)
+- [学習中のサンプル生成](./docs/sampling_during_training.md)
+- [ツールとユーティリティ](./docs/tools.md)
+- [torch.compileの使用方法](./docs/torch_compile.md)
+
+## インストール
+
+### pipによるインストール
+
+Python 3.10以上を使用してください（3.10で動作確認済み）。
+
+適当な仮想環境を作成し、ご利用のCUDAバージョンに合わせたPyTorchとtorchvisionをインストールしてください。
+
+PyTorchはバージョン2.5.1以上を使用してください（[補足](#PyTorchのバージョンについて)）。
+
+```bash
+pip install torch torchvision --index-url https://download.pytorch.org/whl/cu124
+```
+
+以下のコマンドを使用して、必要な依存関係をインストールします。
+
+```bash
+pip install -e .
+```
+
+オプションとして、FlashAttention、SageAttention（**推論にのみ使用できます**、インストール方法は[こちら](#SageAttentionのインストール方法)を参照）を使用できます。
+
+また、`ascii-magic`（データセットの確認に使用）、`matplotlib`（timestepsの可視化に使用）、`tensorboard`（学習ログの記録に使用）、`prompt-toolkit`を必要に応じてインストールしてください。
+
+`prompt-toolkit`をインストールするとWan2.1およびFramePackのinteractive modeでの編集に、自動的に使用されます。特にLinux環境でプロンプトの編集が容易になります。
+
+```bash
+pip install ascii-magic matplotlib tensorboard prompt-toolkit
+```
+
+### uvによるインストール
+
+uvを使用してインストールすることもできますが、uvによるインストールは試験的なものです。フィードバックを歓迎します。
+
+#### Linux/MacOS
+
+```sh
+curl -LsSf https://astral.sh/uv/install.sh | sh
+```
+
+表示される指示に従い、pathを設定してください。
+
+#### Windows
+
+```powershell
+powershell -c "irm https://astral.sh/uv/install.ps1 | iex"
+```
+
+表示される指示に従い、PATHを設定するか、この時点でシステムを再起動してください。
+
+## モデルのダウンロード
+
+モデルのダウンロード手順はアーキテクチャによって異なります。詳細は[ドキュメント](#ドキュメント)セクションにある、各アーキテクチャのドキュメントを参照してください。
+
+## 使い方
+
+### データセット設定
+
+[こちら](./docs/dataset_config.md)を参照してください。
+
+### 事前キャッシュ
+
+事前キャッシュの手順の詳細は、[ドキュメント](#ドキュメント)セクションにある各アーキテクチャのドキュメントを参照してください。
+
+### Accelerateの設定
+
+`accelerate config`を実行して、Accelerateの設定を行います。それぞれの質問に、環境に応じた適切な値を選択してください（値を直接入力するか、矢印キーとエンターで選択、大文字がデフォルトなので、デフォルト値でよい場合は何も入力せずエンター）。GPU 1台での学習の場合、以下のように答えてください。
+
+```txt
+- In which compute environment are you running?: This machine
+- Which type of machine are you using?: No distributed training
+- Do you want to run your training on CPU only (even if a GPU / Apple Silicon / Ascend NPU device is available)?[yes/NO]: NO
+- Do you wish to optimize your script with torch dynamo?[yes/NO]: NO
+- Do you want to use DeepSpeed? [yes/NO]: NO
+- What GPU(s) (by id) should be used for training on this machine as a comma-seperated list? [all]: all
+- Would you like to enable numa efficiency? (Currently only supported on NVIDIA hardware). [yes/NO]: NO
+- Do you wish to use mixed precision?: bf16
+```
+
+※場合によって ``ValueError: fp16 mixed precision requires a GPU`` というエラーが出ることがあるようです。この場合、6番目の質問（
+``What GPU(s) (by id) should be used for training on this machine as a comma-separated list? [all]:``）に「0」と答えてください。（id `0`、つまり1台目のGPUが使われます。）
+
+### 学習と推論
+
+学習と推論の手順はアーキテクチャによって大きく異なります。詳細な手順については、[ドキュメント](#ドキュメント)セクションにある対応するアーキテクチャのドキュメント、および各種の設定のドキュメントを参照してください。
+
+## その他
+
+### SageAttentionのインストール方法
+
+sdbds氏によるWindows対応のSageAttentionのwheelが https://github.com/sdbds/SageAttention-for-windows で公開されています。triton をインストールし、Python、PyTorch、CUDAのバージョ���が一致する場合は、[Releases](https://github.com/sdbds/SageAttention-for-windows/releases)からビルド済みwheelをダウンロードしてインストールすることが可能です。sdbds氏に感謝します。
+
+参考までに、以下は、SageAttentionをビルドしインストールするための簡単な手順です。Microsoft Visual C++ 再頒布可能パッケージを最新にする必要があるかもしれません。
+
+1. Pythonのバージョンに応じたtriton 3.1.0のwhellを[こちら](https://github.com/woct0rdho/triton-windows/releases/tag/v3.1.0-windows.post5)からダウンロードしてインストールします。
+
+2. Microsoft Visual Studio 2022かBuild Tools for Visual Studio 2022を、C++のビルドができるよう設定し、インストールします。（上のRedditの投稿を参照してください）。
+
+3. 任意のフォルダにSageAttentionのリポジトリをクローンします。
+    ```shell
+    git clone https://github.com/thu-ml/SageAttention.git
+    ```
+
+4. スタートメニューから Visual Studio 2022 内の `x64 Native Tools Command Prompt for VS 2022` を選択してコマンドプロンプトを開きます。
+
+5. venvを有効にし、SageAttentionのフォルダに移動して以下のコマンドを実行します。DISTUTILSが設定されていない、のようなエラーが出た場合は `set DISTUTILS_USE_SDK=1`としてから再度実行してください。
+    ```shell
+    python setup.py install
+    ```
+
+以上でSageAttentionのインストールが完了です。
+
+### PyTorchのバージョンについて
+
+`--attn_mode`に`torch`を指定する場合、2.5.1以降のPyTorchを使用してください（それより前のバージョンでは生成される動画が真っ黒になるようです）。
+
+古いバージョンを使う場合、xformersやSageAttentionを使用してください。
+
+## 免責事項
+
+このリポジトリは非公式であり、サポートされているアーキテクチャの公式リポジトリとは関係ありません。また、このリポジトリは開発中で、実験的なものです。テストおよびフィードバックを歓迎しますが、以下の点にご注意ください：
+
+- 実際の稼働環境での動作を意図したものではありません
+- 機能やAPIは予告なく変更されることがあります
+- いくつもの機能が未検証です
+- 動画学習機能はまだ開発中です
+
+問題やバグについては、以下の情報とともにIssueを作成してください：
+
+- 問題の詳細な説明
+- 再現手順
+- 環境の詳細（OS、GPU、VRAM、Pythonバージョンなど）
+- 関連するエラーメッセージやログ
+
+## コントリビューションについて
+
+コントリビューションを歓迎します。 [CONTRIBUTING.md](./CONTRIBUTING.md)および[CONTRIBUTING.ja.md](./CONTRIBUTING.ja.md)をご覧ください。
+
+## ライセンス
+
+`hunyuan_model`ディレクトリ以下のコードは、[HunyuanVideo](https://github.com/Tencent/HunyuanVideo)のコードを一部改変して使用しているため、そちらのライセンスに従います。
+
+`wan`ディレクトリ以下のコードは、[Wan2.1](https://github.com/Wan-Video/Wan2.1)のコードを一部改変して使用しています。ライセンスはApache License 2.0です。
+
+`frame_pack`ディレクトリ以下のコードは、[frame_pack](https://github.com/lllyasviel/FramePack)のコードを一部改変して使用しています。ライセンスはApache License 2.0です。
+
+他のコードはApache License 2.0に従います。一部Diffusersのコードをコピー、改変して使用しています。

README.md

@@ -0,0 +1,326 @@
+# Musubi Tuner
+
+[English](./README.md) | [日本語](./README.ja.md)
+
+## Table of Contents
+
+<details>
+<summary>Click to expand</summary>
+
+- [Musubi Tuner](#musubi-tuner)
+  - [Table of Contents](#table-of-contents)
+  - [Introduction](#introduction)
+    - [Sponsors](#sponsors)
+    - [Support the Project](#support-the-project)
+    - [Recent Updates](#recent-updates)
+    - [Releases](#releases)
+    - [For Developers Using AI Coding Agents](#for-developers-using-ai-coding-agents)
+  - [Overview](#overview)
+    - [Hardware Requirements](#hardware-requirements)
+    - [Features](#features)
+    - [Documentation](#documentation)
+  - [Installation](#installation)
+    - [pip based installation](#pip-based-installation)
+    - [uv based installation](#uv-based-installation-experimental)
+    - [Linux/MacOS](#linuxmacos)
+    - [Windows](#windows)
+  - [Model Download](#model-download)
+  - [Usage](#usage)
+    - [Dataset Configuration](#dataset-configuration)
+    - [Pre-caching and Training](#pre-caching-and-training)
+    - [Configuration of Accelerate](#configuration-of-accelerate)
+    - [Training and Inference](#training-and-inference)
+  - [Miscellaneous](#miscellaneous)
+    - [SageAttention Installation](#sageattention-installation)
+    - [PyTorch version](#pytorch-version)
+  - [Disclaimer](#disclaimer)
+  - [Contributing](#contributing)
+  - [License](#license)
+
+</details>
+
+## Introduction
+
+This repository provides scripts for training LoRA (Low-Rank Adaptation) models with HunyuanVideo, Wan2.1/2.2, FramePack, FLUX.1 Kontext, FLUX.2 dev/klein, Qwen-Image, Z-Image, and [LTX-2](./docs/ltx_2.md) architectures. 
+
+This repository is unofficial and not affiliated with the official repositories of these architectures.
+
+*This repository is under development.*
+
+### Sponsors
+
+We are grateful to the following companies for their generous sponsorship:
+
+<a href="https://aihub.co.jp/top-en">
+  <img src="./images/logo_aihub.png" alt="AiHUB Inc." title="AiHUB Inc." height="100px">
+</a>
+
+### Support the Project
+
+If you find this project helpful, please consider supporting its development via [GitHub Sponsors](https://github.com/sponsors/kohya-ss/). Your support is greatly appreciated!
+
+### Recent Updates
+
+GitHub Discussions Enabled: We've enabled GitHub Discussions for community Q&A, knowledge sharing, and technical information exchange. Please use Issues for bug reports and feature requests, and Discussions for questions and sharing experiences. [Join the conversation →](https://github.com/kohya-ss/musubi-tuner/discussions)
+
+- February 15, 2026
+    - Added support for LoHa/LoKr training. See [PR #900](https://github.com/kohya-ss/musubi-tuner/pull/900)
+        - Implemented based on the LoHa/LoKr algorithms from LyCORIS. Special thanks to KohakuBlueleaf from the LyCORIS project.
+        - Please refer to the [documentation](./docs/loha_lokr.md) for details.
+    - Added `--block_swap_optimizer_patch_params` option to enable the use of some optimizers when using `blocks_to_swap` in Z-Image fine-tuning. See [PR #899](https://github.com/kohya-ss/musubi-tuner/pull/899)
+        - Please refer to the [documentation](./docs/zimage.md#finetuning) for details.
+        
+- January 29, 2026
+    - With the release of Z-Image-Base, we have verified that both LoRA and finetuning work correctly.
+    - Updated the [related documentation](./docs/zimage.md) for Z-Image.
+    - Fixed an issue where sample image generation did not work correctly in LoRA training and finetuning of Z-Image. See [PR #861](https://github.com/kohya-ss/musubi-tuner/pull/861).
+
+- January 24, 2026
+    - Fixed an issue where LoRA training for FLUX.2 [klein] did not work. Also made various bug fixes and feature additions related to FLUX.2. See [PR #858](https://github.com/kohya-ss/musubi-tuner/pull/858).
+        - The `--model_version` specification has changed from `flux.2-dev` or `flux.2-klein-4b` to `dev` or `klein-4b`, etc.
+        - fp8 optimization and other features also work. Please refer to the [documentation](./docs/flux_2.md) for details.
+        - Since klein 9B, dev models, and training with multiple control images have not been sufficiently tested, please report any issues via Issue.
+
+- January 21, 2026
+    - Added support for LoRA training of FLUX.2 [dev]/[klein]. See [PR #841](https://github.com/kohya-ss/musubi-tuner/pull/841). Many thanks to christopher5106 from https://www.scenario.com for this contribution.
+        - Please refer to the [documentation](./docs/flux_2.md) for details.
+
+- January 17, 2026
+    - Changed to use `convert_lora.py` for converting Z-Image LoRA for ComfyUI to improve compatibility. See [PR #851](https://github.com/kohya-ss/musubi-tuner/pull/851).
+        - The previous `convert_z_image_lora_to_comfy.py` can still be used, but the converted weights may not work correctly with nunchaku.
+        - Please refer to the [documentation](./docs/zimage.md#converting-lora-weights-to-diffusers-format-for-comfyui--lora重みをcomfyuiで使用可能なdiffusers形式��変換する) for details.
+        - Many thanks to fai-9 for providing the solution in [Issue #847](https://github.com/kohya-ss/musubi-tuner/issues/847).
+    - Added `--remove_first_image_from_target` option for LoRA training of Qwen-Image-Layered. See [PR #852](https://github.com/kohya-ss/musubi-tuner/pull/852).
+        - Please refer to the [documentation](./docs/qwen_image.md#lora-training--lora学習) for details.
+
+- January 11, 2026
+    - Added support for LoRA training of Qwen-Image-Layered. See [PR #816](https://github.com/kohya-ss/musubi-tuner/pull/816).
+        - Please refer to the [documentation](./docs/qwen_image.md) for details.
+        - In the caching, training, and inference scripts, specify `--model_version` option as `layered`.
+
+### Releases
+
+We are grateful to everyone who has been contributing to the Musubi Tuner ecosystem through documentation and third-party tools. To support these valuable contributions, we recommend working with our [releases](https://github.com/kohya-ss/musubi-tuner/releases) as stable reference points, as this project is under active development and breaking changes may occur.
+
+You can find the latest release and version history in our [releases page](https://github.com/kohya-ss/musubi-tuner/releases).
+
+### For Developers Using AI Coding Agents
+
+This repository provides recommended instructions to help AI agents like Claude and Gemini understand our project context and coding standards.
+
+To use them, you need to opt-in by creating your own configuration file in the project root.
+
+**Quick Setup:**
+
+1.  Create a `CLAUDE.md`, `GEMINI.md`, and/or `AGENTS.md` file in the project root.
+2.  Add the following line to your `CLAUDE.md` to import the repository's recommended prompt (currently they are the almost same):
+
+    ```markdown
+    @./.ai/claude.prompt.md
+    ```
+
+    or for Gemini:
+
+    ```markdown
+    @./.ai/gemini.prompt.md
+    ```
+
+    You may be also import the prompt depending on the agent you are using with the custom prompt file such as `AGENTS.md`.
+
+3.  You can now add your own personal instructions below the import line (e.g., `Always include a short summary of the change before diving into details.`).
+
+This approach ensures that you have full control over the instructions given to your agent while benefiting from the shared project context. Your `CLAUDE.md`, `GEMINI.md` and `AGENTS.md` (as well as Claude's `.mcp.json`) are already listed in `.gitignore`, so they won't be committed to the repository.
+
+## Overview
+
+### Hardware Requirements
+
+- VRAM: 12GB or more recommended for image training, 24GB or more for video training
+    - *Actual requirements depend on resolution and training settings.* For 12GB, use a resolution of 960x544 or lower and use memory-saving options such as `--blocks_to_swap`, `--fp8_llm`, etc.
+- Main Memory: 64GB or more recommended, 32GB + swap may work
+
+### Features
+
+- Memory-efficient implementation
+- Windows compatibility confirmed (Linux compatibility confirmed by community)
+- Multi-GPU training (using [Accelerate](https://huggingface.co/docs/accelerate/index)), documentation will be added later
+
+### Documentation
+
+For detailed information on specific architectures, configurations, and advanced features, please refer to the documentation below.
+
+**Architecture-specific:**
+- [HunyuanVideo](./docs/hunyuan_video.md)
+- [Wan2.1/2.2](./docs/wan.md)
+- [Wan2.1/2.2 (Single Frame)](./docs/wan_1f.md)
+- [FramePack](./docs/framepack.md)
+- [FramePack (Single Frame)](./docs/framepack_1f.md)
+- [FLUX.1 Kontext](./docs/flux_kontext.md)
+- [Qwen-Image](./docs/qwen_image.md)
+- [Z-Image](./docs/zimage.md)
+- [HunyuanVideo 1.5](./docs/hunyuan_video_1_5.md)
+- [Kandinsky 5](./docs/kandinsky5.md)
+- [LTX-2](./docs/ltx_2.md)
+- [FLUX.2](./docs/flux_2.md)
+
+**Common Configuration & Usage:**
+- [Dataset Configuration](./docs/dataset_config.md)
+- [Advanced Configuration](./docs/advanced_config.md)
+- [Sampling during Training](./docs/sampling_during_training.md)
+- [Tools and Utilities](./docs/tools.md)
+- [Using torch.compile](./docs/torch_compile.md)
+
+## Installation
+
+### pip based installation
+
+Python 3.10 or later is required (verified with 3.10).
+
+Create a virtual environment and install PyTorch and torchvision matching your CUDA version. 
+
+PyTorch 2.5.1 or later is required (see [note](#PyTorch-version)).
+
+```bash
+pip install torch torchvision --index-url https://download.pytorch.org/whl/cu124
+```
+
+Install the required dependencies using the following command.
+
+```bash
+pip install -e .
+```
+
+Optionally, you can use FlashAttention and SageAttention (**for inference only**; see [SageAttention Installation](#sageattention-installation) for installation instructions).
+
+Optional dependencies for additional features:
+- `ascii-magic`: Used for dataset verification
+- `matplotlib`: Used for timestep visualization
+- `tensorboard`: Used for logging training progress
+- `prompt-toolkit`: Used for interactive prompt editing in Wan2.1 and FramePack inference scripts. If installed, it will be automatically used in interactive mode. Especially useful in Linux environments for easier prompt editing.
+
+```bash
+pip install ascii-magic matplotlib tensorboard prompt-toolkit
+```
+
+### uv based installation (experimental)
+
+You can also install using uv, but installation with uv is experimental. Feedback is welcome.
+
+1. Install uv (if not already present on your OS).
+
+#### Linux/MacOS
+
+```sh
+curl -LsSf https://astral.sh/uv/install.sh | sh
+```
+
+Follow the instructions to add the uv path manually until you restart your session...
+
+#### Windows
+
+```powershell
+powershell -c "irm https://astral.sh/uv/install.ps1 | iex"
+```
+
+Follow the instructions to add the uv path manually until you reboot your system... or just reboot your system at this point.
+
+## Model Download
+
+Model download procedures vary by architecture. Please refer to the architecture-specific documents in the [Documentation](#documentation) section for instructions.
+
+## Usage
+
+
+### Dataset Configuration
+
+Please refer to [here](./docs/dataset_config.md).
+
+### Pre-caching
+
+Pre-caching procedures vary by architecture. Please refer to the architecture-specific documents in the [Documentation](#documentation) section for instructions.
+
+### Configuration of Accelerate
+
+Run `accelerate config` to configure Accelerate. Choose appropriate values for each question based on your environment (either input values directly or use arrow keys and enter to select; uppercase is default, so if the default value is fine, just press enter without inputting anything). For training with a single GPU, answer the questions as follows:
+
+```txt
+- In which compute environment are you running?: This machine
+- Which type of machine are you using?: No distributed training
+- Do you want to run your training on CPU only (even if a GPU / Apple Silicon / Ascend NPU device is available)?[yes/NO]: NO
+- Do you wish to optimize your script with torch dynamo?[yes/NO]: NO
+- Do you want to use DeepSpeed? [yes/NO]: NO
+- What GPU(s) (by id) should be used for training on this machine as a comma-seperated list? [all]: all
+- Would you like to enable numa efficiency? (Currently only supported on NVIDIA hardware). [yes/NO]: NO
+- Do you wish to use mixed precision?: bf16
+```
+
+*Note*: In some cases, you may encounter the error `ValueError: fp16 mixed precision requires a GPU`. If this happens, answer "0" to the sixth question (`What GPU(s) (by id) should be used for training on this machine as a comma-separated list? [all]:`). This means that only the first GPU (id `0`) will be used.
+
+### Training and Inference
+
+Training and inference procedures vary significantly by architecture. Please refer to the architecture-specific documents in the [Documentation](#documentation) section and the various configuration documents for detailed instructions.
+
+## Miscellaneous
+
+### SageAttention Installation
+
+sdbsd has provided a Windows-compatible SageAttention implementation and pre-built wheels here:  https://github.com/sdbds/SageAttention-for-windows. After installing triton, if your Python, PyTorch, and CUDA versions match, you can download and install the pre-built wheel from the [Releases](https://github.com/sdbds/SageAttention-for-windows/releases) page. Thanks to sdbsd for this contribution.
+
+For reference, the build and installation instructions are as follows. You may need to update Microsoft Visual C++ Redistributable to the latest version.
+
+1. Download and install triton 3.1.0 wheel matching your Python version from [here](https://github.com/woct0rdho/triton-windows/releases/tag/v3.1.0-windows.post5).
+
+2. Install Microsoft Visual Studio 2022 or Build Tools for Visual Studio 2022, configured for C++ builds.
+
+3. Clone the SageAttention repository in your preferred directory:
+    ```shell
+    git clone https://github.com/thu-ml/SageAttention.git
+    ```
+
+4. Open `x64 Native Tools Command Prompt for VS 2022` from the Start menu under Visual Studio 2022.
+
+5. Activate your venv, navigate to the SageAttention folder, and run the following command. If you get a DISTUTILS not configured error, set `set DISTUTILS_USE_SDK=1` and try again:
+    ```shell
+    python setup.py install
+    ```
+
+This completes the SageAttention installation.
+
+### PyTorch version
+
+If you specify `torch` for `--attn_mode`, use PyTorch 2.5.1 or later (earlier versions may result in black videos).
+
+If you use an earlier version, use xformers or SageAttention.
+
+## Disclaimer
+
+This repository is unofficial and not affiliated with the official repositories of the supported architectures. 
+
+This repository is experimental and under active development. While we welcome community usage and feedback, please note:
+
+- This is not intended for production use
+- Features and APIs may change without notice
+- Some functionalities are still experimental and may not work as expected
+- Video training features are still under development
+
+If you encounter any issues or bugs, please create an Issue in this repository with:
+- A detailed description of the problem
+- Steps to reproduce
+- Your environment details (OS, GPU, VRAM, Python version, etc.)
+- Any relevant error messages or logs
+
+## Contributing
+
+We welcome contributions! Please see [CONTRIBUTING.md](./CONTRIBUTING.md) for details.
+
+## License
+
+Code under the `hunyuan_model` directory is modified from [HunyuanVideo](https://github.com/Tencent/HunyuanVideo) and follows their license.
+
+Code under the `hunyuan_video_1_5` directory is modified from [HunyuanVideo 1.5](https://github.com/Tencent-Hunyuan/HunyuanVideo-1.5) and follows their license.
+
+Code under the `wan` directory is modified from [Wan2.1](https://github.com/Wan-Video/Wan2.1). The license is under the Apache License 2.0.
+
+Code under the `frame_pack` directory is modified from [FramePack](https://github.com/lllyasviel/FramePack). The license is under the Apache License 2.0.
+
+Other code is under the Apache License 2.0. Some code is copied and modified from Diffusers.

cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.cache_latents import main
+
+if __name__ == "__main__":
+    main()

cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

caption_images_by_qwen_vl.py

@@ -0,0 +1,4 @@
+from musubi_tuner.caption_images_by_qwen_vl import main
+
+if __name__ == "__main__":
+    main()

convert_lora.py

@@ -0,0 +1,4 @@
+from musubi_tuner.convert_lora import main
+
+if __name__ == "__main__":
+    main()

flux_2_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_2_cache_latents import main
+
+if __name__ == "__main__":
+    main()

flux_2_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_2_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

flux_2_generate_image.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_2_generate_image import main
+
+if __name__ == "__main__":
+    main()

flux_2_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_2_train_network import main
+
+if __name__ == "__main__":
+    main()

flux_kontext_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_kontext_cache_latents import main
+
+if __name__ == "__main__":
+    main()

flux_kontext_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_kontext_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

flux_kontext_generate_image.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_kontext_generate_image import main
+
+if __name__ == "__main__":
+    main()

flux_kontext_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.flux_kontext_train_network import main
+
+if __name__ == "__main__":
+    main()

fpack_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.fpack_cache_latents import main
+
+if __name__ == "__main__":
+    main()

fpack_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.fpack_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

fpack_generate_video.py

@@ -0,0 +1,4 @@
+from musubi_tuner.fpack_generate_video import main
+
+if __name__ == "__main__":
+    main()

fpack_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.fpack_train_network import main
+
+if __name__ == "__main__":
+    main()

hv_1_5_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_1_5_cache_latents import main
+
+if __name__ == "__main__":
+    main()

hv_1_5_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_1_5_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

hv_1_5_generate_video.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_1_5_generate_video import main
+
+if __name__ == "__main__":
+    main()

hv_1_5_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_1_5_train_network import main
+
+if __name__ == "__main__":
+    main()

hv_generate_video.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_generate_video import main
+
+if __name__ == "__main__":
+    main()

hv_train.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_train import main
+
+if __name__ == "__main__":
+    main()

hv_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.hv_train_network import main
+
+if __name__ == "__main__":
+    main()

kandinsky5_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.kandinsky5_cache_latents import main
+
+if __name__ == "__main__":
+    main()

kandinsky5_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.kandinsky5_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

kandinsky5_generate_video.py

@@ -0,0 +1,4 @@
+from musubi_tuner.kandinsky5_generate_video import main
+
+if __name__ == "__main__":
+    main()

kandinsky5_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.kandinsky5_train_network import main
+
+if __name__ == "__main__":
+    main()

lora_post_hoc_ema.py

@@ -0,0 +1,4 @@
+from musubi_tuner.lora_post_hoc_ema import main
+
+if __name__ == "__main__":
+    main()

ltx2_cache_dino_features.py

@@ -0,0 +1,4 @@
+from musubi_tuner.ltx2_cache_dino_features import main
+
+if __name__ == "__main__":
+    main()

ltx2_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.ltx2_cache_latents import main
+
+if __name__ == "__main__":
+    main()

ltx2_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.ltx2_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

ltx2_generate_video.py

@@ -0,0 +1,4 @@
+from musubi_tuner.ltx2_generate_video import main
+
+if __name__ == "__main__":
+    main()

ltx2_merge_lora.py

@@ -0,0 +1,5 @@
+from musubi_tuner.ltx2_merge_lora import main
+
+
+if __name__ == "__main__":
+    main()

ltx2_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.ltx2_train_network import main
+
+if __name__ == "__main__":
+    main()

ltx2_train_slider.py

@@ -0,0 +1,6 @@
+#!/usr/bin/env python3
+from musubi_tuner.ltx2_train_slider import main
+
+
+if __name__ == "__main__":
+    main()

pyproject.toml

@@ -0,0 +1,191 @@
+[project]
+name = "musubi-tuner"
+version = "0.2.15"
+description = "Musubi Tuner by kohya_ss"
+readme = "README.md"
+requires-python = ">=3.10"
+dependencies = [
+    "accelerate==1.6.0",
+    "av==14.0.1",
+    "bitsandbytes",
+    "diffusers==0.32.1",
+    "einops==0.7.0",
+    "huggingface-hub==0.34.3",
+    "opencv-python==4.10.0.84",
+    "pillow>=11.3.0",
+    "safetensors>=0.4.5",
+    # "sageattention>=1.0.6",
+    "toml==0.10.2",
+    "tqdm==4.67.1",
+    "transformers==4.56.1",
+    "voluptuous==0.15.2",
+    # Wan2.1
+    "ftfy==6.3.1",
+    "easydict==1.13",
+    # FLUX.1 Kontext
+    "sentencepiece==0.2.1",
+]
+
+[project.optional-dependencies]
+cu124 = [
+    "torch>=2.5.1",
+    "torchvision>=0.20.1",
+]
+cu128 = [
+    "torch>=2.7.1",
+    "torchvision>=0.22.1",
+]
+cu130 = [
+    "torch>=2.9.1",
+    "torchvision>=0.24.1",
+]
+gui = [
+    "gradio>=4.0.0, <6.0.0",
+]
+dashboard = [
+    "fastapi>=0.115.0",
+    "uvicorn[standard]>=0.32.0",
+    "sse-starlette>=2.0.0",
+    "pyarrow>=17.0.0",
+]
+
+[tool.uv]
+conflicts = [
+  [
+    { extra = "cu124" },
+    { extra = "cu128" },
+    { extra = "cu130" },
+  ],
+]
+
+[dependency-groups]
+dev = [
+  "ascii-magic==2.3.0",
+  "matplotlib==3.10.0",
+  "tensorboard",
+  "prompt-toolkit==3.0.51",
+  "ruff>=0.12.10",
+]
+
+[build-system]
+requires = ["hatchling"]
+build-backend = "hatchling.build"
+
+[tool.uv.sources]
+torch = [
+  { index = "pytorch-cu124", extra = "cu124" },
+  { index = "pytorch-cu128", extra = "cu128" },
+  { index = "pytorch-cu130", extra = "cu130" },
+]
+torchvision = [
+  { index = "pytorch-cu124", extra = "cu124" },
+  { index = "pytorch-cu128", extra = "cu128" },
+  { index = "pytorch-cu130", extra = "cu130" },
+]
+
+[[tool.uv.index]]
+name = "pytorch-cu124"
+url = "https://download.pytorch.org/whl/cu124"
+explicit = true
+
+[[tool.uv.index]]
+name = "pytorch-cu128"
+url = "https://download.pytorch.org/whl/cu128"
+explicit = true
+
+[[tool.uv.index]]
+name = "pytorch-cu130"
+url = "https://download.pytorch.org/whl/cu130"
+explicit = true
+
+[tool.ruff]
+line-length = 132
+indent-width = 4
+target-version = "py39"
+
+lint.ignore = [
+  "E402",  # module-import-not-at-top-of-file
+  "E712",  # true-false-comparison
+  "E721",  # type-comparison
+  "E722",  # bare-except
+  "E731",  # lambda-assignment
+  "E741",  # ambiguous-variable-name
+  "F601",  # multi-value-repeated-key-literal
+  "F841",  # unused-variable
+]
+
+# Whether to enforce exclude and extend-exclude patterns, even for paths that are passed to Ruff explicitly
+# This is used to ensure that certain files are always excluded via IDE formatters or external tool calls (CI, AI, etc.)
+force-exclude = true
+
+# Single-path or Relative patterns
+# Extends the default exclude patterns documented at https://docs.astral.sh/ruff/settings/#exclude
+extend-exclude = [
+  "src/musubi_tuner/flux/flux_models.py",
+  "src/musubi_tuner/frame_pack/hunyuan.py",
+  "src/musubi_tuner/frame_pack/hunyuan_video_packed.py",
+  "src/musubi_tuner/frame_pack/k_diffusion_hunyuan.py",
+  "src/musubi_tuner/hunyuan_model/autoencoder_kl_causal_3d.py",
+  "src/musubi_tuner/hunyuan_model/pipeline_hunyuan_video.py",
+  "src/musubi_tuner/modules/scheduling_flow_match_discrete.py",
+  "src/musubi_tuner/modules/unet_causal_3d_blocks.py",
+  "src/musubi_tuner/wan/configs/__init__.py",
+  "src/musubi_tuner/wan/configs/shared_config.py",
+  "src/musubi_tuner/wan/configs/wan_i2v_14B.py",
+  "src/musubi_tuner/wan/configs/wan_i2v_A14B.py",
+  "src/musubi_tuner/wan/configs/wan_t2v_14B.py",
+  "src/musubi_tuner/wan/configs/wan_t2v_1_3B.py",
+  "src/musubi_tuner/wan/configs/wan_t2v_A14B.py",
+  "src/musubi_tuner/wan/modules/attention.py",
+  "src/musubi_tuner/wan/modules/clip.py",
+  "src/musubi_tuner/wan/modules/model.py",
+  "src/musubi_tuner/wan/modules/t5.py",
+  "src/musubi_tuner/wan/modules/tokenizers.py",
+  "src/musubi_tuner/wan/modules/vae.py",
+  "src/musubi_tuner/wan/modules/xlm_roberta.py",
+  "src/musubi_tuner/wan/utils/fm_solvers.py",
+  "src/musubi_tuner/wan/utils/fm_solvers_unipc.py",
+  "src/musubi_tuner/wan/utils/utils.py",
+]
+
+[tool.ruff.format]
+quote-style = "double"
+indent-style = "space"
+skip-magic-trailing-comma = false
+line-ending = "auto"
+docstring-code-format = false
+docstring-code-line-length = "dynamic"
+
+[tool.ruff.lint.per-file-ignores]
+# Ignore all rules for files with copyright headers from external sources
+# https://docs.astral.sh/ruff/settings/#lint_per-file-ignores
+# # Ignore `E402` (import violations) in all `__init__.py` files, and in `path/to/file.py`.
+# "__init__.py" = ["E402"]
+# "path/to/file.py" = ["E402"]
+# # Ignore `D` rules everywhere except for the `src/` directory.
+# "!src/**.py" = ["D"]
+"src/musubi_tuner/flux/flux_models.py" = ["ALL"]
+"src/musubi_tuner/frame_pack/hunyuan.py" = ["ALL"]
+"src/musubi_tuner/frame_pack/hunyuan_video_packed.py" = ["ALL"]
+"src/musubi_tuner/frame_pack/k_diffusion_hunyuan.py" = ["ALL"]
+"src/musubi_tuner/hunyuan_model/autoencoder_kl_causal_3d.py" = ["ALL"]
+"src/musubi_tuner/hunyuan_model/pipeline_hunyuan_video.py" = ["ALL"]
+"src/musubi_tuner/modules/scheduling_flow_match_discrete.py" = ["ALL"]
+"src/musubi_tuner/modules/unet_causal_3d_blocks.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/__init__.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/shared_config.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/wan_i2v_14B.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/wan_i2v_A14B.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/wan_t2v_14B.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/wan_t2v_1_3B.py" = ["ALL"]
+"src/musubi_tuner/wan/configs/wan_t2v_A14B.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/attention.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/clip.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/model.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/t5.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/tokenizers.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/vae.py" = ["ALL"]
+"src/musubi_tuner/wan/modules/xlm_roberta.py" = ["ALL"]
+"src/musubi_tuner/wan/utils/fm_solvers.py" = ["ALL"]
+"src/musubi_tuner/wan/utils/fm_solvers_unipc.py" = ["ALL"]
+"src/musubi_tuner/wan/utils/utils.py" = ["ALL"]

qwen_extract_lora.py

@@ -0,0 +1,4 @@
+from musubi_tuner.qwen_extract_lora import main
+
+if __name__ == "__main__":
+    main()

qwen_image_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.qwen_image_cache_latents import main
+
+if __name__ == "__main__":
+    main()

qwen_image_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.qwen_image_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

qwen_image_generate_image.py

@@ -0,0 +1,4 @@
+from musubi_tuner.qwen_image_generate_image import main
+
+if __name__ == "__main__":
+    main()

wan_cache_latents.py

@@ -0,0 +1,4 @@
+from musubi_tuner.wan_cache_latents import main
+
+if __name__ == "__main__":
+    main()

wan_cache_text_encoder_outputs.py

@@ -0,0 +1,4 @@
+from musubi_tuner.wan_cache_text_encoder_outputs import main
+
+if __name__ == "__main__":
+    main()

wan_train_network.py

@@ -0,0 +1,4 @@
+from musubi_tuner.wan_train_network import main
+
+if __name__ == "__main__":
+    main()

zimage_train.py

@@ -0,0 +1,4 @@
+from musubi_tuner.zimage_train import main
+
+if __name__ == "__main__":
+    main()