wnwu/Qwen3.5-9B-gelv-poet

Qwen3.5-9B 格律诗模型 (Gelv Poet)

基于 Qwen3.5-9B 微调的中国古典格律诗生成模型。严格遵循平仄格律规则，能够创作五言/七言绝句和律诗。

模型特点

• 严格遵循「二四六分明」的平仄规则
• 支持五言绝句、七言绝句、五言律诗、七言律诗
• 律诗颔联颈联对仗工整
• 偶数句押韵

训练细节

• 基座模型: Qwen/Qwen3.5-9B
• 方法: Unsloth + QLoRA (4-bit, LoRA r=64, alpha=64)
• 数据: 从chinese-poetry中筛选的24,525首严格合规格律诗，生成110,060条训练样本
• 硬件: RTX 4090 24GB
• 训练轮数: 3 epochs (10,320 steps)
• 最终 eval_loss: 0.094

评估结果（结构评分）

诗体	得分
五言绝句	0.90
七言绝句	1.00
五言律诗	0.97
七言律诗	1.00
整体	0.97

使用方法

Python

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "wnwu/Qwen3.5-9B-gelv-poet"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name, device_map="auto", torch_dtype=torch.bfloat16, trust_remote_code=True,
)
model.eval()

SYSTEM_PROMPT = (
    "你是一位精通中国古典诗词格律的诗人。你严格遵循平仄格律规则，"
    "擅长创作五言律诗、七言律诗、五言绝句、七言绝句等格律诗。"
    "你熟知「二四六分明」的平仄规则，懂得对仗、押韵的要求。"
)

messages = [
    {"role": "system", "content": SYSTEM_PROMPT},
    {"role": "user", "content": "请以「秋夜」为题，写一首严格符合格律的七言律诗。\n\n请直接输出诗句。"},
]
text = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=False,
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs, max_new_tokens=256, temperature=0.7,
        top_p=0.9, top_k=50, do_sample=True, repetition_penalty=1.15,
    )
new_tokens = outputs[0][inputs["input_ids"].shape[1]:]
print(tokenizer.decode(new_tokens, skip_special_tokens=True))

交互式推理

python inference.py --model wnwu/Qwen3.5-9B-gelv-poet

Ollama (GGUF)

GGUF Q8_0 量化版本可从本仓库的 gguf 分支下载。

生成示例

七言绝句「塞下曲」：

寒塞無因見落梅，胡人吹入內宮來。 君恩如水東流去，應與春風豈復迴。

五言律诗「山居」：

欲出還中止，微陰却快晴。 檻花栽盡活，籠鳥教初鳴。 身寄江湖久，心知富貴輕。 還家雖有日，遠宦尚餘生。

五言绝句「雪夜」：

酒力欺寒淺，心清睡較遲。 梅花擎雪影，和月度疏籬。