| # 指定基础模型文件 | |
| FROM ./model.safetensors | |
| # 指定分词器配置 | |
| TEMPLATE """ | |
| {{- if .System }} | |
| <|im_start|>system | |
| {{ .System }}<|im_end|> | |
| {{- end }} | |
| <|im_start|>user | |
| {{ .Prompt }}<|im_end|> | |
| <|im_start|>assistant | |
| """ | |
| # 关键：手动提供Qwen3模型的架构参数 | |
| PARAMETER stop "<|im_start|>" | |
| PARAMETER stop "<|im_end|>" | |
| PARAMETER stop "<|endoftext|>" | |
| # --- 以下是解决 "unsupported architecture" 问题的核心 --- | |
| # Qwen2/Qwen3 系列模型使用了新的 RoPE (旋转位置嵌入) 超参数 | |
| PARAMETER rope_frequency_base 1000000.0 |