# 指定基础模型文件 FROM ./model.safetensors # 指定分词器配置 TEMPLATE """ {{- if .System }} <|im_start|>system {{ .System }}<|im_end|> {{- end }} <|im_start|>user {{ .Prompt }}<|im_end|> <|im_start|>assistant """ # 关键:手动提供Qwen3模型的架构参数 PARAMETER stop "<|im_start|>" PARAMETER stop "<|im_end|>" PARAMETER stop "<|endoftext|>" # --- 以下是解决 "unsupported architecture" 问题的核心 --- # Qwen2/Qwen3 系列模型使用了新的 RoPE (旋转位置嵌入) 超参数 PARAMETER rope_frequency_base 1000000.0