建议在vllm中使用qwen3_xml工具调用解析器而不是qwen3_coder
#6
by gongjimin - opened
vllm中使用qwen3_coder工具调用解析器,在流式输出多个工具调用时经常丢失arguments中的第一个字符"{"
改成qwen3_xml好像这个问题就消失了。
also for 27B?
vllm中使用qwen3_coder工具调用解析器,在流式输出多个工具调用时经常丢失arguments中的第一个字符"{"
改成qwen3_xml好像这个问题就消失了。
also for 27B?