{%- if not add_generation_prompt is defined %} {%- set add_generation_prompt = false %} {%- endif %} {%- set ns = namespace(is_first=false, is_tool=false, is_output_first=true, system_prompt='', is_first_sp=true, is_first_user=true, is_last_user=false) %} {%- for message in messages %} {%- if message['role'] == 'system' %} {%- if ns.is_first_sp %} {%- set ns.system_prompt = ns.system_prompt + message['content'] %} {%- set ns.is_first_sp = false %} {%- else %} {% set ns.system_prompt = ns.system_prompt + '\n\n' + message['content'] %} {%- endif %} {%- endif %} {%- endfor %} {{- bos_token }} {{- ns.system_prompt }} {%- if tools %} {%- if ns.system_prompt != '' %} {{- '\n\n# Tools\n\nYou may call one or more functions to assist with the user query.' }} {%- else %} {{- '# Tools\n\nYou may call one or more functions to assist with the user query.' }} {%- endif %} {{- '\n\nYou are provided with function signatures within XML tags:' }} {{- '\n\n' }} {%- for tool in tools %} {%- if loop.index0 > 1 %} {{- '\n' }} {%- endif %} {{- tool | tojson }} {%- endfor %} {{- '\n\n\n' }} {{- 'For function call returns, you should first print ' }} {{- 'For each function call, you should return object like:\n' }} {{- 'function_name\n```json\nfunction_arguments_in_json_format\n```' }} {{- 'At the end of function call returns, you should print ' }} {%- endif %} {%- if ns.system_prompt != '' or tools %} {{- '<|hy_place▁holder▁no▁3|>' }} {%- endif %} {%- set image_count = namespace(value=0) %} {%- set video_count = namespace(value=0) %} {%- set last_user_idx = namespace(value=-1) %} {%- for message in messages %} {%- if message['role'] == 'user' %} {%- set last_user_idx.value = loop.index0 %} {%- endif %} {%- endfor %} {%- for message in messages %} {%- if message['role'] == 'user' %} {%- set ns.is_tool = false %} {%- set ns.is_first = false %} {%- set ns.is_last_user = true %} {{- '<|hy_User|>'}} {%- if message.content is string %} {{- message.content }} {%- else %} {%- for content in message.content %} {%- if content.type == 'image' or 'image' in content or 'image_url' in content %} {%- set image_count.value = image_count.value + 1 %} {%- if add_vision_id %}Picture {{ image_count.value }}: {% endif -%} <|hy_place▁holder▁no▁666|><|hy_place▁holder▁no▁669|><|hy_place▁holder▁no▁672|><|hy_place▁holder▁no▁667|> {%- elif content.type == 'video' or 'video' in content %} {%- set video_count.value = video_count.value + 1 %} {%- if add_vision_id %}Video {{ video_count.value }}: {% endif -%} <|hy_place▁holder▁no▁666|><|hy_place▁holder▁no▁670|><|hy_place▁holder▁no▁672|><|hy_place▁holder▁no▁667|> {%- elif 'text' in content %} {{- content.text }} {%- endif %} {%- endfor %} {%- endif %} {%- if loop.index0 == last_user_idx.value %} {%- if enable_thinking is defined and enable_thinking %} {{- '/think' }} {%- else %} {{- '/no_think' }} {%- endif %} {%- else %} {{- '/no_think' }} {%- endif %} {%- endif %} {%- if message['role'] == 'assistant' and message['tool_calls'] is defined and message['tool_calls'] is not none %} {%- set ns.is_last_user = false %} {%- if ns.is_tool %} {{- '' }} {%- endif %} {{- '<|hy_Assistant|>' }} {%- set ns.is_first = false %} {%- set ns.is_tool = false %} {%- set ns.is_output_first = true %} {%- for tool in message['tool_calls'] %} {%- set arguments = tool['function']['arguments'] %} {%- if arguments is not string %} {%- set arguments = arguments | tojson %} {%- endif %} {%- if not ns.is_first %} {%- if message['content'] is none %} {{- '' + tool['function']['name'] + '\n```json\n' + arguments + '\n```' }} {%- else %} {{- message['content'] + '' + tool['function']['name'] + '\n```json\n' + arguments + '\n```' }} {%- endif %} {%- set ns.is_first = true %} {%- else %} {{- '\n' + tool['function']['name'] + '\n```json\n' + arguments + '\n```' }} {%- endif %} {%- endfor %} {{- '' + eos_token }} {%- endif %} {%- if message['role'] == 'assistant' and (message['tool_calls'] is not defined or message['tool_calls'] is none) %} {%- set ns.is_last_user = false %} {{- '<|hy_Assistant|>' }} {{- '\n\n\n' }} {{- '\n' }} {%- if message['content'] is string %} {{- message['content'] }} {%- else %} {%- for content_item in message['content'] %} {%- if 'text' in content_item %} {{- content_item['text'] }} {%- endif %} {%- endfor %} {%- endif %} {{- '\n' }} {{- eos_token }} {%- endif %} {%- if message['role'] == 'tool' %} {%- set ns.is_last_user = false %} {%- set ns.is_tool = true %} {%- if ns.is_output_first %} {{- '<|hy_User|>' + '' + message['content'] + '' }} {%- set ns.is_output_first = false %} {%- else %} {{- '\n' + message['content'] + '' }} {%- endif %} {%- endif %} {%- endfor %} {%- if ns.is_tool %} {{- '' }} {%- endif %} {%- if add_generation_prompt %} {{- '<|hy_Assistant|>' }} {%- if enable_thinking is defined and enable_thinking %} {{- '' }} {%- else %} {{- '\n\n\n' }} {%- endif %} {%- endif %}