LM Studio 0.3.36 (Build 1)

#2
by Abramoff - opened

В настройках модели, в шаблоне модели, Шаблон (Jinja) сообщается:
Не удалось разобрать шаблон Jinja: Unexpected token: UnaryOperator.

Это как можно устранить?

Не работает даже на 0.3.37. Исправьте проблему. Спасибо!

в 0.3.39 тоже не работает.
нашел в обсуждениях такое решение

https://gemini.google.com/share/efac9358e748

Но оно не дает возможности работать с mcp.
Исправьте проблему, пожалуйста. Спасибо!

В GigaChat-20B-A3B-instruct нужно было вручную настраивать Prompt Template:

  • Before System: <s>
  • After System: <|message_sep|>
  • Before User: user<|role_sep|>
  • After User: <|message_sep|>
  • Before Assistant: available functions<|role_sep|>[] <|message_sep|>assistant<|role_sep|>
  • After Assistant: <|message_sep|>
  • Additional Stop Strings: оставляем пустым

Здесь это помогает только частично, чего-то не хватает.

Всё оказалось куда проще – для LM Studio уже выложен специальный Jinja шаблон.

image

Sign up or log in to comment