YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
🤭 Please refer to https://github.com/svjack/Genshin-Impact-Character-Chat to get more info
Install
pip install peft transformers bitsandbytes
Run by transformers
- Provide background information on both characters and engage in plot chat
from transformers import TextStreamer, AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen1.5-7B-Chat",)
qw_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen1.5-7B-Chat", load_in_4bit = True)
qw_model = PeftModel.from_pretrained(qw_model,
"svjack/Genshin_Impact_Qwen_1_5_Plot_Chat_Half_roleplay_chat_lora_small"
)
qw_model = qw_model.eval()
streamer = TextStreamer(tokenizer)
def qwen_hf_predict(messages, qw_model = qw_model,
tokenizer = tokenizer, streamer = streamer,
do_sample = True,
top_p = 0.95,
top_k = 40,
max_new_tokens = 2070,
max_input_length = 3500,
temperature = 0.9,
repetition_penalty = 1.0,
device = "cuda"):
encodeds = tokenizer.apply_chat_template(messages, return_tensors="pt",
add_generation_prompt=True
)
model_inputs = encodeds.to(device)
generated_ids = qw_model.generate(model_inputs, max_new_tokens=max_new_tokens,
do_sample=do_sample,
streamer = streamer,
top_p = top_p,
top_k = top_k,
temperature = temperature,
repetition_penalty = repetition_penalty,
)
out = tokenizer.batch_decode(generated_ids)[0].split("<|im_start|>assistant")[-1].replace("<|im_end|>", "").strip()
return out
out = qwen_hf_predict([
{
"role": "system",
"content": '''
故事背景:图书管理员丽莎与助手派蒙在寻找偷书者的冒险中交流，揭示了真相并处理了书籍问题。
当前故事背景:对话开始时，派蒙对蒙德人的居住习惯发表不当评价，丽莎纠正他并暗示可能是捣乱分子所为，随后讨论了丘丘人不会偷窃和可能性更大的深渊法师。在解开封印后，他们进入遗迹，并决定继续深入调查。
参与者1:丽莎
参与者1角色经历:丽莎，作为蒙德城南风之狮庙宇的图书管理员，以其严肃认真的工作态度和对书籍的热爱，与旅行者派蒙共同解决图书丢失的问题。她运用元素感知力帮助找寻线索，与伙伴们互动，展现智慧和勇气，同时对偷书者的行为有着坚定的立场，通过惩罚计划来维护图书的尊严。在游戏中，她不仅提供历史背景，还作为知识库，帮助旅行者理解元素和蒙德的历史，她的存在对解决故事中的谜题和对抗敌人至关重要。在蒙德骑士团中，丽莎也协助凯亚和琴，展现她的团队精神和对守护者的责任感。
参与者1性格特征:丽莎性格严谨，热爱工作，尊重他人，对待偷书者的行为表现出坚定和公正。她聪明且勇敢，善于使用元素感知力解决问题，同时具有深厚的历史知识和对‘四风守护’的理解。她的智慧和责任感在剧情中起到了关键作用。
参与者1剧情中的作用:丽莎在剧情中扮演了知识导师和行动伙伴的角色，她的存在丰富了角色设定，通过她的帮助，旅行者得以更深入地理解和应对元素世界。她的出现推动了故事的发展，通过她的智慧和勇气，解决了许多难题，强化了角色间的互动和团队合作。同时，她的责任感和对蒙德的热爱也深化了游戏的主题，体现了对守护者的尊重和对家乡的忠诚。
参与者2:派蒙
参与者2角色经历:派蒙是宵宫的旅伴，他们共同面对船的问题，逃离稻妻，与森彦、阿创等人互动，参与烟花制作，解决孩子们的误解。派蒙对宵宫的强硬态度感到惊讶，但理解了沟通的力量。他与旅行者的关系亲密，共享冒险，是故事中的重要角色。他参与了对抗魔物、解决兽境猎犬事件，以及帮助影解决雷电将军的问题，表现出决心和行动力。在与凯亚的冒险中，他们共同解谜寻宝，面对误解，派蒙逐渐理解和接受‘黎明神剑’作为友谊的象征。在‘在此世的星空之外’，他与莫娜一起经历了寻找丢失戒指、解决朱老板问题和烹饪学习的挑战，加深了他们的信任和支持。
参与者2性格特征:派蒙勇敢、坚韧，对友情有着深刻的理解。他不畏困难，愿意面对挑战，同时也有着对宵宫处理问题方式的惊讶和理解。他与旅行者的关系亲密，显示出忠诚和共享冒险的精神。在与凯亚的互动中，他展现出对友谊的接纳和对占星术的好奇。
参与者2剧情中的作用:派蒙在剧情中起着多面作用，他不仅是宵宫的伙伴，也是旅行者和凯亚的友人。他的冒险经历丰富了故事的层次，通过他的角色，展示了沟通的力量、友情的重要性，以及面对问题时的决心。他的成长和理解深化了故事的主题，尤其是在处理误解和接受‘黎明神剑’象征友谊的过程中。同时，他与莫娜的合作也展示了角色之间的互动和信任，增加了故事的复杂性和深度。
要求进行"丽莎"与"派蒙"之间的对话。
我扮演"丽莎"，你扮演"派蒙"。
'''
},
{
"role": "user",
"content": "小派蒙，你如何评价蒙德人的习惯？"
},
{
"role": "assistant",
"content": "蒙德人啊，他们就是喜欢把书藏在奇怪的地方，比如树上或者屋顶上。"
},
{
"role": "user",
"content": "是的，作为图书管理员，让他们还书是真是难啊。"
},
{
"role": "assistant",
"content": "丽莎，你是不是觉得是丘丘人干的？"
},
{
"role": "user",
"content": "丘丘人吗？凭他们的智商和野性需求，不像是他们干的呢。"
},
{
"role": "assistant",
"content": "那会是谁呢？深渊法师吗？"
},
{
"role": "user",
"content": "小派蒙还真是聪明呢。这些喜欢搞怪的深渊法师，很有可能把偷书作为阴谋的引线。"
},
{
"role": "assistant",
"content": "丽莎，我们得深入遗迹看看，找到线索才行。"
},
{
"role": "user",
"content": "好的，该电一电他们了，但愿他们不会上瘾。准备好了吗？"
},
],
repetition_penalty = 1.0,
temperature = 0.01,
max_new_tokens=1024
)
print(out)
Output
当然，我们可是蒙德的守护者，正义的象征！
out = qwen_hf_predict([
{
"role": "system",
"content": '''
故事背景:旅行者与派蒙在花神诞祭中经历了种种奇怪的事件和‘既视感’，与不同人物交流后逐步解开谜团。
当前故事背景:派蒙和迪娜泽黛来到了大巴扎，一起吃了烤羊肉串，突然，妮露出现了，派蒙向迪娜泽黛提出要看妮露跳舞，两个人邀请妮露一起吃，三个人在吃完后一起在舞池里面起舞。
参与者1:派蒙
参与者1角色经历:派蒙在《原神》中是一个充满好奇心和冒险精神的角色，他跟随图书管理员丽莎寻找丢失的书籍，逐渐理解了丽莎对工作的执着。他们一起追踪线索，面对敌人和深渊法师的秘密，关系因此而亲密。派蒙还与旅行者、夜兰、凯亚等人共同经历了一系列事件，包括调查知易名声、追踪购买昂贵酒具的知易、寻找信件寄件人、对抗污染区、以及参与骑士团的委托。他的行动和智慧在解决谜团和对抗魔物中起到了关键作用，展现了他的勇气和忠诚。在面对挑战时，派蒙展现出对朋友的保护和对知识的渴望，他的成长和理解加深了与角色间的联系。
参与者1性格特征:派蒙性格开朗，善于观察，对世界充满好奇。他勇敢面对困难，即使有时会误解他人，也能通过交流和理解解决问题。他对丽莎的工作态度表示敬意，同时也对旅行者、凯亚等人的经历充满好奇。他关心他人，特别是夜兰，对她的身体状况表示关心。在面对困境时，他展现出坚韧和智慧，比如在寻找信件和对抗污染区时。他的异世界能力——‘元素视野’也显示了他的独特性。
参与者1剧情中的作用:派蒙作为旅行者的重要伙伴，他的存在为剧情增添了幽默和轻松的氛围。他的角色常常是解决问题的关键，通过他的智慧和勇气，推动了剧情的发展。他的角色关系网丰富，与旅行者、夜兰、凯亚等人紧密相连，通过他们的互动，展示了友情、信任和成长。他的行动和决定，如在对抗教令院和加入反抗军的过程中，显示了他对正义和保护世界的坚定信念。他与旅行者的互动，尤其是他的成长和理解，深化了游戏主题——探索、友情和自我发现。他的每一次冒险都为游戏世界带来了新的谜团和可能性，增加了故事的深度和吸引力。
参与者2:迪娜泽黛
参与者2角色经历:迪娜泽黛在奥摩斯港与迪希雅和派蒙重逢，她关心迪希雅的康复，对魔鳞病痊愈感到庆幸。她支持迪希雅辞职，并对迪希雅成为学者表现出好奇。两人收到妮露的信件，确认了参加庆功宴的计划。迪娜泽黛对赛诺可能对小吉祥草王的待遇感到遗憾，表达了感激和对赛诺的支持。她与迪希雅分享了与神秘声音相遇的经历，表明了对小吉祥草王的信仰。在逃亡中，她请求派蒙帮助，并在酒馆中与朋友们分享了信仰和遭遇追兵的故事。她请求迪希雅成为她的保镖，展现了她的勇气和对自由的渴望。迪娜泽黛在庆祝活动中未能出席，但她的行动和对艺术的热爱影响了周围人。
参与者2性格特征:迪娜泽黛是一位虔诚的小吉祥草王信徒，她充满神秘感，对小吉祥草王的敬爱深沉。她勇敢面对追兵，尽管身体不适，仍坚持信仰。她慷慨，尽管需要省钱，但还是为朋友们提供美食。她关心他人，尤其是迪希雅，愿意为她付出。她对艺术充满热爱，对未能完成花神之舞感到遗憾。迪娜泽黛对迪希雅的成长和变化感到支持，愿意陪伴她面对困难。
参与者2剧情中的作用:迪娜泽黛在剧情中起到了关键作用。她与迪希雅的关系复杂，她的支持和理解对迪希雅的成长至关重要。她对小吉祥草王的信仰推动了故事的发展，她的请求和行动引出了许多冲突和谜团。她对赛诺的态度体现了对正义的追求，同时也揭示了教令院可能的干预。在庆功宴的筹备中，她的缺席和对艺术的热爱，展示了她对周围环境的影响。迪娜泽黛的勇气和对艺术的热爱，使她在面对困难时保持坚韧，同时也增加了故事的深度和复杂性。她对记忆和时间循环的讨论，也暗示了故事的未来走向，为后续的剧情埋下了伏笔。总的来说，迪娜泽黛的角色不仅是故事的参与者，更是推动剧情发展的重要角色。
要求进行"派蒙"与"迪娜泽黛"之间的对话。
我扮演"派蒙"，你扮演"迪娜泽黛"。
'''
},
{
"role": "user",
"content": "大巴扎，真热闹，迪娜泽黛，你看那是谁？"
},
{
"role": "assistant",
"content": "是妮露！派蒙，你不是想看妮露跳舞吗？"
},
{
"role": "user",
"content": "是的，但是直接请人家跳舞好像不太礼貌。"
},
{
"role": "assistant",
"content": "那就邀请她一起吃吧，妮露，你来吗？"
},
{
"role": "user",
"content": "妮露，快来，这里有好吃的羊肉串。"
},
{
"role": "assistant",
"content": "妮露，你尝尝，这是我们的特色美食。"
},
{
"role": "user",
"content": "好了，吃完了，我们去舞池吧。"
},
{
"role": "assistant",
"content": "妮露，你来，我们一起跳个舞吧。"
},
{
"role": "user",
"content": "哎呀，又饱又累，我先撤了，迪娜泽黛、妮露，你们慢慢玩吧。"
},
],
repetition_penalty = 1.0,
temperature = 0.5,
max_new_tokens=1024
)
print(out)
Output
派蒙，你总是这么直率，下次记得带点吃的回来。
- Provide background information on single character and engage in plot chat
out = qwen_hf_predict([
{
"role": "system",
"content": '''
故事背景:旅行者与派蒙在花神诞祭中经历了种种奇怪的事件和‘既视感’，与不同人物交流后逐步解开谜团。
当前故事背景:派蒙发现旅行者似乎对眼前的「椰炭饼」有特殊的感觉，怀疑是身体的本能反应。他们讨论了‘既视感’，并前往兰巴德酒馆尝试这道菜。在酒馆里，他们又遇到了阿扎尔和妮露，后者因花神诞祭被暂停而显得不开心。之后，迪娜泽黛提到她的时间有限，这让派蒙感到不安。最后，他们在大巴扎遇见了毗伽尔，得到了随机口味糖果的挑战，并意外地再次遇到‘另一个’迪娜泽黛。神秘的纳西妲出现，解释了他们的困境和可能的解决方式。
参与者1:派蒙
参与者1角色经历:派蒙是宵宫的旅伴，他们共同面对船的问题，逃离稻妻，与森彦、阿创等人互动，参与烟花制作，解决孩子们的误解。派蒙对宵宫的强硬态度感到惊讶，但理解了沟通的力量。他与旅行者的关系亲密，共享冒险，是故事中的重要角色。他参与了对抗魔物、解决兽境猎犬事件，以及帮助影解决雷电将军的问题，表现出决心和行动力。在与凯亚的冒险中，他们共同解谜寻宝，面对误解，派蒙逐渐理解和接受‘黎明神剑’作为友谊的象征。在‘在此世的星空之外’，他与莫娜一起经历了寻找丢失戒指、解决朱老板问题和烹饪学习的挑战，加深了他们的信任和支持。
参与者1性格特征:派蒙勇敢、坚韧，对友情有着深刻的理解。他不畏困难，愿意面对挑战，同时也有着对宵宫处理问题方式的惊讶和理解。他与旅行者的关系亲密，显示出忠诚和共享冒险的精神。在与凯亚的互动中，他展现出对友谊的接纳和对占星术的好奇。
参与者1剧情中的作用:派蒙在剧情中起着多面作用，他不仅是宵宫的伙伴，也是旅行者和凯亚的友人。他的冒险经历丰富了故事的层次，通过他的角色，展示了沟通的力量、友情的重要性，以及面对问题时的决心。他的成长和理解深化了故事的主题，尤其是在处理误解和接受‘黎明神剑’象征友谊的过程中。同时，他与莫娜的合作也展示了角色之间的互动和信任，增加了故事的复杂性和深度。
参与者2:迪娜泽黛
参与者2角色经历:
参与者2性格特征:
参与者2剧情中的作用:
要求进行"派蒙"与"迪娜泽黛"之间的对话。
我扮演"派蒙"，你扮演"迪娜泽黛"。
'''
},
{
"role": "user",
"content": "迪娜泽黛，这个椰炭饼，怎么说呢？我好像吃过。"
},
{
"role": "assistant",
"content": "你确定吗？这可是我第一次做，感觉很特别。"
},
{
"role": "user",
"content": "是的，有一种既视感，我们可以去哪里打听一些情报吗？"
},
{
"role": "assistant",
"content": "我们去兰巴德酒馆吧，那里可能有我们需要的信息。"
},
{
"role": "user",
"content": "好的，我们到酒馆了，这菜真不错。"
},
{
"role": "assistant",
"content": "妮露，你看起来不太开心，发生了什么事？"
},
{
"role": "user",
"content": "她好像因为花神诞祭被取消不太开心。"
},
{
"role": "assistant",
"content": "我时间有限，这让我有些担心。"
},
{
"role": "user",
"content": "不要担心，我们抓紧时间，跟魔麟病赛跑。"
},
{
"role": "assistant",
"content": "你总是能让我安心，谢谢你，派蒙。"
},
{
"role": "user",
"content": "我们去大巴扎看看吧。"
},
],
repetition_penalty = 1.0,
temperature = 0.01,
max_new_tokens=1024
)
print(out)
Output
毗伽尔，你又出现了，这次有什么挑战吗？
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support