README’deki örnek kod apply_chat_template yanlış kullanıldığı için hata veriyor ve boş çıktı üretiyor.

Sorunlar

  • BatchEncoding döndüğü için .shape hatası oluşuyor
  • add_generation_prompt=True olmadığı için model EOS basıp çıkıyor
  • attention_mask generate’e gönderilmiyor

Düzeltme

  • tokenize=True eklendi
  • add_generation_prompt=True eklendi
  • **inputs ile tüm input’lar geçirildi
  • slicing inputs["input_ids"].shape üzerinden yapıldı
AlicanKiraz0 changed pull request status to merged

Teşekkür ederim ❤️

Türkçe YZ ekosistemine yaptığınız katkılar için asıl ben teşekkür ederim ❤

Sign up or log in to comment