Model path does not exist: llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M.gguf

#4
by EthanDavid - opened

모델 경로가 없다고 나오는데 혹시 수정 중에 있는 건가요??

'Bllossom/llama-3.1-Korean-Bllossom-Vision-8B' 등 Bllosom의 다른 모델들도 좀 쓰려고 하는데 에러가 종종 나는 것 같습니다 ㅠㅠ

스크린샷 2025-01-24 오전 10.20.58.png

Bllossom org

아래의 공식 깃허브처럼 gguf파일을 다운받은 후 사용하시길 바랍니다

https://github.com/abetlen/llama-cpp-python

질문을 던지면. 계속 답변 글이 올라오는데 왜 그런가요?

" 도움이 필요한 대화에서 빠른 응답을 원하시면 안 돼. 다른 질문이 있으면 물어보세요.네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사"

Bllossom org

질문을 던지면. 계속 답변 글이 올라오는데 왜 그런가요?

" 도움이 필요한 대화에서 빠른 응답을 원하시면 안 돼. 다른 질문이 있으면 물어보세요.네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사합니다!네, 감사"

eos token을 <|end_of_text|>, <|eot_id|> ( token id 128001, 128009)으로 지정하고 사용해보시길 바랍니다

PerRing changed discussion status to closed

Sign up or log in to comment