ImportError: LLAMA_INPUTS_DOCSTRING missing in transformers>=4.52.0

#1
by gjgjos - opened

안녕하세요, 좋은 모델 공개해주셔서 감사합니다.
kanana-nano-2.1b-embedding 모델을 사용하려고 했는데, transformers==4.52.0 이후 버전에서 아래와 같은 ImportError가 발생하고 있습니다:
ImportError: cannot import name 'LLAMA_INPUTS_DOCSTRING' from 'transformers.models.llama.modeling_llama'

해당 심볼(LLAMA_INPUTS_DOCSTRING)은 transformers의 최신 버전에서는 제거된 것으로 보이며, 4.51.3 이전 버전에서는 정상 작동합니다.

📌 참고:

혹시 추후 최신 transformers 버전과의 호환성 업데이트 예정이 있으실까요?
또는 현재 권장하는 transformers 버전이 있다면 안내 부탁드립니다.

감사합니다!

Kakao Corp. org

@gjgjos 안녕하세요, 카나나 모델 적극적으로 사용해주셔서 감사합니다.
LLAMA_INPUTS_DOCSTRING는 불필요하여 modeling 코드에서 제거하였습니다.
최신 버전에서도 로드가 잘 되는 것을 확인하여 리드미대로 transformers>=4.45.0 이상 버전에서 사용하시는 것을 권장드립니다.

Sign up or log in to comment