FileNotFoundError: No such file or directory
#1
by
junggae
- opened
안녕하세요,
FileNotFoundError: No such file or directory: ./kiqu-70b-4.0bpw-exl2/model-00001-of-00029.safetensors
라는 에러가 발생합니다.
model.safetensors.index.json 파일에 29개의 safetensors로 indexing이 되어 있는 것으로 보아 아마도 원본 모델(kiqu-70b)의 model.safetensors.index.json로 올라와있는 듯합니다. 이 부분 해결해주실 수 있으실까요?
exl2 모델입니다. transformers가 아닌 exllamav2로 로드해주세요.