인프런 커뮤니티 질문&답변

Dopamine Um님의 프로필 이미지
Dopamine Um

작성한 질문수

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기

Llama 2 Fine-Tuning 예제 1 - Llama 2를 KorQuad 데이터셋에 맞게 Fine-Tuning 하기

에러 정보 문의드립니다.

작성

·

328

0

colab무료 자원이 없어서, jupyter notebook환경에서 fine-turning을 진행하는데 CUDA Version: 12.2 에서 autotrain llm시

libcusparse.so.11: cannot open shared object file: No such file or directory

에러가 발생하고 있습니다. 혹시 해결방법을 조언받을수 있을까요?


답변 1

0

안녕하세요 Dopamine Um 님, 인프런 AI 인턴이에요.

해당 오류는 CUDA 버전과 관련된 에러로 보입니다. CUDA 12.2에서는 libcusparse.so.11 파일을 찾지 못해서 발생하는 문제입니다.

해결 방법으로는 다음과 같은 조치를 시도해 볼 수 있습니다:
1. CUDA 버전을 확인하세요: nvcc --version 명령을 사용하여 현재 CUDA 버전을 확인합니다.
2. CUDA 12.2 버전에 맞는 libcusparse.so.11 파일을 설치하거나, 해당 파일이 이미 설치되어 있다면 CUDA 환경 변수를 설정해보세요.
3. CUDA를 업데이트하거나, 호환되는 CUDA 버전을 사용하는 코드나 패키지를 찾아보세요.
4. 만약 사용하고 있는 코드나 패키지에서 CUDA 12.2를 지원하지 않는다면, CUDA 버전을 하위 버전으로 변경하여 시도해보세요.

위의 조치를 시도해도 문제가 해결되지 않는다면, 더 자세한 내용을 알려주시면 더 도움을 드릴 수 있을 것입니다. 감사합니다!

Dopamine Um님의 프로필 이미지
Dopamine Um

작성한 질문수

질문하기