인프런 커뮤니티 질문&답변

hyunyoung님의 프로필 이미지
hyunyoung

작성한 질문수

RAG를 활용한 LLM Application 개발 (feat. LangChain)

3.2 LangChain과 Chroma를 활용한 RAG 구성

The onnxruntime python package is not installed. Please install it with `pip install onnxruntime`

작성

·

119

·

수정됨

0

강사님 영상 보면서 따라하고 있는데 자꾸 아래와 같은 오류가 떠서 문의드립니다.

[스스로 해본 조치]

  1. 폴더를 아예 새로 만들어서 처음부터 다시 만들기 -> 실패

  2. pip install onnxruntime 명령어로 설치 -> 실패

  3. VScode 여러번 껐다가 재부팅

[환경]

현재 PC에 깔린 python 버전 : Python 3.11.6

가상 환경 설치 시 사용한 명령어 : python -m venv ./env

 

image.png
  • 아래는 현재 코드이고 pip install 명령어는 강의 그대로 따라 했습니다.

  • database = Chroma.from_documents(documents=document_list, embedding=embedding) -> 해당 부분 실행 시 오류가 발생합니다.

 

from langchain_community.document_loaders import Docx2txtLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter

text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=1500,
    chunk_overlap=200
)

loader = Docx2txtLoader("./tax.docx")
document_list = loader.load_and_split(text_splitter=text_splitter)
================ 다른 셀 ================
from dotenv import load_dotenv
from langchain_openai import OpenAIEmbeddings

load_dotenv()
embedding = OpenAIEmbeddings(model="text-embedding-3-large")
================ 다른 셀 ================
from langchain_chroma import Chroma

database = Chroma.from_documents(documents=document_list, embedding=embedding)

답변 5

0

강병진님의 프로필 이미지
강병진
지식공유자

버전 충돌이 일어나는 것 같아서 requirements.txt에 버전정보를 다 제거하고 pip install requirements-txt-no-versions.txt 로 패키지를 설치하고 노트북 실행하니 잘 돌아갑니다. 파일이 업로드가 안돼서 requirements.txt를 복사해서 전달드립니다. 현용님께서 올려주신 패키지 리스트에서 버전만 제거했어요!(claude활용)

저는 맥이라서 pywin32 가 설치가 안돼서 pywin32는 빠져있습니다

 

aiohappyeyeballs
aiohttp
aiosignal
annotated-types
anyio
asgiref
asttokens
attrs
backoff
bcrypt
build
cachetools
certifi
charset-normalizer
chroma-hnswlib
chromadb
click
colorama
coloredlogs
comm
dataclasses-json
debugpy
decorator
Deprecated
distro
docx2txt
durationpy
executing
fastapi
filelock
flatbuffers
frozenlist
fsspec
google-auth
googleapis-common-protos
greenlet
grpcio
h11
httpcore
httptools
httpx
huggingface-hub
humanfriendly
idna
importlib_metadata
importlib_resources
ipykernel
ipython
jedi
jiter
jsonpatch
jsonpointer
jupyter_client
jupyter_core
kubernetes
langchain
langchain-chroma
langchain-community
langchain-core
langchain-openai
langchain-text-splitters
langsmith
markdown-it-py
marshmallow
matplotlib-inline
mdurl
mmh3
monotonic
mpmath
multidict
mypy-extensions
nest-asyncio
numpy
oauthlib
onnxruntime
openai
opentelemetry-api
opentelemetry-exporter-otlp-proto-common
opentelemetry-exporter-otlp-proto-grpc
opentelemetry-instrumentation
opentelemetry-instrumentation-asgi
opentelemetry-instrumentation-fastapi
opentelemetry-proto
opentelemetry-sdk
opentelemetry-semantic-conventions
opentelemetry-util-http
orjson
overrides
packaging
parso
pip
platformdirs
posthog
prompt_toolkit
protobuf
psutil
pulsar-client
pure_eval
pyasn1
pyasn1_modules
pydantic
pydantic_core
pydantic-settings
Pygments
PyPika
pyproject_hooks
pyreadline3
python-dateutil
python-dotenv
PyYAML
pyzmq
regex
requests
requests-oauthlib
requests-toolbelt
rich
rsa
setuptools
shellingham
six
sniffio
SQLAlchemy
stack-data
starlette
sympy
tenacity
tiktoken
tokenizers
tornado
tqdm
traitlets
typer
typing_extensions
typing-inspect
urllib3
uvicorn
watchfiles
wcwidth
websocket-client
websockets
wrapt
yarl
zipp
hyunyoung님의 프로필 이미지
hyunyoung
질문자

똑같은 문제가 발생하네요

혹시나 패키지 문제가 아니라 제가 작성한 코드에 미처 발견 못 한 오타 같은게 있어서 그런가 싶어서

올려주신 깃허브 주소 들어가서 코드 그대로 복붙한 다음에 실행을 해도 동일한 문제가 발생하네요

우선 올려주신 version을 제거한 txt 파일을 통해 가상 환경에 설치된 langchain 관련 패키지 목록 및 버전은 아래와 같습니다.

langchain==0.3.2

langchain-chroma==0.1.4

langchain-community==0.3.1

langchain-core==0.3.9

langchain-openai==0.2.2

langchain-text-splitters==0.3.0

다른 분들은 이런 문제가 발생을 안 하는데 저만 이런 문제가 발생하는걸 보면 혹시나 PC에 설치된 python version 의 문제인지 의심되네요

검색해보니 아래 version 이면 딱히 충돌이 발생할 가능성은 낮다고 하지만요....

[Python 3.11.6]

참고1) txt 파일을 이용한 설치 명령어는 아래와 같았습니다.(가상 환경에서 실행)

pip install -r requirements.txt

참고2) langchain-chroma==0.1.0 으로 설치하면
embedding = OpenAIEmbeddings(model='text-embedding-3-large')
을 작성한 cell 에서 langSmith 관련 오류가 발생해서 0.1.0은 설치하지 않았습니다.

image.png


hyunyoung님의 프로필 이미지
hyunyoung
질문자

혹시 몰라 전체 패키지 목록을 올려드립니다.
이 문제때문에 강사님을 괴롭히는 것 같아 죄송하네요
Package Version

---------------------------------------- -----------

aiohappyeyeballs 2.4.3

aiohttp 3.10.9

aiosignal 1.3.1

annotated-types 0.7.0

anyio 4.6.0

asgiref 3.8.1

asttokens 2.4.1

attrs 24.2.0

backoff 2.2.1

bcrypt 4.2.0

build 1.2.2.post1

cachetools 5.5.0

certifi 2024.8.30

charset-normalizer 3.3.2

chroma-hnswlib 0.7.6

chromadb 0.5.11

click 8.1.7

colorama 0.4.6

coloredlogs 15.0.1

comm 0.2.2

dataclasses-json 0.6.7

debugpy 1.8.6

decorator 5.1.1

Deprecated 1.2.14

distro 1.9.0

docx2txt 0.8

durationpy 0.9

executing 2.1.0

fastapi 0.115.0

filelock 3.16.1

flatbuffers 24.3.25

frozenlist 1.4.1

fsspec 2024.9.0

google-auth 2.35.0

googleapis-common-protos 1.65.0

greenlet 3.1.1

grpcio 1.66.2

h11 0.14.0

httpcore 1.0.6

httptools 0.6.1

httpx 0.27.2

huggingface-hub 0.25.1

humanfriendly 10.0

idna 3.10

importlib_metadata 8.4.0

importlib_resources 6.4.5

ipykernel 6.29.5

ipython 8.28.0

jedi 0.19.1

jiter 0.6.1

jsonpatch 1.33

jsonpointer 3.0.0

jupyter_client 8.6.3

jupyter_core 5.7.2

kubernetes 31.0.0

langchain 0.3.2

langchain-chroma 0.1.4

langchain-community 0.3.1

langchain-core 0.3.9

langchain-openai 0.2.2

langchain-text-splitters 0.3.0

langsmith 0.1.132

markdown-it-py 3.0.0

marshmallow 3.22.0

matplotlib-inline 0.1.7

mdurl 0.1.2

mmh3 5.0.1

monotonic 1.6

mpmath 1.3.0

multidict 6.1.0

mypy-extensions 1.0.0

nest-asyncio 1.6.0

numpy 1.26.4

oauthlib 3.2.2

onnxruntime 1.19.2

openai 1.51.1

opentelemetry-api 1.27.0

opentelemetry-exporter-otlp-proto-common 1.27.0

opentelemetry-exporter-otlp-proto-grpc 1.27.0

opentelemetry-instrumentation 0.48b0

opentelemetry-instrumentation-asgi 0.48b0

opentelemetry-instrumentation-fastapi 0.48b0

opentelemetry-proto 1.27.0

opentelemetry-sdk 1.27.0

opentelemetry-semantic-conventions 0.48b0

opentelemetry-util-http 0.48b0

orjson 3.10.7

overrides 7.7.0

packaging 24.1

parso 0.8.4

pip 23.2.1

platformdirs 4.3.6

posthog 3.7.0

prompt_toolkit 3.0.48

propcache 0.2.0

protobuf 4.25.5

psutil 6.0.0

pulsar-client 3.5.0

pure_eval 0.2.3

pyasn1 0.6.1

pyasn1_modules 0.4.1

pydantic 2.9.2

pydantic_core 2.23.4

pydantic-settings 2.5.2

Pygments 2.18.0

PyPika 0.48.9

pyproject_hooks 1.2.0

pyreadline3 3.5.4

python-dateutil 2.9.0.post0

python-dotenv 1.0.1

pywin32 307

PyYAML 6.0.2

pyzmq 26.2.0

regex 2024.9.11

requests 2.32.3

requests-oauthlib 2.0.0

requests-toolbelt 1.0.0

rich 13.9.2

rsa 4.9

setuptools 65.5.0

shellingham 1.5.4

six 1.16.0

sniffio 1.3.1

SQLAlchemy 2.0.35

stack-data 0.6.3

starlette 0.38.6

sympy 1.13.3

tenacity 8.5.0

tiktoken 0.8.0

tokenizers 0.20.0

tornado 6.4.1

tqdm 4.66.5

traitlets 5.14.3

typer 0.12.5

typing_extensions 4.12.2

typing-inspect 0.9.0

urllib3 2.2.3

uvicorn 0.31.0

watchfiles 0.24.0

wcwidth 0.2.13

websocket-client 1.8.0

websockets 13.1

wrapt 1.16.0

yarl 1.14.0

zipp 3.20.2

강병진님의 프로필 이미지
강병진
지식공유자

LangSmith 에러는 어떤건가요? 왠지 LangSmith에러를 잡는게 더 쉬울 것 같아서요 그리고 찾아봐야겠지만 onnx 는 일반적으로 모바일 디바이스에서 인퍼런스 할 때 사용되는거라 뭔가 설정이 있는게 아닌가 싶네요.

hyunyoung님의 프로필 이미지
hyunyoung
질문자

image.png

이런 메시지가 나옵니다!
현재 설치된 langchain 관련 패키지는 아래와 같습니다.

image.png

강사님 혹시 실례가 안 된다면 강의 진행 시 PC에 설치된 python version 을 알려주실 수 있을까요?
제 PC에도 동일한 version 으로 설치 후 진행해보려고 합니다.

hyunyoung님의 프로필 이미지
hyunyoung
질문자

강사님 해결했습니다....

https://www.inflearn.com/community/questions/1372632/chroma-from-documents-%EC%97%90%EB%9F%AC%EA%B0%80-%EB%82%A9%EB%8B%88%EB%8B%A4?srsltid=AfmBOoq3NAOGrKuCeBTfx2I8xx-GdiNUM_9EQ29aNn49ZIFZ4UiSCxMl

PC에 Microsoft Visual C++ Redistributable 설치해야 한다는 글을 발견해서
속는셈 치고 깔아봤는데 문제없이 실행됩니다!!!!

남은 강의를 더 진행해봐야 추가적인 문제가 없는지 알겠지만 우선은 이 문제는 해결했습니다.
같이 애써주셔서 감사합니다!!!!!

강병진님의 프로필 이미지
강병진
지식공유자

와우.. 공유 감사드립니다. 자주묻는질문에 추가해야겠네요. 수강하시다가 막히는 부분이 있으시면 또 질문으로 올려주세요! 화이팅입니다~

0

hyunyoung님의 프로필 이미지
hyunyoung
질문자

강사님... 이틀 째 구글링, GPT, 퍼플렉시티 다 검색하고 몇 번을 지우고 깔았다 해도 안 돼요ㅠㅠㅠ
아니면 강사님이 강의 때 사용하신 패키지 버전들을 알려주시겠어요?
그냥 그거 따라할게요
여기서 막혀서 진도를 너무 못 나가네요ㅠ

강병진님의 프로필 이미지
강병진
지식공유자

방금 깃헙 소스코드에 requirements.txt 를 추가했습니다. 한번 확인부탁드립니다.

https://github.com/jasonkang14/inflearn-rag-notebook/blob/main/requirements.txt

 

주신 패키지 버전들로 한번 디버깅해보고 댓글달아드릴게요!

0

hyunyoung님의 프로필 이미지
hyunyoung
질문자

검색도 해보고 GPT 한테도 물어보니 아마 설치한 package 간 버전들이 충돌해서
발생하는 것 같습니다
저도 한 번 계속 찾아보겠습니다.
강사님도 혹시 해결책이 보이시면 말씀부탁드립니다.!

0

hyunyoung님의 프로필 이미지
hyunyoung
질문자

안 되네요 ㅠㅠㅠ 여기서 막혀서 진도 나가기가 어렵네요 ㅠㅠ
pip install 로 설치한 패키지 목록 보내드립니다.

Package Version

---------------------------------------- -----------

aiohappyeyeballs 2.4.3

aiohttp 3.10.9

aiosignal 1.3.1

annotated-types 0.7.0

anyio 4.6.0

asgiref 3.8.1

asttokens 2.4.1

attrs 24.2.0

backoff 2.2.1

bcrypt 4.2.0

build 1.2.2.post1

cachetools 5.5.0

certifi 2024.8.30

charset-normalizer 3.3.2

chroma-hnswlib 0.7.3

chromadb 0.4.24

click 8.1.7

colorama 0.4.6

coloredlogs 15.0.1

comm 0.2.2

dataclasses-json 0.6.7

debugpy 1.8.6

decorator 5.1.1

Deprecated 1.2.14

distro 1.9.0

docx2txt 0.8

durationpy 0.9

executing 2.1.0

fastapi 0.115.0

filelock 3.16.1

flatbuffers 24.3.25

frozenlist 1.4.1

fsspec 2024.9.0

google-auth 2.35.0

googleapis-common-protos 1.65.0

greenlet 3.1.1

grpcio 1.66.2

h11 0.14.0

httpcore 1.0.6

httptools 0.6.1

httpx 0.27.2

huggingface-hub 0.25.1

humanfriendly 10.0

idna 3.10

importlib_metadata 8.4.0

importlib_resources 6.4.5

ipykernel 6.29.5

ipython 8.28.0

jedi 0.19.1

jiter 0.5.0

jsonpatch 1.33

jsonpointer 3.0.0

jupyter_client 8.6.3

jupyter_core 5.7.2

kubernetes 31.0.0

langchain 0.3.2

langchain-chroma 0.1.0

langchain-community 0.3.1

langchain-core 0.3.9

langchain-openai 0.2.2

langchain-text-splitters 0.3.0

langsmith 0.1.131

markdown-it-py 3.0.0

marshmallow 3.22.0

matplotlib-inline 0.1.7

mdurl 0.1.2

mmh3 5.0.1

monotonic 1.6

mpmath 1.3.0

multidict 6.1.0

mypy-extensions 1.0.0

nest-asyncio 1.6.0

numpy 1.26.4

oauthlib 3.2.2

onnxruntime 1.19.2

openai 1.51.0

opentelemetry-api 1.27.0

opentelemetry-exporter-otlp-proto-common 1.27.0

opentelemetry-exporter-otlp-proto-grpc 1.27.0

opentelemetry-instrumentation 0.48b0

opentelemetry-instrumentation-asgi 0.48b0

opentelemetry-instrumentation-fastapi 0.48b0

opentelemetry-proto 1.27.0

opentelemetry-sdk 1.27.0

opentelemetry-semantic-conventions 0.48b0

opentelemetry-util-http 0.48b0

orjson 3.10.7

overrides 7.7.0

packaging 23.2

parso 0.8.4

pip 23.2.1

platformdirs 4.3.6

posthog 3.7.0

prompt_toolkit 3.0.48

protobuf 4.25.5

psutil 6.0.0

pulsar-client 3.5.0

pure_eval 0.2.3

pyasn1 0.6.1

pyasn1_modules 0.4.1

pydantic 2.9.2

pydantic_core 2.23.4

pydantic-settings 2.5.2

Pygments 2.18.0

PyPika 0.48.9

pyproject_hooks 1.2.0

pyreadline3 3.5.4

python-dateutil 2.9.0.post0

python-dotenv 1.0.1

pywin32 307

PyYAML 6.0.2

pyzmq 26.2.0

regex 2024.9.11

requests 2.32.3

requests-oauthlib 2.0.0

requests-toolbelt 1.0.0

rich 13.9.2

rsa 4.9

setuptools 65.5.0

shellingham 1.5.4

six 1.16.0

sniffio 1.3.1

SQLAlchemy 2.0.35

stack-data 0.6.3

starlette 0.38.6

sympy 1.13.3

tenacity 8.5.0

tiktoken 0.8.0

tokenizers 0.20.0

tornado 6.4.1

tqdm 4.66.5

traitlets 5.14.3

typer 0.12.5

typing_extensions 4.12.2

typing-inspect 0.9.0

urllib3 2.2.3

uvicorn 0.31.0

watchfiles 0.24.0

wcwidth 0.2.13

websocket-client 1.8.0

websockets 13.1

wrapt 1.16.0

yarl 1.13.1

zipp 3.20.2

 

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요! langchain-chroma 패키지 버전 문제인것같은데, langchain-chroma==0.1.0 로 사용해보시겠어요?

 

버전 수정해도 잘 안되면 다시 말씀부탁드립니다. 사용하시는 Langchain관련 패키지들 버전을 알려주시면 디버깅 해보겠습니다

hyunyoung님의 프로필 이미지
hyunyoung

작성한 질문수

질문하기