인프런 영문 브랜드 로고
인프런 영문 브랜드 로고

인프런 커뮤니티 질문&답변

김권수님의 프로필 이미지

작성한 질문수

RAG를 활용한 LLM Application 개발 (feat. LangChain)

단순히 LLM에 여러번 질문 하는데에도 Langchain이 도움이 될까요?

해결된 질문

작성

·

122

0

현재 대화를 분석하는 프로젝트를 진행하면서 LLM을 사용중인데 답변 퀄리티를 높이기 위한 방법을 모색하다 강의를 보게 되었습니다 ! 강의 내용이 대부분 제가 모르고 있던 것들이어서 많은 도움이 되었습니다.

 

그런데 제가 해결해야할 상황은 강의 내용과 다르게 참고할만한 특정 정보가 있는 것이 아닌 일상적인 여러 상황의 대화를 분석하는 프로젝트이다보니 Langchain이나 Chroma 또는 Pinecone 까지 사용해야 할지가 의문입니다.

 

지금 생각중인 흐름은

  1. 답변 작성 규칙 과 대화 텍스트를 LLM 에 전달해서 답변을 전달 받고

  2. 답변과 유저 질문을 함께 다시 LLM 에 전달해서 답변 내용을 토대로 유저 질문에 답변

이 구조를 생각중인데, 이렇게 LLM에 질문, 답변받은 내용을 가지고 다시 질문 하는데에도 Langchain이나 embedding을 사용하는 것이 답변 퀄리티 향상에 도움을 주는지 궁금합니다 !

 

강의 잘 들었습니다. 감사합니다.

 

 

답변 2

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요 권수님! 좋은 질문 감사합니다.

VectorStore를 활용하는 이유는 말씀하신 것처럼 특정 정보를 활용해서 답변을 생성하기 위함입니다. 그런데 ChatGPT와 유사하게 일상적인 질문에 대한 답변을 생성하기를 원하신다면 굳이 vector store를 사용하지 않고, LLM만 활용해도 충분합니다

 

그럼 굳이 LangChain을 사용하지 않고 OpenAI나 Anthropic등의 API를 바로 호출하셔도 무방합니다. 하지만

 

  1. 회사 정책으로 인해서 다른 AI 모델을 활용해야 한다거나

  2. 단일 모델로 구현했을 경우 해당 모델의 서버가 죽는 것을 대비한다거나

  3. 나중에 다른 기능을 추가할 때를 대비한다거나

해야한다면 LangChain을 활용하는 것이 더 유리할 것 같습니다

0

인프런 AI 인턴님의 프로필 이미지

안녕하세요, 인프런 AI 인턴입니다. 김권수님.

LLM에 여러 번 질문하면서 답변 퀄리티를 높이기 위해 고민하고 계신 것 같습니다. LangChain은 여러 LLM 구성 요소를 체계적으로 연결하고 관리하는 데 유용한 프레임워크입니다. 질문하신 상황에서는 LangChain이 다음과 같은 방식으로 도움이 될 수 있습니다:

  1. 질문 관리 및 시퀀싱: LangChain을 사용하면 반복적인 질문-답변 시퀀스를 깔끔하게 관리할 수 있습니다. 이는 복잡한 대화 흐름을 구성하는 데 유용합니다.

  2. 컨텍스트 관리: LangChain을 통해 질문 및 응답의 컨텍스트를 체계적으로 관리할 수 있어, 대화가 끊기지 않고 자연스럽게 이어질 수 있습니다. 이는 대화의 흐름을 유지하면서 답변 퀄리티를 향상시키는 데 도움이 됩니다.

  3. 외부 데이터 연결 가능성: 비록 현재 특정 정보가 없는 일상적인 대화를 다루고 있으나, LangChain을 통해 향후에 추가적인 외부 데이터 소스나 API를 편리하게 통합할 수 있는 여지가 있습니다.

  4. Embeddings와의 통합: Embeddings를 활용하면 대화의 문맥을 좀 더 잘 이해하고 관련된 정보를 효과적으로 검색할 수 있습니다. 이는 특히 유사한 질문을 여러 번 다뤄야 할 때, 빠르게 관련 정보를 접근하는 데 큰 도움이 될 수 있습니다.

다만 모든 프로젝트에 LangChain이나 Embeddings가 필요한 것은 아니기 때문에, 프로젝트 요구 사항에 따라 적절히 적용할지 결정하시면 될 것입니다.

관련 질문에 대한 더 많은 정보는 아래 링크를 통해 확인해 보세요:

김권수님께서 고민하시는 부분에 유사한 내용을 참고로 제공해 드렸습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.