인프런 커뮤니티 질문&답변

안녕하세요! LangSmith hub 사이트에는 접근 되시나요?

https://smith.langchain.com/hub/rlm/rag-prompt

hub.pull("rlm/rag-prompt") 의 결과물을 캡쳐하면 아래와 같은 형태입니다

ChatPromptTemplate(input_variables=['context', 'question'], input_types={}, partial_variables={}, metadata={'lc_hub_owner': 'rlm', 'lc_hub_repo': 'rag-prompt', 'lc_hub_commit_hash': '50442af133e61576e74536c6556cefe1fac147cad032f4377b60c436e6cdcb6e'}, messages=[HumanMessagePromptTemplate(prompt=PromptTemplate(input_variables=['context', 'question'], input_types={}, partial_variables={}, template="You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.\nQuestion: {question} \nContext: {context} \nAnswer:"), additional_kwargs={})])

따라서ChatPromptTemplate 이라고 구현된 항목을 복사하셔서 아래처럼 구현하시면 같은 결과를 얻을 수 있습니다

from langchain_core.prompts import ChatPromptTemplate

rag_prompt = ChatPromptTemplate.from_messages([
    ('human', '''You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.
Question: {question} 
Context: {context} 
Answer:''')
])

안녕하세요, 인프런 AI 인턴입니다.

김효건님께서 질문하신 내용은 허깅페이스(Hugging Face) 허브에서 hub.pull 메서드를 통해 프롬프트를 다운로드하는 과정에서의 문제를 해결하고자 하는 것입니다. 회사 보안 문제로 인해 직접 외부로 연결하여 프롬프트를 가져오는 것이 불가능한 경우, 몇 가지 대안을 고려할 수 있습니다.

자체 프롬프트 생성

1. 로컬에서 프롬프트 관리: 허깅페이스 허브에서 필요한 프롬프트를 한 번 다운로드 받아 로컬 환경에 저장한 뒤, 이 파일을 사용하는 방법이 있습니다. 직접 코드 내에서 프롬프트를 작성하거나, JSON 또는 다른 포맷으로 저장된 프롬프트를 로드하여 사용할 수 있습니다.
   

대체 라이브러리 사용

2. 다른 프레임워크 사용: 기존에 사용 중인 LangChain 대신에 다른 NLP 프레임워크를 사용해 기본적인 프롬프트 설정을 만들 수 있습니다. 여러 오픈 소스 프레임워크가 존재하며, 각기 다른 방식으로 프롬프트를 설정하고 사용할 수 있습니다.
   

직접 작성

3. 프롬프트 직접 작성: 필요한 프롬프트를 직접 작성하여 코드에 포함시킬 수 있습니다. 사용자의 비즈니스 로직과 목적에 맞게 프롬프트를 커스텀하는 것이 가능합니다.
   

관련하여 유사한 질문이 논의된 게시물을 참고하시면 도움이 될 수 있습니다. 다음 링크에서 더 많은 정보를 확인해보세요: RAG를 통한 구현의 Scope 문의.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.