인프런 커뮤니티 질문&답변

mikaaaaa님의 프로필 이미지

작성한 질문수

RAG를 활용한 LLM Application 개발 (feat. LangChain)

3.6 Retrieval 효율 개선을 위한 키워드 사전 활용

Retrieve 후 LLM 답변 관련 문의

24.09.07 11:38 작성

·

30

0

안녕하세요?

 

강의 따라서 해보고 있는데, 질문할 때마다 답을 다르게 합니다. 이런 부분은 어떻게 해야 주로 정답을 이야기 할까요? 항상 정답을 이야기하면 좋겠으나 그렇지 않습니다. (3.5/3.6강 까지 들었습니다. 너무 여러 번 물어봐서 그런걸까요?)

 

image.png

 

답변 1

0

강병진님의 프로필 이미지
강병진
지식공유자

2024. 09. 07. 19:14

llm에서 temperature를 0으로 설정해보시겠어요? 답변이 오락가락하지 않는 효과를 주는 것으로 알려진 값입니다. 그리고 데이터 전처리와 키워드 활용까지 되는 상황이라서, 답변을 일정하게 가져가려면 context로 넣어주는 문서의 chunk숫자를 줄여보시면 조금 더 일관적인 답변을 받으실 수 있을거에요!

mikaaaaa님의 프로필 이미지

작성한 질문수

질문하기