인프런 커뮤니티 질문&답변

아넵 이해했습니다. 넘 감사합니다

설명이 부족하면 말씀해주세요! 지금 해외일정 중인데 만약 코드 예제가 필요하시다면 돌아가서 추가촬영해서 올려드릴게요!

제일 좋은 방법은 질문의 의도를 파악하는 프롬프트를 먼저 작성하고 질문의 의도가 서비스의 목적과 맞다는게 판별되는 경우에 서비스의 프롬프트를 동작시키는 것입니다.

LLM은 다양한 것들을 할 수 있지만 동시에 여러가지 일을 하는데는 능숙하지 않습니다. 아마 많은 분들이 “정해진 주제와 맞지 않다면 답을 하지 말아주세요”라는 프롬프트를 추가하면 된다고 권장하실건데 경험상으로는

1. 사용자 질문의 의도 파악

2. 사용자 질문의 의도가 서비스와 맞지 않다면 서비스에 맞는 질문으로 유도(여기서는 LLM을 활용해서 추천 질문을 사용자에게 전달하는 것도 좋습니다)

3. 사용자의 질문이 서비스의 방향과 맞다고 판단되면 답변 생성

현 시점에서 질문의 의도를 파악하는데는 gpt-4o-mini를 사용하는 걸로 충분하실거에요! 그렇다면 비용 최적화 하시면서 사용자가 의도한대로 서비스를 사용할 수 있도록 유도하실 수 있을거에요