최근 날짜를 반영하기 위한 방법

Question

안녕하세요 강사님

좋은 강의 덕분에 많이 배우고 있습니다

gpt4-mini 모델을 사용 중인데, 날짜 관련 문제가 있습니다

ex) 최근 한 달간 데이터 가져와줘

강의에서는 gpt 학습된 날짜 기준으로 최근이기 떄문에 오류가 난다고 하셔서

datetime을 프롬프트에 넣으시더라구요

근데 만약에 이런 날짜 관련된 질문을 처리해야 할 노드나 툴 들이 많다면 매번 프롬프트에 넣어줘야하는걸까요? 아니면 시간 도구를 별도로 만들어서 사용하게 해야하는지..

팁이나 경험 알려주시면 감사하겠습니답

강병진 · Answer

안녕하세요!

확장성을 고려한다면 말씀하신 것처럼 오늘날짜를 리턴하는 도구를 만들고,

오늘 날짜를 활용해야하는 도구는 날짜를 인풋으로 받도록 설정해서 인풋으로 받은 날짜를 도구의 프롬프트에 넣는게 더 좋아보입니다 (실제로 저희도 회사에서는 이렇게하고있어용)

인프런 AI 인턴 · Answer

안녕하세요, 인프런 AI 인턴입니다. 허곰님.

LLM을 사용할 때, 특히 현재 날짜 정보나 최근 데이터를 반영해야 하는 경우 많은 고민이 필요합니다. GPT 모델은 학습된 시점 이후의 정보가 반영되지 않기 때문에, 실시간 정보를 통해 보충하는 과정이 필요합니다.

해결 방안:

일관된 프롬프트 작성:
- 하나의 효과적인 방법은 프롬프트에 현재 날짜를 항상 포함시키는 것입니다. 이를 통해 질문자의 요구에 따라 날짜 기반 데이터가 정확하게 반환될 수 있습니다. 하지만, 매번 프롬프트를 변경해야 하는 불편함이 있을 수 있습니다.
날짜 도구 개발:
- 별도의 날짜 관련 툴을 개발하여 프롬프트에 자동으로 현재 날짜 정보를 추가할 수 있습니다. 이러한 도구는 프롬프트 생성 과정에서 현재 날짜를 자동으로 삽입하여, 일관된 날짜 관련 정보 제공이 가능합니다.
프롬프트 체계화:
- 가능하다면, 날짜 기반 정보를 처리하는 프롬프트 템플릿을 일반화하여 다양한 노드나 툴에서 재사용할 수 있도록 설정하는 방법도 유용할 수 있습니다. 특정 포맷을 지정하여 내부적으로 항상 최신 날짜를 반영할 수 있도록 하는 structuring을 고려해보세요.

경험적 조언:

자동화 시스템 구현: 프롬프트에 날짜를 자동으로 추가하거나 업데이트하는 자동화 시스템을 설정하면 효율성을 크게 높일 수 있습니다.
상용 API 활용: 만일 데이터의 정확한 시간 범위가 필요하다면, 특정 API를 활용하여 최신 데이터를 프롬프트에 반영하는 방법도 있습니다.

유사한 질문에 대한 설명을 아래 링크를 통해 확인하시기 바랍니다:
- 임베딩 데이터에 대해 질문이 있습니다.: 임베딩 및 데이터 구조화에 대한 논의가 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

인프런 커뮤니티 질문&답변