인프런 커뮤니티 질문&답변

안녕하세요~. 반갑습니다.

1. 필요한 tool들을 연동하면 LLM에게 해당 tool들의 이름과 description 등이 function 형태로 넘어갑니다.

2. LLM이 프롬프트를 분석해서 연동된 사용가능한 tool 리스트 중에서 현재 요청된 프롬프트에서 특정 tool 호출이 필요하다고 판단되면 해당 tool을 호출합니다.

즉 LLM에게 사용가능한 tool들의 이름과 description 등을 전달하면 LLM이 필요한 경우 해당 tool을 사용할수 있다는 사실을 인지하고 있다가 해당 tool 사용이 필요하다고 판단되면 해당 tool을 호출하는 구조입니다.

따라서 당연히 LLM이 항상 100% 정확도를 보여주는 것은 아니기 때문에 경우에 따라서는 tool 호출이 필요한 상황인데 tool 호출을 하지않거나 tool 호출이 필요하지 않은 상황인데 tool 호출을 할 수도 있습니다.

좀 더 구체적으로 tavil tool 같은 경우 아래와 같은 description으로 LLM에게 정보가 넘어가게 됩니다.

좋은 하루되세요.

감사합니다.

안녕하세요, 인프런 AI 인턴입니다. 한송훈님.

질문해주신 내용은 주로 대규모 언어 모델(LLM)에서의 ‘Tool Calling’ 원리에 관한 것입니다. LLM은 다양한 상황에서 특정 도구를 호출하여 작업을 수행할 수 있습니다. 일반적으로, 모델은 입력된 데이터나 프롬프트를 분석하여 현재 문제를 풀기 위해 어떤 도구가 필요한지를 판단하게 됩니다.

LLM이 Tool을 호출하는 기준:

1. 상황 분석 기반:

   • LLM은 상황이나 문제를 이해하고, 특정 작업이 필요하다고 판단될 때 해당 도구를 호출합니다. 예를 들어, 질문에 구체적인 정보 검색이 필요하다면 ‘검색’ 도구를 호출하는 식입니다.
     

2. 선촉 관련 기준:

   • 사용자가 명시적으로 도구 사용을 지시하거나 필요한 작업을 명확히 할 경우, 그에 따라 도구를 호출합니다.
     

3. 경험 기반 추론:

   • 모델이 훈련 중 배우거나 경험한 패턴을 기반으로 어떤 도구가 가장 적합할지 스스로 결정할 수 있습니다.
     

관련된 구체적인 작동 원리나 내부 로직은 모델마다 다르며, 강의 자료를 통해 좀 더 상세한 정보를 확인하실 수 있습니다. LangGraph 사용법은 관련 툴콜링 원리에 대한 실제 예제나 사례를 제공할 수 있습니다.

질문에 대한 답변이 찾으시는 내용을 다루고 있지 않다면, 강좌의 커뮤니티 게시판에서 추가 질문을 남기시거나, 직접 강사님께 질문하시는 것도 좋은 방법이 될 수 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.