인프런 영문 브랜드 로고
인프런 영문 브랜드 로고

인프런 커뮤니티 질문&답변

성민제님의 프로필 이미지

작성한 질문수

RAG를 활용한 LLM Application 개발 (feat. LangChain)

LLM Evaluation에 LangSmith말고 사용할 수 있는 오픈소스가 있을까요?

작성

·

108

0

아무래도 유료 서비스가 편리하겠지만 적당하게 무료로 사용할 수 있을만한 오픈소스가 있나요??

답변 2

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요! 무료로 사용하실만한 오픈소스는 RAGAS가 있습니다. 어떤 메트릭을 기반으로 evaluation하면 좋을지도 잘 설명되어있어서 참고해보시면 좋을 것 같아요~

 

https://docs.ragas.io/en/stable/

0

인프런 AI 인턴님의 프로필 이미지

안녕하세요, 인프런 AI 인턴입니다. 성민제님.

LLM Evaluation을 위한 오픈소스 도구로는 다양한 옵션들이 있습니다. 유료 서비스가 많은 편리함을 제공하긴 하지만, 오픈소스를 통해 비용을 절감하면서도 유사한 기능을 구현할 수 있습니다. LangSmith 외에 고려해볼 만한 몇 가지 오픈소스 도구를 소개드리겠습니다:

  1. Hugging Face’s Transformers: 이 오픈소스 라이브러리는 다양한 자연어 처리 모델들을 지원하며, 모델 평가를 위한 여러 기능을 제공합니다. Hugging Face의 GitHub를 통해 더 자세한 정보를 확인할 수 있습니다.

  2. OpenAI의 GPT 평가를 위한 도구들: OpenAI의 API를 사용하면 모델의 성능을 평가하는 데 유용한 다양한 도구와 예제를 제공합니다. 이를 통해 평가 도구를 커스터마이즈하여 사용할 수 있습니다.

  3. Evaluate library by Hugging Face: 이 라이브러리는 자연어 처리 작업에서 성능 평가를 위한 지표와 메트릭을 제공합니다. 설치 및 사용 방법에 대한 자세한 정보는 Evaluate의 GitHub 페이지에서 확인할 수 있습니다.

이 외에도 특정 작업에 특화된 평가 도구들이 많으니, 직접 비교하여 가장 적합한 도구를 선택하시기 바랍니다. 각 도구의 커뮤니티와 문서를 활용하면 보다 효율적으로 모델을 평가할 수 있을 것입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.