인프런 커뮤니티 질문&답변
작성한 질문수
XGBoost대신에 LightGBM 사용하신 이유
작성
·
323
0
이제 막 머신러닝을 배우기 시작한 학생입니다.
이 실습에서 xgboost 모델 대신에 lightGBM을 사용하신 이유가 있나요?
그리고 제가 잘은 모르지만 어디서 들은건데 모델 선택은 그냥 여러가지를 시도해보고 가장 잘 나오는 것을 사용한다는게 맞는 말인가요? 모델 선택에 어떠한 근거를 두고 선택하나요?
좋은 강의 잘 듣고 있습니다. 감사합니다!
답변 1
4
권 철민
지식공유자
안녕하십니까,
특별한 이유는 없지만 lightgbm을 썼을때 좀 더 예측 성능이 좋았습니다. 그리고 학습 시간도 더 빨랐기 때문입니다.
말씀하신대로 모델 선택은 여러가지를 시도해 보고 가장 잘 나오는 것을 사용합니다. 하지만 요즘엔 Boosting 계열 성능(XGboost, LightGBM) 이 전반적인 환경에서 우수한 성능을 보여서 이들만 적용하는 경우가 많습니다(제가 주로 그렇습니다 ^^;;)
개인적으로는 분류의 경우에는 Xgboost/LightGBM을 잘 사용하고, 회귀의 경우에는 데이터가 작고 Feature 갯수가 많지 않다면 선형 계열(Ridge/Lasso) 회귀를 적용하고, 데이터가 크고 feature 갯수가 많다면(50개 이상?) 주로 Xgboost/LightGBM 기반의 회귀 트리를 적용합니다.
텍스트 기반의 문서 분류일 경우에는 좀 더 다양하게 적용을 합니다. Logistic Regression/SVM/Naive Bayes 등의 알고리즘이나 Xgboost/LightGBM 기반을 사용합니다.
감사합니다.