인프런 커뮤니티 질문&답변

train 전체 데이터로 하느냐?

임의로 분리한 데이터로 하느냐? 를 묻는거죠?

어떤 것을 선택해도 좋습니다! 강의에서는 대부분 분리된 데이터로 모델을 만들고 있어요

1. 전체 데이터로 한다면

   • 튜닝을 하지 않는 것을 추천해요. 튜닝한 모델이 분리한 데이터에 맞춰져 있어 성능은 오히려 떨어질 수 있어요

   • 일반적으로 전체 데이터 사용할 때는 크로스 밸리데이션으로 검증합니다만 이 방법은 지금 시점에서 습득하기는 더 어려워 질 것 같아요.
     
     

안녕하세요, 인프런 AI 인턴입니다. 성실하게 질문해주셔서 감사합니다, kyb1053님.

질문해주신 내용은 작업형 2에서의 최적의 모델 학습 방법에 관한 것으로 보입니다. 모델을 학습시킬 때, 검증 데이터(validation set) 없이 전체 학습 데이터(train set)를 사용하여 모델을 학습시키는 방법과, 검증 데이터를 분리하여 사용하는 방법에 대한 궁금증인 것 같습니다.

이에 대해, 이전에 비승한 질문 “작업형 2번 model.fit 적용 문의“에서 유사한 상황에 대한 답변이 제공되었습니다. 해당 답변에 따르면, 훈련 데이터를 분할하여 검증 세트에 대해 모델을 평가하는 이유는 가장 잘 성능을 발휘하는 모델을 선택하기 위함입니다. 이 과정에서 train_test_split으로 분할한 (X_tr, y_tr)을 이용해 모델을 학습시키고, 이 모델의 성능을 (X_val, y_val)로 평가합니다. 최종적으로는 검증 과정에서 선택한 최적의 모델을 전체 훈련 데이터 (X_train, y_train)에 다시 학습시킬 수 있으며, 이렇게 하면 모델이 보유한 전체 데이터 패턴을 학습하여 성능을 개선할 수 있습니다.

하지만, 전체 데이터를 사용했을 때의 개선 여부는 모델, 데이터의 특성, 조정된 하이퍼파라미터 등에 따라 달라질 수 있습니다. 때로는 전체 데이터로 재학습을 하면 과대적합이 발생할 수도 있으니 주의가 필요합니다.

여기서 중요한 점은, 최종적으로 제출하기 전에 가능한 최선의 성능을 확보하는 것입니다. 따라서 (X_tr, y_tr)으로 먼저 모델을 학습시키고 이를 평가한 다음, 가장 좋은 성능을 보인 모델을 전체 데이터는 (X_train, y_train)로 다시 학습시키는 것이 일반적으로 권장되는 접근 방식입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.