인프런 커뮤니티 질문&답변

infng00님의 프로필 이미지
infng00

작성한 질문수

[개정판] 파이썬 머신러닝 완벽 가이드

분류실습2 데이터 전처리, 분할에 대해서

작성

·

28

0

안녕하세요 선생님 분류실습2 섹터에서 학습하다가 궁금한 것이 생겨 질문합니다.

전체 로직에서 학습과 테스트 데이터셋으로 먼저 분할을 해준 뒤 전처리를 수행하는 것이 아니라 왜

전체 데이터셋에 전처리를 적용시킨 뒤에 학습과 테스트 데이터셋으로 분할이 되었는지 궁금합니다.

일반적인 상황에서 어떤 순서가 맞는 것인지 아니면 선생님만의 기준이 있는 것인지 궁금합니다.

답변 1

0

권 철민님의 프로필 이미지
권 철민
지식공유자

안녕하십니까,

학습과 테스트 데이터 세트로 분할 한 뒤 데이터 전 처리를 수행하는 것이 좀 더 보편적입니다. 특히 실시간 성으로 모델이 Predict해야 한다면, 해당 실시간 데이터는 모델 predict() 이전에 전 처리가 되어야 합니다. 학습과 테스트 데이터 분할 한 뒤 scaling/encoding 적용 시 유의 사항이 있기에 강의에서는 이를 이후에 설명드리기 위해 일단은 쉽게 접근 할 수 있게 데이터 전처리를 수행 후에 학습과 테스트 데이터 세트로 분할 합니다.

데이터 전처리를 수행 후에 학습과 테스트 데이터로 분할 하는 경우는 실시간이 아닌 배치성 모델 predict(예를 들어 바로 predict로 결과를 실시간성으로 예측하지 않고, 대량의 배치성 데이터로 predict를 수행 할 경우) 이면서 간단한 Baseline 정도로 테스트 할 경우 입니다.

 

감사합니다.

infng00님의 프로필 이미지
infng00

작성한 질문수

질문하기