인프런 커뮤니티 질문&답변

sychang2000님의 프로필 이미지
sychang2000

작성한 질문수

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

데이터 전처리 IQR 이렇게 해도 되나요?

해결된 질문

작성

·

330

0

cols = list(X_train.columns[X_train.dtypes != object])
cols

for col in cols:
  Q1 = X_train[col].quantile(.25)
  Q3 = X_train[col].quantile(.75)
  IQR = Q3-Q1
  min_iqr = Q1 - 1.5*IQR
  max_iqr = Q3 + 1.5*IQR
  cnt_before = sum((X_train[col] < min_iqr) | (X_train[col] > max_iqr)) # (X_train[col] < min_iqr) | (X_train[col] > max_iqr), 주어진 조건 둘 중 하나라도 만족, 이상치를 나타내는 값을 선택하는 조건
  print(f'{col}의 이상치 처리 전 이상치 개수: {cnt_before}개 입니다.') # f 접두사를 사용하여 문자열 안에서 중괄호 {} 안에 변수나 표현식을 넣을 수 있음
    
  X_train = X_train[(X_train[col] >= min_iqr) & (X_train[col] <= max_iqr)] # (X_train[col] >= min_iqr) & (X_train[col] <= max_iqr), 주어진 조건 둘 다 만족, 이상치를 제외한 정상 범위의 데이터를 선택하는 조건
    
  cnt_after = sum((X_train[col] < min_iqr) | (X_train[col] > max_iqr))
  print(f'{col}의 이상치 처리 후 이상치 개수: {cnt_after}개 입니다.')

답변 1

0

퇴근후딴짓님의 프로필 이미지
퇴근후딴짓
지식공유자

작업형2에서 데이터 전처리를 IQR로 해도 되는지를 물어보는거죠?
(어떤 강의에서 질문이 나왔는지 확인이 안되서 정확히 파악을 못하겠습니다 🙌)
실제 데이터에서 IQR활용시 너무 많은 데이터가 삭제 되기도 합니다.
데이터에 따라 성능이 더 떨어질 수도 있고요~~

작업형2 데이터가 공개된 것이 아니므로 상황에 따라 달라지겠지만
경험상 위 전처리를 추천하진 않아요!
이상치 제거는 일단 생략하고 진행한 다음 제출을 1차, 2차 하고나서
여유가 있다면 한번쯤 시도하길 추천 해요

만약 작업형1을 묻는 것이라면 결과(정답)가 동일하면 방법은 코드는 다르게 해도 좋습니다.
작업형1은 정답이 있는 문제입니다

sychang2000님의 프로필 이미지
sychang2000

작성한 질문수

질문하기