안녕하세요! 2유형에서 질문이 있는데요,범주형 변수 인코딩 시 고유값이 많을 경우에, cols = [ ] 로 고유값이 적은 범주형 범수칼럼과 수치형 변수 칼럼을 선택한다음, 원핫 인코딩해서 진행해도 괜찮을까요? (고유값 많은 범주형 칼럼을 아예 버리고 진행) 배운대로 하이퍼파라미터 튜닝(n_estimators, max_depth) 해서 높은 점수가 나온 모델을 택해서 적용, 제출하려하는데, 그냥 베이스라인을 제출하는게 안전하다는 말을 들어서 혼동이 됩니다... 답변해주시면 감사하겠습니다!

강의에서 object 형을 astype을 통해서 카테고리로 변경하셨는데 혹시 이것도 인코딩에 포함되는 건가요?작업형2에서 랜포와 lightgbm 둘다 사용하려고 하는데 레이블. 원핫인코딩 대신에 문자열 자료를 카테고리로 바꾸고 랜포를 써도 될까요?? 아니면 lightgbm 한정으로 가능한건가요?

from sklearn.preprocessing import MinMaxScaler scaler = MinMaxScaler() df['f5'] = scaler.fit_transform(df[['f5']]) # print(df) df_top = df.sort_values('f5',ascending=False) df_bottom = df.sort_values('f5',ascending=True) # print(df_top) df_top5 = df_top.iloc[int(len(df_top)*0.05)-1,-1] # print(df_bottom) df_bottom5 = df_bottom.iloc[int(len(df_bottom)*0.05)-1,-1] print(df_top5+df_bottom5)저는 코드를 이렇게 작성해서 답이 동일하게 나오긴 했는데sort를 써서 좀 복잡해진 느낌이 없지않아 있어서요 quantile을 쓰면 자동으로 정렬이 된 후 해당하는 퍼센트 값을 return해주는건가요?상위 몇퍼센트, 하위 몇퍼센트라는 문구를 보면 quantile를 그냥 쓴다고 생각하면 될까요?

음...이 양식으로 빅데이터분석기사 실기 체험 유형2가 안풀리는데 혹시 해당 문제 풀이 소스 올려주실 수 있을까요?

안녕하세요 선생님, 5회 기출 작업형 2 관련 질문입니다.공부하고 있는 코드를 복습을 위해 한글로 정리하고 있구요. 아래와 같이 이미지 첨부드리오니, 우측에 있는 메모 함께 확인 부탁드립니다.def rmse 부근 y_true, y_pred 값을 정의하지 않았는데도 (X_tr, X_val 등...) 입력 시 자동으로 결과값이 나오는 이유가 궁금합니다. (2번째 이미지 하단 청색 코드) Test 예측에서 rmse(y, pred) 입력 시 강의에 나온 숫자하고 큰 차이가 있는데, 어디가 잘못된 것인지 알고싶습니다. (4번째 이미지 적색 숫자) 

학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요강사님께서 설명해주신 한가지 방법으로 풀이하기 영상을 보고 train = pd.read_csv("data/customer_train.csv")test = pd.read_csv("data/customer_test.csv")# EDA# print(train.shape, test.shape) #2482# print(train.head())# print(test.head())# print(train.info())# print(train.isnull().sum())# print(test.isnull().sum())train['환불금액'] = train['환불금액'].fillna(0)test['환불금액'] = test['환불금액'].fillna(0)print(train.isnull().sum())print(test.isnull().sum())# 데이터 전처리target = train.pop('성별')print(train.shape, test.shape)train = pd.get_dummies(train)test = pd.get_dummies(test)print(train.shape, test.shape)# 검증데이터 분류# 머신러닝# 예측# 제출과 같은 방식으로 코드를 작성하고 있습니다. 위 방식으로 할 때 pd.get_dummies 이후의 결과가 (3500, 10) (2482, 10)(3500, 74) (2482, 73)위와 같이 나옵니다. 74와 73의 값이 동일하지 않은데, 이 상태로 머신러닝 진행해도 되는 건가요? 혹은 잘못된 코드 작성인가요? 

재방문 패턴 분석: 사용자가 같은 날짜에 여러 페이지를 방문하는 경우를 '재방문'으로 간주합니다. 재방문한 사용자들의 데이터를 분석하여, 재방문한 날짜별 총 방문 페이지 수를 구하고 가장 재방문이 많은 월을 정수로 구하시오 위 문제에서 '여러 페이지' 라는게 Page1, Page2 처럼 서로 다른 페이지를 말하는거 아닌지요? 풀이로 제공해주신 코드는 Page1, Page1 처럼 같은 페이지를 방문한 것도 재방문으로 간주되는 것 같습니다. 확인 부탁드릴께요

pop함수 사용해서 타겟 뽑아내는거는 웬만하면 인코딩/ 스케일링 하기 전에 하는게 좋을까요???범주형 타겟이라고 해서 학습안하고 그러지는 않겠죠?ㅜㅜ오늘 xgboost했는데 fit될때 타겟 데이터 타입이 문제다 이런 오류가 떠서 헷갈려요ㅠ

선생님 강의 보다가 zscore함수가 눈에 띄어서 그런데 혹시 sklearn.preprocessing아래 standardscaler와 차이가 있나요?? 실행해보니 zscore는 1이상의 값도 반환을 하던데 무슨 기능을 하는걸까요?

데이터 전문가 포럼 카페에서 윌콕슨 순위합 검정에 관련해서 의견이 나왔었는데, 선생님 강의에서는 윌콕슨에 관련해서 말씀해주셨는데, 부호순위 인가요 순위합 검정인가요? 그리고 둘이 구현하려면 코드가 다를까요? 순위합 검정과 부호순위는 ttest독립성 검정에서 정규성 불만족시 수행되는건가요?

안녕하십니까 선생님 저는 빅분기 실기 준비기간이 길지않아 아무래도 2유형을 한가지 방법으로만 공부해야할 것 같습니다. 한가지 방법으로 풀기 강의를 통해 2유형을 풀어보면 너무나도 쉽게 문제들을 풀 수 있어 편하다고 생각하는데 한편으로는 모든 문제들을 오직 이 방법으로만 풀어도 되나하는 생각이 들기도 합니다. 공부하면서 다음과 같이 질문들을 써놨습니다. 답변주시면 감사드리겠습니다.작업형 2유형 질문1. 이제는 3개의 데이터는 시험에 나오지 않는 것인가?2. 어느 문제든 상관없이 원핫인코딩만 써도 되는것인가?3.. 선생님께서는 기출 한가지 방법으로 풀기 강의를 시작하기 앞서 기출문제에서는 결측치가 있거나 특이사항이 없었기에 쉽게 풀 수 있다고 말씀하셨는데, 혹시 여기서 말씀하신 특이사항의 예시로는 뭐가 있을까?

 3유형 관련입니다. 로지스틱 회귀 불러올때는import pandas as pd from statsmodels.formula.api import logit result1 = logit("Survived ~ Gender+SibSp+Parch+Fare', data=df).fit().summary(GLM 불러올때는 from statsmodel.formul.apli import logit import numpy as np 이처럼언제는 np 불러오고 언제는 pd 불러오나요? 

학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요max_depth 값을 먼저 찾아주고그 다음 n_estimators와 learning_rate 값을 동시에 찾아야 하나요? 아니면 n_estimators 값을 max_depth 처럼 먼저 찾고learning_rate 값을 0.1에서 조금씩 낮춰가면서 찾아도 되나요?

1,2,3 유형 print() 문 질문입니다. 강의에서 1과목의 경우 마지막에 결과를 출력하는 print(result) 하나만 남기라고 하셨는데, 지금 1, 3 유형의 경우는 답을 직접 제출하는 페이지가 있으므로,문제 풀이 창 (코드 작성하는 창) 에서는 print() 문이 여러개 있어도 문제없나요?그리고 2유형의 경우도 print() 문이 여러개 있어도 되나요?

안녕하세요! 캐글에 올려주신 자료로 공부 중 에러가 떴는데 어떻게 해결해야할지 몰라 질문 남깁니다!너무 길어서 보기 어려운 점 미리 사과드립니다..ㅠㅠimport pandas as pdtrain = pd.read_csv("/kaggle/input/big-data-analytics-certification-kr-2024-3/train.csv")test = pd.read_csv("/kaggle/input/big-data-analytics-certification-kr-2024-3/test.csv")​# EDA# print(train.shape, test.shape) #(1168, 81) (292, 80)# print(train.info()) #float64(3), int64(35), object(43)# print(test.info()) #float64(3), int64(34), object(43)# print(train.isnull().sum().sort_values(ascending=False)[:10])​#범주형 데이터가 너무 많아서 수치형만 선택train=train.select_dtypes(exclude=['object'])test=train.select_dtypes(exclude=['object'])​# print(train.head(2))# print(train.isnull().sum()) #LotFrontage 218, GarageYrBlt 69# print(test.isnull().sum())​# print(train['LotFrontage'].describe())# print(train['GarageYrBlt'].describe())​#전처리(결측치, 타겟값 분리)target=train.pop('SalePrice')train=train.drop('Id',axis=1)test_id=test.pop('Id')​train['LotFrontage']=train['LotFrontage'].fillna(train['LotFrontage'].mean())train['GarageYrBlt']=train['GarageYrBlt'].fillna(train['GarageYrBlt'].mean())train['MasVnrArea']=train['MasVnrArea'].fillna(train['MasVnrArea'].mean())test['LotFrontage']=test['LotFrontage'].fillna(test['LotFrontage'].mean())test['GarageYrBlt']=test['GarageYrBlt'].fillna(test['GarageYrBlt'].mean())test['MasVnrArea']=test['MasVnrArea'].fillna(test['MasVnrArea'].mean())​# print(train.isnull().sum().sum()) # print(test.isnull().sum().sum())​#데이터 분리from sklearn.model_selection import train_test_splitX_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size=0.2, random_state=0)# print(X_tr.shape, X_val.shape, y_tr.shape, y_val.shape)​#랜포from sklearn.ensemble import RandomForestRegressorrf=RandomForestRegressor(random_state=0)rf.fit(X_tr, y_tr)pred=rf.predict(X_val)​#평가from sklearn.metrics import mean_squared_errordef rmse(y, y_pred): return mean_squared_error(y, y_pred)**0.5# print(rmse(y_val, pred))#중앙값 : 34668.70085343153#평균 : 33430.8118326734# 최댓값 : 34100.46200633792#최솟값 : 34023.36640178194​#예측pred=rf.predict(test)submit=pd.DataFrame({'Id':test_id, 'SalePrice':pred})submit.to_csv('0000.csv', index=False)​pd.read_csv('0000.csv')--------------------------------------------------------------------------- ValueError Traceback (most recent call last) Cell In[55], line 68 60 return mean_squared_error(y, y_pred)**0.5 61 # print(rmse(y_val, pred)) 62 #중앙값 : 34668.70085343153 63 #평균 : 33430.8118326734 (...) 66 67 #예측 ---> 68 pred=rf.predict(test) 69 submit=pd.DataFrame({'Id':test_id, 'SalePrice':pred}) 70 submit.to_csv('0000.csv', index=False) File /opt/conda/lib/python3.10/site-packages/sklearn/ensemble/_forest.py:981, in ForestRegressor.predict(self, X) 979 check_is_fitted(self) 980 # Check data --> 981 X = self._validate_X_predict(X) 983 # Assign chunk of trees to jobs 984 n_jobs, _, _ = _partition_estimators(self.n_estimators, self.n_jobs) File /opt/conda/lib/python3.10/site-packages/sklearn/ensemble/_forest.py:602, in BaseForest._validate_X_predict(self, X) 599 """ 600 Validate X whenever one tries to predict, apply, predict_proba.""" 601 check_is_fitted(self) --> 602 X = self._validate_data(X, dtype=DTYPE, accept_sparse="csr", reset=False) 603 if issparse(X) and (X.indices.dtype != np.intc or X.indptr.dtype != np.intc): 604 raise ValueError("No support for np.int64 index based sparse matrices") File /opt/conda/lib/python3.10/site-packages/sklearn/base.py:548, in BaseEstimator._validate_data(self, X, y, reset, validate_separately, **check_params) 483 def _validate_data( 484 self, 485 X="no_validation", (...) 489 **check_params, 490 ): 491 """Validate input data and set or check the `n_features_in_` attribute. 492 493 Parameters (...) 546 validated. 547 """ --> 548 self._check_feature_names(X, reset=reset) 550 if y is None and self._get_tags()["requires_y"]: 551 raise ValueError( 552 f"This {self.__class__.__name__} estimator " 553 "requires y to be passed, but the target y is None." 554 ) File /opt/conda/lib/python3.10/site-packages/sklearn/base.py:481, in BaseEstimator._check_feature_names(self, X, reset) 476 if not missing_names and not unexpected_names: 477 message += ( 478 "Feature names must be in the same order as they were in fit.\n" 479 ) --> 481 raise ValueError(message) ValueError: The feature names should match those that were passed during fit. Feature names unseen at fit time: - SalePric 

학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요민맥스, 스탠다드, 로버스트를 어떨 때 사용하면 좋을지 알 수 있는 방법이 있을까요??로버스트는 이상치 존재 시 정교해질 수 있는 장점 정도만 알고 있는데 쉽게 구분하는 방법을 알려주시면 감사하겠습니다!

안녕하세요대응표본검정을 할 때, μd는 문제에서 주어지는 건가요? μd = (after - before)의 평균: 인자를 ttest_rel(df['after'], df['before']) 조건에 명시된 순으로 로 넣고μd = (before- after)의 평균: ttest_rel(df['before'], df['after']) 로 넣는게 맞나요?pvalue는 같지만 검정통계량(statistic)이 음수 양수로 나오는데, 검정통계량을 묻는다면 출력된 그대로 넣으면 되는걸가요..? 대응표본 검정은 무조건 단측 검정인건가요?

학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요원핫인코딩 말고 라벨인코딩을 하는 이유는 무엇인가요? 라벨인코딩 말고 원핫인코딩을 사용하려면 어떻게 해야하나요?

3유형 로지스틱회귀에서 잔차이탈도를 구하려면 logit이 아닌 glm을 권장하셨는데요.logit에서 제공하는 llf에 -2를 곱한 값으로 잔차이탈도를 구한다면 굳이 glm 사용할 필요는 없지 않나요?

선생님 제가 강의 1회독은 다 했지만 작업형 3이 제일 자신이 없는데 혹시 남은 기간동안 작업형3을 어떻게 공부하는게 좋을까요,, 최대한 작업형1, 2를 열심히 하고 3은 최소한으로 중요한 부분만 보고 가려고 합니다 ㅜ강의에 나오는 작업형 3 구버전 예시문제랑 기출6,7회만 계속 반복해보려고 하는데 괜찮을까요? 작업형 3에서 추렸을때 최소한 이것은 알고 가야한다는 개념이 있을까요?