묻고 답해요
141만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
성능이 많이 떨어지는데...?
학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요 작업형 2 유형 f1_score로 랜포 돌렸을때 값이 0.4961.. 이 낮게 나오는데 시험에서 이렇게 나와도 괜찮나요? 스케일링 라벨인코딩 작업만 했습니다
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
회귀모델 검증방법 rmse질문입니다
위에 코드가 모의 문제에 나온 코드이고 아래 코드가 검증방법 종합편에 나온 코드입니다.같은 rmse인데 위에는 np.sqrt을 사용했고 아래는 mse **0.5를 사용했는데 차이가 무엇일까요? 둘 중 아무거나 편한거 하나를 시험때 사용하면 되는건가요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형 3 질문
' 선생님 안녕하세요! 현재 기출 5,6회 제외하고 대부분의 강의를 다 복습한 상태인데, 위의 지지도/신뢰도/향상도, 포아송분포 등의 부분은 안다룬 것으로 알고 있는데 혹시 개념으로 따로 빼지 않으시고 기출에서 알려주시는 것 대로만 공부하면 될까요??
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
test예측할 때 predict_proba 로 제출한 이유가...
학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요 분류 문제 해설할 경우 test예측할 때 대부분 predict_proba 로 제출한 이유를 궁금하게 생각하였는데...제가 생각하기에 그 이유는 첫 번째로, 문제에서0과 1 중 1에 해당할 확률을 구하는 문제라는 점,(예시신용카드서비스를 떠나는 고객을 찾아라,심장마비 확률이 높은사람?,등등) 두 번째로,제출 예시가 소수점이라는 점,CLIENTNUM,Attrition_Flag 788544108,0.633 719356008,0.123 712142733,0.355id,output 41,0.633 28,0.123 222,0.355이라서 test예측할 때 predict_proba 로 제출하신거 맞죠? 반대로, 신규 고객이 어떤 분류에 속할지, 난방 부하 단계를 예측하라에서는 predict로 test를 예측하셔서... ㅠㅠ 정말 기초적인 질문 죄송합니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
헷갈리는 부분 질문
선생님 안녕하세요!! 공부하면서 헷갈려 정확히 알고 싶은 부분 질문드립니다!! :) 1. 작업형 1과 작업형 3의 배점이 각각 어떻게 되는지 궁금합니다! 단답형이 소문제 3점씩해서 10문제, 그리고 작업형1?이 10점씩 3문제라고 하셨던것 같은데 여기서 말씀하신 단답형이 작업형 3일까요?! 2. 스케일링 할 때 target 컬럼이 붙어있을 시 이를 빼고 스케일링 해야 하는것 맞을까요?? 3. 수치형과 범주형 데이터를 나누는 경우가 어떤 것이 있을까요? - 모두 cols를 사용하여 스케일링하고 인코딩한다면 굳이 나눌 필요 없지 않을까 라는 생각이 들어서 여쭤봅니다!! 4. 섹션 4 작업형 1 모의문제 1 문제2번 하드코딩 유무위에서 예를 들어 주어진 데이터에서 결측치가 30% 이상 되는 컬럼을 찾고 -> 이 부분을 풀 때 df.isnull().sum()으로 f1 컬럼이라는 것을 알 수 있는데, 그 이후 풀어야 하는 부분(해당 컬럼에 결측치가 있는 데이터 행 삭제)을 그냥 위에서처럼 df = df.dropna(subset=['f1'])이라고 풀어도 되는것일까요? 하드코딩의 기준을 잘 모르겠어서 여쭤봅니다! 5. 분산분석 데이터 긴 데이터 형태로 무조건 바꾸어야 하나요? 이원 분산분석 때에는 안바꾸고 바로 한걸로 기억해서요!
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
기출 5회 유형1 1번 문제 질문
조건을cond= (df['종량제봉투종류']=='규격봉투') & (df['종량제봉투용도'] == '음식물쓰레기') & (df['2ℓ가격'] != 0)이렇게 둬서 문제는 해결했는데요, 혹시 & 대신에 and로 넣으면 오류가 발생하던데, and로 해결하려면 어떤식으로 변형을 해야될까요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
예시문제 작업형 2 (구버전)
print(X_train.describe()) print(X_test.describe()) cond1=X_train['총구매액']>=0 cond2=X_train['최대구매액']>=0 cond3=X_test['총구매액']>=0 cond4=X_test['총구매액']>=0x_train 과 x_test 총구매액과 최대구매액에음수가 존재하는데 이럴경우는 해당 행을 어떻게처리하면될까요? test 데이터의 경우 칼럼은 필요시 삭제 가능하다행은 삭제하면 안된다고 강의에서 배워서 질문드립니다. 수치형 데이터의 경우 민맥스 스케일, 혹은 스탠다드 스케일ㄹ로 스케일링 하므로, 음수(이상치) 처리는 크게 신경쓰지 않아도될것 같기도하구요..!
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형 2 데이터 3개 주어지는 경우
작업형 2 데이터가 3개 주어지는 경우어떻게 해야하는지 강의에서 설명을 자세히 안해주신 것 같아요만약 해주셨다면, 어느 강의 보면 될지요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
3회 기출유형 작업형 2 질문이요
작업형 2 문제푸실때 어떤 경우는 범주형과 수치형 데이터분리를 하실때도있고 안하실때도있으셨는데 이번에는 하셨더라고요 어떤경우에 범주형데이터와 수치형데이터를 분리하면 되나요? 선택기준이 궁금합니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
예시문제 작업형 2 (구버전)
학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요안녕하세요 데이터 전처리 시 결측치 처리 할떄환불금액에 NA 가 있어서 0으로 채웠는데, 이를 환불금액의평균값으로 채우는게 점수에 영향이 있을까요?결측치 및 이상치 처리에는 정답이 있는것인지 궁금합니다. 또한 피처엔지니어링을 할때 데이터를 수치, 범주형으로 분리 하고 다시 병합하는 과정도필수가 아닐까요?아래와 피처는 같이 작업하는 과정으로 이해하고있습니다. 수치형- 민맥스 스케일링 (필수는 아님)범주형- 인코딩( 많으면 라벨, 적으면 원핫) : 필수 이렇게 생각하면 될까요?감사합니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
바보 같은 질문이지만... 행(가로) 열(세로)
행(row)이 가로고 열(column)이 세로 잖아요.문제를 풀다가 이 기본 개념이 헷갈리는 멘붕상태를 경험해서 글 올립니다... ㅠ axis=1 이 세로(칼럼)별로 정렬하는거라고 생각하고 있었는데sum(axis=1) 인 경우 왜 행별로 값을 구하고, sum(axis=0)은 칼럼별로 값을 구하는지 순간 이해가 안되서.... 칼럼이 a1,a2,a3 이런 식으로 있다면, axis=1일 때 각 칼럼별로 계산헤서 a1의 합, a2의 합, a3의 합, 이런식으로 나오는 줄 알았는데, axis=0일 때 a1의 합, a2의 합이 구해지더라고요.... 이걸 어떻게 하면 쉽게 이해하고 외울 수 있을까요....??
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
lightGBM 질문입니다.
성심성의껏 답변달아주셔서 감사합니다.기출 5회 2유형에서 회귀분석에서 이렇게 작성해보았는데import lightgbm as lgb model2 = lgb.LGBMRegressor() model2.fit(X_train, y_train) pred2 = model2.predict(X_test) print(pred2) 결과가 나올때 나오는 이 설명 내용은 머 그냥 알려주는것 같긴한데 시험볼때 문제 없겠지요?[LightGBM] [Info] Auto-choosing row-wise multi-threading, the overhead of testing was 0.000194 seconds. You can set force_row_wise=true to remove the overhead. And if memory is not enough, you can set force_col_wise=true. [LightGBM] [Info] Total Bins 388 [LightGBM] [Info] Number of data points in the train set: 3759, number of used features: 8 [LightGBM] [Info] Start training from score 12353.321362 그리고 결과값이 이렇게 소수로 나오는데, 예측가격은 정수형으로 나와야 하는거아닌가요?? ㅠㅠ 아직 많이 부족합니다.[15684.51702898 16434.89804293 14563.42614282 ... 9815.50704033 13794.84066529 5558.57863346]
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
평가지표가 ROC-AUC 일때, predict_proba, predict 둘다 제출해도 무관한게 맞죠?
제가 영상대로 이해한게 맞다면 평가지표가 ROC-AUC 로 나오면 predict_proba()와, predict() 둘다 해보고, 성능이 좋은 거로 최종 제출해도 되는게 맞죠?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
주석 단축키가 되다가 안되네요..
코랩 접속 후 초기에는 주석처리(ctrl + /)가 잘 되는데어느 시점에서는 주석이 안먹히네요 ㅠㅠ 랩탑이랑 데스크탑 둘다 그러는데 어떤 이유가 있을까요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
기출유형 6회 작업형 2번 질문입니다..!
학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요안녕하십니까 오늘도 문제를 풀어보고 있는 와중에마지막 부분에서 TypeError: 'dict' object is not callable가 뜨네요 위치는 아래 처럼 46번에서 나오네요문제가 무엇일까요...?TypeError Traceback (most recent call last) <ipython-input-101-9bd54b1c48b7> in <cell line: 46>() 44 45 pre = rf.predict(e_test) ---> 46 sm = pd.DataFrame({ 47 'pred' : pre 48 }) import pandas as pde_train = pd.read_csv('energy_train.csv')e_test = pd.read_csv('energy_test.csv')pd.set_option('display.max_columns',None)# print(e_train.info())# print(e_train.shape, e_test.shape) (537, 10) (231, 9)# print(e_test.isnull().sum()) 결측치는 X## e_train.nunique() # 12 12 7 4 2 4 4 6 467(217) 5hl = e_train.pop('Heat_Load')c_tr = e_train.select_dtypes(exclude='O').columnsfrom sklearn.preprocessing import MinMaxScalerscaler = MinMaxScaler()cols = c_tre_train[cols] = scaler.fit_transform(e_train[cols])e_test[cols] = scaler.transform(e_test[cols])from sklearn.preprocessing import LabelEncoderle = LabelEncoder()col = ['Roof', 'Height', 'Orient']for c in col : e_train[c] = le.fit_transform(e_train[c]) e_test[c] = le.transform(e_test[c])from sklearn.model_selection import train_test_splitX_tr, X_val, y_tr, y_val = train_test_split( e_train,hl,test_size=0.1,random_state=2023)# print(X_tr.shape,X_val.shape,y_tr.shape,y_val.shape)from sklearn.ensemble import RandomForestClassifierfrom sklearn.metrics import f1_scorerf = RandomForestClassifier()rf.fit(X_tr,y_tr)pred = rf.predict(X_val)f1_score(y_val, pred, average='macro')pre = rf.predict(e_test)sm = pd.DataFrame({ 'pred' : pre })sm.to_csv('result.csv', index=False)
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
anova_lm 파라미터 질문이 있습니다.
from statsmodels.formula.api import olsfrom statsmodels.stats.anova import anova_lm model = ols(formula, data).fit()anova_lm(model) <---- 이 부분에서 typ = 2 이런식으로 파라미터를 적는 경우들도 있던데 이거는 어떤건지 알 수 있나여 ?!
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
예시문제 작업형2(구 버전)
ValueError: array length 2482 does not match index length 3500제가 안보고 풀어봤는데 이런 에러가 뜨는건 무슨 이유일까요..밑에는 제가 작성한 코드입니다. # 5. 평가까지 잘 돌아가다가 # 6. 제출 부분 작성하니깐 갑자기 저런 오류가 뜨네요 ㅠㅠ.. 제 코드 중에 어느 부분이 잘못된 걸까요.. # 2. 전처리 # 2-1. 결측치 처리 # print(X_train.isnull().sum()) X_train['환불금액'] = X_train['환불금액'].fillna(0) X_test['환불금액'] = X_test['환불금액'].fillna(0) # 2-2. object 컬럼 라벨인코딩 from sklearn.preprocessing import LabelEncoder cols = ['주구매상품', '주구매지점'] le = LabelEncoder() for col in cols : X_train[col] = le.fit_transform(X_train[col]) X_test[col] = le.transform(X_test[col]) # 2-3. 불필요한 컬럼 삭제 X_train = X_train.drop(columns = 'cust_id') X_test = X_test.drop(columns = 'cust_id') test_id = y_train.pop('cust_id') # 3. 분리 from sklearn.model_selection import train_test_split X_tr, X_val, y_tr, y_val = train_test_split(X_train, y_train['gender'], test_size = 0.2, random_state = 2022) # 4. 학습 from sklearn.ensemble import RandomForestClassifier model = RandomForestClassifier(random_state = 2022) model.fit(X_tr, y_tr) pred = model.predict_proba(X_val) # 5. 평가 from sklearn.metrics import roc_auc_score # print(roc_auc_score(y_val , pred[:, 1])) # 6. 제출 pred = model.predict_proba(X_test) pd.DataFrame({'custid' : test_id, 'gender' : pred[:,1]}).to_csv('00000.csv', index = False) # print(pd.read_csv('00000.csv'))
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
윌콕슨 부호순위 검정 질문입니다
수업 9분 53초 부근,stats.wilcoxon(df['무게']-120 까지는 이해했습니다.뒷부분에 alternative = 'less' 라고 적으셨는데, 왜 양측검정이 아닌 단측검정(낮은쪽)을 진행하는건지 궁금합니다!대립가설이 '평균 무게는 120g보다 작다'여서 그런건가요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
회귀분석 예측값 신뢰/예측구간 구하기
안녕하세요, 선생님항상 빠른 답변 감사합니다. 다름 아니라 단순선형회귀 분석할때예측키에 대한 신뢰구간, 예측구간을 구할경우아래와 같이 DataFrame을 작성하는데데이터 프레임 안에 딕셔너리 형태로 예측값을 넣을경우그냥 50이라는 숫자 말고, [50] 대괄호를 쳐야되는 이유가 있을까요?newdata = pd.DataFrame({'몸무게':[50]}) 2유형 마지막 단계에 파일저장할 때처럼대괄호 없이 '50'이라는 값만 입력해봤는데 당연히 오류 납니다.ValueError: If using all scalar values, you must pass an index
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
이원분산 분석에서 범주형 데이터 처리 질문드립니다.
앞에 대문자 C를 붙여주는 이유가 수치형 데이터로 바꿔주기 위함 아닌가요..??그렇다면 비료는 11, 12, 13으로 수치형인데 C를 붙여주는 이유가 궁금합니다..!! 아니면 정확히 모르겠다 싶을때 그냥 상관없이 독립변수들 앞에 전부다 C를 붙여줘도 괜찮은건가요??