인프런 커뮤니티 질문&답변

김진섭님의 프로필 이미지
김진섭

작성한 질문수

딥러닝 CNN 완벽 가이드 - Fundamental 편

미니 배치(Mini-batch) 경사하강법 구현하기

gradient descent 코드 구현시 편미분으로 변환하는 부분 질문드립니다!

작성

·

260

0

안녕하세요!!

강의를 듣는 도중 궁금한것이 생겼습니다

인프런 질문1.png

이전 영상에서 손실함수의 편미분을 구해서 weight를 업데이트 하는 방식의 설명중에 공식의 오른쪽 부분 xi * (실제값i - 예측값i) 부분이 코드 상에 구현된것이

인프런 질문2.png이부분 인거 같은데 해당 코드에서, 예를 들면 w1_update 변수 부분에 공식의 xi 를 곱하는 부분이 빠진게 아닌가 싶은 의문이 듭니다!! 제가 못찾고 있는건지...아니면 어디서 따로 구현이 된것인지 여쭤봅니다!!

 

강의 감사합니다^^

답변 1

0

권 철민님의 프로필 이미지
권 철민
지식공유자

안녕하십니까,

xi를 예측 오차와 곱해서 총 합을 구하는 부분이 np.dot(rm.T, diff) , np.dot(lstat.T, diff)입니다. np.dot(rm.T, diff)는 피처 X가 rm 일때 이 rm값과 예측 오차를 dot 연산을 적용해서 총 합을 구하는 식입니다.

감사합니다.

김진섭님의 프로필 이미지
김진섭
질문자

아앗...역시 제가 디테일이 부족했네요 ㅠㅠ 감사합니다!!

김진섭님의 프로필 이미지
김진섭

작성한 질문수

질문하기