인프런 커뮤니티 질문&답변

엽강통강님의 프로필 이미지
엽강통강

작성한 질문수

딥러닝 CNN 완벽 가이드 - Fundamental 편

손실(Loss) 함수의 이해와 크로스 엔트로피(Cross Entropy) 상세 - 02

기계가 w를 업데이트를 하는 과정

작성

·

257

0

안녕하세요 선생님

경사하강법,오차역전파, 편미분, 잔차에 대한 개념은 이해를 했으나 궁금한점이 있습니다

기계가 예측오류를 줄이기 위해서 w업데이트를 하는 과정이 잘 이해가가 가지 않습니다

예를 들어 가중치들이 초기값 으로 시작했고 나온 출력값과 실제값의 차이가 크면 가중치계수를 줄이고 늘리는 방식이 어떤 과정을 통해서 되는지 아직 잘 이해가 가지 않는데 조금 만 더 쉽게 설명해주실수 있나요?

예) w0 = 1, w1 = 5 - > y_hat = 10이고 y = 15이면 5만 큼의 차이가 발생했는데 여기서 5를 줄이기 위해서 어떻게 w가 업데이트 되는지 이해가 가지 않습니다

답변 2

0

엽강통강님의 프로필 이미지
엽강통강
질문자

안녕하세요 선생님

체인룰 설명에서 선생님이 설명해주신 것 처럼 편미분을 통해서 왼쪽긑에 110, 2.2, 3.3, 165, 650을 도출하는데 이 값들이 잔차의 값이 작아지도록 바뀌어지는 건가요?

권 철민님의 프로필 이미지
권 철민
지식공유자

네, 맞습니다. 경사 하강법을 오차 역전파로 풀어나가면서 w값을 update해나가면 잔차의 값이 최소화될 수 있습니다.

0

권 철민님의 프로필 이미지
권 철민
지식공유자

안녕하십니까,

음, 지금 강의는 손실함수에 대한건데, 질문으로 봐서는 경사하강법에 대해서 다시 한번 강의 영상을 보시면 어떨까 싶습니다.

강의에서 질문하신 내용에 대해서 여러개의 영상에 걸쳐서 설명드리고 있는데, 포괄적인 내용으로 질문을 하셔서 제가 답변드리기가 현재는 어렵군요.

앞에 말씀드린 대로 w에 대한 update부분은 경사하강법은 다시 참조해 주시고, 그래도 강의 내용이 이해가 안되시면 강의 내용의 어느 부분이(어떤 강의의 몇분 몇초 영상) 이해가 안되시는지 좀 더 자세하게 적어주셨으면 합니다.

감사합니다.

엽강통강님의 프로필 이미지
엽강통강

작성한 질문수

질문하기