작성한 질문수
딥러닝 CNN 완벽 가이드 - Fundamental 편
오차 역전파(Backpropagation)의 Gradient 적용 메커니즘 - 01
작성
·
372
1
안녕하세요.
Upstream Gradient와 Local Gradient를 제대로 이해했는지 몰라 질문드립니다.
세터1의 가중치를 업데이트하려고 할 때
Local Gradient는 구하고자 하는 가중치(세터1)가 직접 곱해지는 레이어의 gradient를 가리키는 것이고
Upstream Gradient는 세터1이 직접 곱해지는 레이어 이전까지(역방항기준) 모든 레이어의 gradient를 가리키는 것이 맞나요?
상세하고 명쾌한 강의 감사드립니다.
답변 1
2
안녕하십니까,
오, 제대로 이해하고 계시는 군요. 말씀하신대로 Upstream은 이전 layer까지의 가중치 Gradient 식이고, Local Stream은 자신이 속한 layer 가중치 Gradient 식입니다.
감사합니다.