인프런 커뮤니티 질문&답변
작성한 질문수
Adversarial-based 전이 학습에 관한 질문 입니다.
작성
·
194
1
6:15경에 도메인 라벨이 도메인을 구분을 못하게 업데이트 하신다고 하셨는데
GAN처럼 앞의 모델(동그라미 안치신 길쭉한부분)에서는 구분을 못하게 하는 방향으로 업데이트하고 도메인 라벨 바로 앞의 레이어에서는 구분을 잘하는 방향으로 업데이트 한다는 말씀이신가요?
답변 2
0
0
딥러닝호형
지식공유자
안녕하세요😀
길쭉하게 표현한 층은 레이어를 같이 쓰고 마지막에 적대층이랑 분류층으로 나눠져서 계산이 따로 되고 업데이트는 각각의 손실 함수를 기반(+옵티마이저)으로 되는 것이예요. 즉, 레이어 내에서 구분을 잘 하는지 안 하는지 판단하지는 않아요. 따라서 라벨 분류층에서 나온 예측값과 실제값을 계산하는 손실함수(Lc)가 하나 있고 적대층에서 나온 예측값과 0과1을 비교하는 손실함수(La)가 하나 있고요. 둘 다 길쭉한 레이어들에 있는 가중치를 업데이트 하고 싶어 하는 녀석들이에요.
다만 업데이트가 한 번 될 때 기준은 하나로 있어야 하기 때문에 최종 손실함수는 둘을 더해서 하나로 만든 것(L=La+Lc)이구요. 아니면 손실함수를 합치지 않고 Lc를 minimizing 한 번하고 La를 maximizing 한 번 하고 GAN처럼 하는 경우도 있고 아니면 손실함수 앞에 특정 값을 곱해주는 경우도 있고요... 손실함수 정의와 업데이트 방법이 다양할 수 있어요! 전이학습 적용하실 때는 논문을 많이 보셔야 해요...
열공하세욧!!😊