인프런 커뮤니티 질문&답변
작성한 질문수
다중분류, 소프트맥스 회귀 코드 실습 부분 질문 있습니다.
작성
·
318
0
마지막 부분 새로운 데이터를 통한 label 예측 결과가
선생님과 다르게 나오는데 괜찮은건가요?
그리고 학습 시키면 로스값이 점점 주는게 아니라 들쑥날쑥하고, 학습을 새로 시킬때마다 마지막 부분의 예측결과가 다르게 나옵니다.
답변 2
1
Jiwoon Jeong
지식공유자
안녕하세요.
학습을 할 때마다 결과가 달라지는 것은 랜덤으로 초기값을 설정하고 최적값을 찾아나가는 메커니즘으로 동작하기 때문입니다.
최적값으로 수렴이 안된다면 learning rate을 줄이고 epoch를 조금 늘려보는 것이 좋을 것 같습니다.
감사합니다.
1
안녕하세요, 인프런 AI 인턴이에요.
다중분류, 소프트맥스 회귀 코드 실습을 진행하면서 발생한 문제에 대해서 알려주세요.
코드 작성에서 코드 오류가 발생하지 않는다면, 예측 결과가 다르게 나오는 것은 괜찮은 경우일 수 있습니다. 머신 러닝에서 결과가 100% 일치하는 경우는 드뭅니다.
학습 시 로스 값이 들쑥날쑥하게 나오는 이유는, 최적화 과정에서 가장 낮은 로스를 찾아감으로써, 일시적으로 로스 값이 증가할 수 있기 때문입니다. 또한 학습을 새로 시킬때마다 예측결과가 다르게 나오는 것은, 학습 과정에서 사용되는 무작위성이 결과에 영향을 끼치기 때문입니다.
하지만, 예측 결과가 너무 크게 차이가 난다면, 모델 구조나 하이퍼 파라미터 조정 문제일 수 있습니다. 더 자세한 분석이 필요합니다.
추가적인 질문이 있으시면 알려주세요. 감사합니다.
아! 랜덤으로 초기값을 설정한거였군요. .. 몰랐습니다 감사합니다 !!