인프런 영문 브랜드 로고
인프런 영문 브랜드 로고

인프런 커뮤니티 질문&답변

장동혁님의 프로필 이미지
장동혁

작성한 질문수

[개정판] 파이썬 머신러닝 완벽 가이드

경사하강법을 통한 비용함수 RSS 최소화 - 파이썬 코드로 경사 하강법 구현하기

파라미터 최적화(W0,W1) 질문입니다.

작성

·

379

0

다음 코드에서 W1과 W0에 대해 최적해를 도출하는 코드는 없다고 생각되어 질문드립니다.이 함수의 결과값은 단지 반복 횟수 마지막의 W1,W0 인지 궁금합니다. 감사합니다.

답변 2

1

권 철민님의 프로필 이미지
권 철민
지식공유자

안녕하십니까,

네, 맞습니다. 소스코드에는 최적값을 도출하는 부분은 없습니다.

설명은 이상적인 Gradient Descent에 대해서 말씀드린 것이었습니다.

최적 값을 도출하려면 과거 몇개 까지의 loss값을 가지고 있다가, 더 이상 loss 값의 감소가 없으면 최적값을 도출하는 로직을 적어야 하는데, 해당 로직을 추가하면 GD를 이해하는 데 더 복잡해 질 것 같아서 추가하지 않았습니다.

감사합니다.

0

장동혁님의 프로필 이미지
장동혁
질문자

만약 반복문 도중에 비용함수가 제일 낮아지는 지점을 만난다면, 그 이후에도 업데이트 코드부분이 동일하게 돌아가서 최적 파라미터가 아닌 값을 가지는게 아닌가 싶어서 질문드립니다 감사합니다. 

장동혁님의 프로필 이미지
장동혁

작성한 질문수

질문하기