[ENPM703] 02 — SGD에서 Adam까지: gradient로 weight를 바꾸는 방법
역전파 다음에는 무엇을 할까? FullyConnectedNet의 학습 흐름에서 출발해 SGD, Momentum, AdaGrad, RMSProp, Adam과 bias correction을 작은 숫자·수식·과제 코드로 연결한다.
TAG · 1 POSTS
TAG · 1 POSTS
역전파 다음에는 무엇을 할까? FullyConnectedNet의 학습 흐름에서 출발해 SGD, Momentum, AdaGrad, RMSProp, Adam과 bias correction을 작은 숫자·수식·과제 코드로 연결한다.