sgd1 dictionary][ SGD ( Stochastic Gradient Descent ) dictionary][ SGD ( Stochastic Gradient Descent ) 원본1 : http://shuuki4.github.io/deep%20learning/2016/05/20/Gradient-Descent-Algorithm-Overview.html 원본2 :https://seamless.tistory.com/38 Gradient Descent Optimization Algorithms 정리 Neural network의 weight을 조절하는 과정에는 보통 ‘Gradient Descent’ 라는 방법을 사용한다. 이는 네트워크의 parameter들을 $\theta$라고 했을 때, 네트워크에서 내놓는 결과값과 실제 결과값 사이의 차이를 정의하는 함수 Loss function $J(\theta.. 2020. 1. 7. 이전 1 다음