대학원 일기

경사하강법(Gradient descent)미분의 개념과 그래디언트 벡터에 대해 설명합니다.경사하강법의 알고리즘과 실제 코드에서의 구현을 보여줍니다. 접선의 기울기를 이용해서 함수의 최솟값으로 점을 이동시키는 원리를 알면 이를 바탕으로 경사하강법의 알고리즘과 수식을 이해할 수 있습니다.특히 변수가 벡터인 경우, 편미분을 통해서 구한 그래디언트 벡터를 통해 d-차원으로 경사하강법을 확장할 수 있다는 개념을 확실하게 잡고 가시기 바랍니다. 미분(differentiation)이란?미분(differentiation)- 미분(differentiation)은 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로 최적화에서 가장 많이 사용되는 기법이다.- 파이썬 sympy.diff로 미분 계산이 가능하다. 접선의..