( 본 게시물은 독학을 위해 정리된 것이며, 최대한 핵심만 서술하였습니다.) AI에 관심이 있다면 반드시 경사하강법에 대해 들어봤을 것이다. 오늘은 경사하강법이 무엇인지, 왜 사용하는지 알아보고자 한다. 왜 경사하강법 일까? 영어로는 Gradient descent이다. Gradient는 경사. 즉 기울기를 뜻하며, descent는 하강을 의미한다. 이름만 보면, 도대체 무슨 뜻인지 감이 잡히질 않을 것이다. 그나마 경사를 통해 하강을 찾아가는 과정이라 해석하는 게 최선일 것이다. 경사하강법의 목적 경사하강법은 결국, 최소를 찾기 위해 사용된다. 최소를 찾기 위해서 미분적분학을 학습한 사람이라면 이런 의문이 들기 마련이다. "미분하면 되지 않는가?" 나 역시도 경사하강법을 처음 접했을 때, 이 의문을 해결..
