Linear Regression은 머신러닝에 빠질 수 없는 개념이다. 우리말로 '선형 회귀'이다. 선형, 회귀. 말 그대로 선형으로 회귀시키는 것이다. 우선 선형에 대해서, 모든 선형이 직선은 아니다. 이는 오해일 수 있다. 공학수학에서 미분방정식을 다루었다면 선형이 무슨 의미인지 잘 알 것이다. Oxford에서 제공한 Regression의 의미는 다음과 같다: "a measure of the relation between the mean value of one variable (e.g. output) and corresponding values of other variables (e.g. time and cost)." 즉, "한 변수(예: 출력)의 평균값과 다른 변수(예: 시간과 비용)의 대응값들 간의..
MATH
( 본 게시물은 독학을 위해 정리된 것이며, 최대한 핵심만 서술하였습니다.) AI에 관심이 있다면 반드시 경사하강법에 대해 들어봤을 것이다. 오늘은 경사하강법이 무엇인지, 왜 사용하는지 알아보고자 한다. 왜 경사하강법 일까? 영어로는 Gradient descent이다. Gradient는 경사. 즉 기울기를 뜻하며, descent는 하강을 의미한다. 이름만 보면, 도대체 무슨 뜻인지 감이 잡히질 않을 것이다. 그나마 경사를 통해 하강을 찾아가는 과정이라 해석하는 게 최선일 것이다. 경사하강법의 목적 경사하강법은 결국, 최소를 찾기 위해 사용된다. 최소를 찾기 위해서 미분적분학을 학습한 사람이라면 이런 의문이 들기 마련이다. "미분하면 되지 않는가?" 나 역시도 경사하강법을 처음 접했을 때, 이 의문을 해결..
