728x90
Cost function formula
이전 시간까지 공부했듯 features와 그와 매칭되는 target을 통해 model을 만든다.
그러한 model의 function은 다음과 같이 작성할 수 있다.
w와 b의 값을 추정값과 실제값이 가깝도록 결정해야한다.
이러한 결정을 돕기위해 cost function fomula를 이용한다. Cost function은 다음과 같다.
Cost function intuition
우선 그래프의 경향성과는 관계없는 b를 0으로 가정하여 단순화를 해본다.
우선 (x,y) data set이 (1,1), (2,2), (3,3)인 단순한 경우를 보면 w=1을 통해 cost function 식을 만들고
모든 경우에 오차가 0임을 알 수 있다. 이를 식과 그래프를 통해 관찰한다.
오차식에 결정한 w값인 1을 넣으면 0이 됨을 알 수 있다. 그리고 식 J는 squared error cost function이므로 0이 최소값이고 w=1이 model의 최적의 parameter값임을 알 수 있다.
다음은 w=0.5인 경우를 분석한 것이다.
예상했던 것과 같이 최적의 w추정값과 다르니 J의 값이 커짐을 알 수 있다.
w를 바꿔가며 이과정을 진행하면 J(w)그래프를 다음과 같이 그려볼 수 있다.
J(w)가 최소값이 되는 부분의 parameter를 model의 parameter로 설정하면 적절한 model을 만들 수 있을 것이다.
728x90
