Regression

• Regression toward the mean → 전체 평균으로 되돌아간다.
• 어떤 데이터들이 굉장히 크거나 작은 데이터들이 나와도 결과적으로 데이터들은 전체 평균으로 회귀하려는 특징이 있다.

Linear Regression (선형 회귀)

• 데이터를 가장 잘 대변하는 **직선의 방정식$(ax + b)$**을 찾는 것

  

  데이터 전체, 파란색 점 전체를 가장 잘 대변하도록 직선을 긋는다면 이 직선은 어떤 모습이 될까 → Linear Regression의 핵심

• $a$는 직선 방정식의 기울기, $b$는 직선의 y절편

• 데이터들을 잘 대변하는 직선의 방정식의 기울기 $a$과 y절편 $b$을 구하는 것

가설 세우기

이 데이터를 가장 잘 대변하는 직선의 방정식은?

$H(x) = Wx + b$

비용 (Cost)

• 가설 $H(x) = Wx + b$과 실제 데이터의 차이
• 차이의 총합이 작으면 작을 수록 데이터를 잘 표현하고 있다
• 이를 cost, loss, error 라고 한다

Cost Function

$cost(W, b)=\frac { 1 }{ m } \sum {i=1}^{m}{ { (H(x)}-y{ } })^{ 2 }$

• 가설과 실제 값의 차이를 제곱해서 평균을 낸 것

  → 가설과 데이터의 차가 음수일 가능성도 있기에 제곱하여 처리