https://www.youtube.com/watch?v=Nyj9K7Ptr00&list=PL0E_1UqNACXDlqJLNLK8IwzVV_EK3Kffj&index=4

• 선형 모델로는 비선형 문제를 해결하기 어려움
  • 비선형인 데이터는 선형으로 구분할 수 없고, $W$도 1개 밖에 사용할 수 없음

• 비선형 문제를 해결하기 위해 위와 같은 방법이 사용될 수 있음. feature를 뽑은 후에 선형 모델로 처리하는 방법
  • 하지만 대부분의 문제는 그렇게 해결되지 않음

• 이미지에 대해 feature를 뽑는 방법. 히스토그램을 뽑는다거나 등

• 머신러닝에서 예전에는 우선 이미지에서 feature를 뽑고 그걸 학습 시켰는데, 시간이 지나고 나서 아예 feature를 뽑는 것 자체를 머신러닝에 맡기게 됨. 이게 바로 end-to-end 학습
• 그러나 이것은 별로 효율적인 방법은 아니다.
  • 데이터가 엄청 많아야 하고 그만큼 컴퓨팅 파워도 필요함. 비용이 많이 듬.
  • 사람은 이런 식으로 학습하지 않는다.

• 퍼셉트론은 뉴런의 모습에서 착안 함.
  • 연결된 다른 뉴런들에 신호를 받고(input), 그게 일정 조건(activation function)을 만족하면(threshold) 다른 뉴런들에 신호를 보냄(output)

• 위 개념을 퍼셉트론을 표현한 것
  • 이전 노드 $x$들에 각각 가중치 $W$를 곱한 것을 합하고 —선형 결합
  • 그 값을 어떤 활성화 함수 $f$에 통과 시켜서 결과를 얻고,
  • 그 결과를 다음 노드들에 전달 함.