• OR 이나 AND 연산은 하나의 직선으로 분류(Classification)할 수 있지만, XOR은 하나의 직선으로 분류할 수 없다.

퍼셉트론(Perceptron)

• XOR 문제는 로지스틱 회귀로 풀 수 없다
• 다중 퍼셉트론, MLP(Multi Layer Perceptron / Neural Nets)
  • 퍼셉트론 : 여러 개의 입력으로 하나의 결과 값을 출력하는 것
  • 레이어를 2개를 두면 XOR 문제를 해결할 수 있다.
  • 하지만 학습을 위해 W, b의 값을 조절할 수 있는 방법이 없다.

역전파(Back-propagation)

• 순전파(Forward Propagation) : 입력층 → 은닉층 → 출력층 순서로 결과를 내는 방식

• 역전파(Backward Propagation) : 순전파와 반대로 이동하여 값을 전달

  ⇒ 순전파 결과 값 오차(Error)를 역방향으로 전달 ⇒ 가중치(Weight) 조절