목차

1. 지식을 이용한 추론 A - Bayesian Inference

개요

• 확실히 경계가 그어진 그룹이 있을 때 어떤 지식의 소속 여부가 불확실 할 때 그것을 분류하는 추론
• 용어 정리

베이즈정리

$P(w_i|\mathbf{x}) = \frac{P(\mathbf{x}|w_i)P(w_i)}{P(\mathbf{x})} = \frac{우도 * 사전확률}{P(\mathbf{x})}$

• 사후확률 P($w_i$| $\mathbf{x}$)

  $X$ 가 주어졌을 때 그것이 부류 $w_i$에서 발생했을 확률 (사후확률)

• 사전확률 P($w_i$)

  사건 발생 이전의 확률 즉, 선택 이전 기반사건의 확률

• 우도함수 P($\mathbf{x}$ | $w_i$)

  $w_i$ 그룹에 $\mathbf{x}$ 가 속해있을 확률

베이지안 분류기

• 개요
• 최소 오류 베이지안 분류기
• 최소 위험(손실) 베이지안 분류기
• 식별 함수로 M부류 베이지안 분류기 간소화
• 식별함수를 이용한 M부류 결정 경계

특성

• 확률분포 모델링의 정확도에 따라 분류 정확도가 좌우된다.
• 실제 데이터와 일치하는 확률분포 값$(\boldsymbol{\mu,\ \Sigma})$을 알 경우 최적의 분류 성능 보장
• 실제로 그것은 불가능하기에 근사치를 이용한 분류가 이루어져 비현실성을 내포