Naive Bayes(나이브 베이즈)

나이브 베이즈 분류는 특성들 사이의 독립을 가정하는 베이즈 정리를 적용한 확률 분류기의 일종입니다.

나이브 베이즈는 특성 값은 서로 독립임을 가정합니다.

예) 특정 과일을 사과로 분류 가능하게 하는 특성들(둥글다, 빨갛다, 지름 10cm)은 나이브 베이즈 분류기에서 특성들 사이에서 발생할 수 있는 연관성이 없음을 가정하고 각각의 특성들이 특정 과일이 사과일 확률에 독립적으로 기여하는 것으로 간주합니다.

(출처 : 위키백과)

 

 

베이즈 추론은 다음과 같습니다.

모숫값이 가질 수 있는 모든 가능성의 분포를 계산하는 작업입니다.

통계적 추론의 한 방법이며 추론 대상의 *사전 확률과 추가적인 정보를 통해 해당 대상의 *사후 확률을 추론하는 방법입니다. 베이즈 추론은 베이즈 확률론을 기반으로 하며 이는 추론하는 대상을 확률변수로 보아 그 변수의 확률분포를 추정하는 것을 의미합니다.

* 사전 확률 : 특정 사상이 일어나기 전의 확률, 관측자가 관측을 하기 전에 가지고 있는 확률 분포

베이지안 추정 작업을 하기 전에 이미 알고 있던 모수의 분포

* 사후 확률 : 특정 사상이 일어나난 후의 확률, 관측자가 관측을 하고 나서 가지고 있는 확률 분포

 

베이즈 추론에서는 추론 대상 ${\Theta}$에 대하여, ${\Theta}$에 대한 사전 확률 $p({\Theta})$가 주어집니다. ${\Theta}$와 관계된 관측 $X$의 확률 분포가 $p(X|{\Theta})$와 같이 주어진다고 할 때, 베이즈 추론은 $X$가 추가적으로 주어졌을 때의 ${\Theta}$의 분포 $p({\Theta}|X)$를 계산합니다. 이때 $p({\Theta}|X)$는 베이즈 정리를 이용하여 다음과 같이 계산할 수 있습니다.

$p(\Theta|X) = \frac{p(\Theta,X)}{p(X)} = \frac{p(X|\Theta)p(\Theta)}{p(X)}$

$p(\Theta,X) = p(\Theta\cap X)$

 

 

https://bkshin.tistory.com/entry/dd?category=1042793 

DATA - 10. 베이즈 추정(Bayesian Estimation)

 

 

 

 

 

https://ko.wikipedia.org/wiki/%EB%82%98%EC%9D%B4%EB%B8%8C_%EB%B2%A0%EC%9D%B4%EC%A6%88_%EB%B6%84%EB%A5%98#cite_note-1

나이브 베이즈 분류 - 위키백과, 우리 모두의 백과사전