베이즈 정리(Bayes’ theorem)와 정보의 가치

전확률의 법칙

𝐴𝑖B는 𝐴𝑖 ∩B를 의미함

A1, A2 .. An이 표본공간 S를 분할한다고 가정 (각각 상호 배반)

A1, A2 .. An과 표본공간 B의 교집합을 각각 A1B, A2B .. AnB이라고 한다면, 이 또한 각각 상호 배반.

조건부확률 공식에 따라 P(AiB) = P(Ai) x P(B | Ai) 이므로

P(B)를 구하는 아래 공식을 전확률의 법칙이라고 한다.

 

베이즈 정리

사건 B(P(B))가 주어졌을 때, 사건 𝑨𝒊가 발생할 확률(사후확률=(P(Ai|B)))을 베이즈 정리라 한다.

베이즈 정리(사후확률)을 구하는 과정을 편리하게 표현하기 위하여 테이블을 이용하는데,

	사전확률 (주어진 확률)		결합확률(=두 사건의 교집합)		주변확률	조건부확률(=사후확률)
	I  (P(I))	II  (P(II))	I	II		I	II
A	P(A | I)	P(A | II)	P(A ∩ I)	P(B ∩ II)	P(A)	P(I | A)	P(II | A)
B	P(B | I)	P(B | II)	P(B ∩ I)	P(B ∩ II)	P(B)	P(I | B)	P(II | B)

1. 결합확률은 조건부확률과 사전확률의 곱으로 구함.

2. 주변확률은 같은 행을 이루는 결합확률의 합으로 구함.

3. 사후확률은 결합확률을 주변확률로 나누어서 구함.

 

I와 II의 확률과, I, II가 일어났을 때 A, B에 대한 조건부확률이 주어졌을 때,

B의 사건이 일어나고 I인 확률(사후확률)을 구하기 위해서 위 과정을 수행한다.

 

정보의 가치

정보의 정확성: 주어진 정보가 실제로 실현되는 상황과 얼마나 일치하는 지의 정도
완전정보: 주어진 정보(주로 예측확률)와 실제로 실현되는 상황이 완전히 일치할 경우의 정보
다음이 성립하면 완전정보임
P(상승예측 | 상승) = 1, P(보합예측 | 보합) = 1, P(하락예측 | 하락) = 1

 

반대로 불완전정보는 아래 조건부확률이 1보다 작은 경우를 의미한다.
P(상승예측 | 상승) < 1, P(보합예측 | 보합) < 1, P(하락예측 | 하락) < 1

 

정보의 기대가치(EVPI)는 정보로 인한 증분가치를 의미한다.

정보에 따른 사후확률을 구하고, 이를 반영한 의사결정나무를 새로 작성하여

(정보를 반영한 의사결정나무의 기댓값) - (기존 의사결정나무의 기댓값) = 정보의 가치

 

 

 

※본 게시글은 경희대학교 이효성 교수님의 의사결정론 강의 자료를 참고하여 작성하였습니다.