주변·결합·조건부확률을 한 장에 놓기

"주변확률, 결합확률, 조건부확률은 비슷한 기호로 서로 다른 질문에 답해. 먼저 질문을 고르고 계산은 나중에 해."

세 확률

주변확률 P(A): 다른 조건을 따로 고정하지 않은 A의 확률.
결합확률 P(A 그리고 B): A와 B가 함께 일어날 확률.
조건부확률 P(A | B): B가 일어났다는 조건 아래 A의 확률.

세 값은 P(A 그리고 B) = P(A | B) × P(B)로 연결돼. 이 식은 독립을 가정하지 않아. 독립이라면 P(A | B)=P(A)가 되어 익숙한 곱셈공식이 나올 뿐이야.

AND와 OR

A와 B가 모두 일어나는 AND는 결합확률이야. 독립일 때만 P(A) × P(B)로 단순해져. A 또는 B가 일어나는 OR는 P(A)+P(B)-P(A 그리고 B)야. 겹치는 부분을 두 번 세었으니 한 번 빼는 거지.

비 올 확률 60%와 우산을 잊을 확률 30%만으로 젖을 확률을 구할 수는 없어. 비 오는 날에 우산을 잊을 확률 P(망각 | 비)이 필요해. 날씨가 우산 행동에 영향을 주므로 독립이라고 두기 어렵기 때문이야.

결합공간을 그려봐

공정한 동전 두 개를 던지면 가능한 결과는 HH, HT, TH, TT 네 개고 각각의 확률은 0.25야. 첫째 동전의 앞면확률 0.5와 둘 다 앞면일 확률 0.25는 다른 공간의 숫자야. 표나 나무그림으로 결합공간을 그리면 무엇을 더하고 무엇을 곱해야 하는지 훨씬 잘 보여.

왜 뒤에서 중요할까

가능도는 여러 관측의 결합확률을 모형으로 표현한 거야. 관측들이 독립이면 가능도를 곱으로 쉽게 쓸 수 있지만, 의존성이 있으면 조건부 구조를 넣어야 해. 결합공간을 잘못 그리면 베이즈 계산과 최대가능도추정도 그 위에서 함께 틀려.

Code

Joint, marginal, chain rule 나란히 보기·python

import numpy as np
rng = np.random.default_rng(2)

# 2x2 결합 분포: 비 (R) vs 우산 깜빡 (F).
# 둘은 독립이 아니야 — 아침이 맑으면 우산을 더 자주 깜빡해
# (집에서 챙기지 않으니까).
N = 100_000
rain     = rng.random(N) < 0.30   # P(R)  = 0.30
# 깜빡함은 비 안 옴 과 상관 (하늘이 위협적일 때만 우산 챙김).
forgot   = np.where(rain, rng.random(N) < 0.10, rng.random(N) < 0.50)

P_R  = rain.mean()
P_F  = forgot.mean()
P_RF = (rain & forgot).mean()
P_F_given_R = forgot[rain].mean()

print(f"Marginal P(비)               = {P_R:.3f}")
print(f"Marginal P(우산 깜빡)        = {P_F:.3f}")
print(f"Joint    P(비 AND 깜빡)       = {P_RF:.3f}")
print(f"Chain    P(깜빡|비)*P(비)     = {P_F_given_R * P_R:.3f}  <- joint 와 일치")
print(f"Product  P(비)*P(깜빡)       = {P_R * P_F:.3f}           <- 틀림: 독립 가정")

# Chain-rule 버전이 경험적 joint 와 일치.
# Marginal 의 단순 곱은 어긋남 — 결합이 실제로 있는데 독립을 가정한 대가.

Exercise

아침 날씨와 우산 행동으로 주변확률, 조건부확률, 결합확률을 하나씩 써봐. 결합확률이 각 주변확률보다 클 수 없는 이유를 표나 나무그림으로 설명해.

Hint

P(비 그리고 우산)는 비 오는 아침 전체의 일부이면서 우산을 챙긴 아침 전체의 일부야.

세 확률

AND와 OR

결합공간을 그려봐

왜 뒤에서 중요할까

Code

External links

Exercise

Progress

댓글 0