순차 베이즈 업데이트: 진화하는 믿음

import numpy as np

# *동전 던지기 시퀀스에 *편향 학습하려고 순차 업데이트*.
# *편향 매개변수 p (앞면 확률) 에 대한 균등 prior 로 시작*.
# *각 던지기가 믿음 업데이트*.

p_grid = np.linspace(0.01, 0.99, 99)   # 고려할 편향 값
prior = np.ones_like(p_grid) / len(p_grid)    # 균등 prior

# *참 동전이 앞면 쪽으로 편향 (p_true = 0.7)*.
rng = np.random.default_rng(230)
p_true = 0.7

posteriors = [prior.copy()]
for n_flips in (5, 25, 100, 500):
    flips = rng.binomial(n=1, p=p_true, size=n_flips)
    heads = flips.sum()
    tails = n_flips - heads
    # *각 후보 p 가 주어졌을 때 관측 데이터의 likelihood*.
    likelihood = p_grid ** heads * (1 - p_grid) ** tails
    posterior = prior * likelihood
    posterior /= posterior.sum()
    mean_estimate = (p_grid * posterior).sum()
    print(f"{n_flips:>4} 던지기 후 ({heads} H / {tails} T): "
          f"p 의 posterior 평균 추정 = {mean_estimate:.4f}")
    prior = posterior   # *다음 라운드의 prior 가 이 라운드의 posterior*

print(f"\n참 p = {p_true}")
print("*추정이 더 많은 데이터 도착과 함께 *참 값으로 수렴하는 것 주목*.")
# *균등 prior ('우리가 아무것도 모른다' 라 말함) 로 시작했음에도,
# *posterior 가 *증거 누적과 함께 *참 p 로 수렴*.
# *다른 시작 prior 도 결국 같은 답으로 수렴*.