조건부확률과 기댓값: 조건이 붙으면 표본공간이 좁아진다

지난 글에서 주사위 두 개의 합이 7일 확률이 $\dfrac16$ 임을 서른여섯 칸을 세어 확인했습니다.

이번에는 물음에 조건이 하나 붙습니다. "두 눈 중 적어도 하나가 6이라는 것을 이미 알고 있다면, 합이 7일 확률은 얼마인가."

답이 달라질까요. 달라집니다. 그리고 왜 달라지는지는 표를 다시 보면 곧바로 보입니다.

조건은 세는 바탕을 좁힌다

"적어도 하나가 6"이라는 것을 알았다는 말은 그렇지 않은 칸들은 이제 후보에서 빠졌다는 뜻입니다.

살아남은 칸은 맨 아랫줄 여섯과 맨 오른쪽 줄 여섯인데 모서리가 겹치므로 열한 칸입니다. 그중 합이 7인 칸은 $(1,6)$ 과 $(6,1)$ 둘입니다.

$\frac{2}{11} \approx 0.182$

조건이 없을 때의 $\dfrac16 \approx 0.167$ 보다 조금 커졌습니다.

어떤 사건 $B$ 가 일어났다는 것을 알고 있을 때 $A$ 가 일어날 확률을 조건부확률이라 하고 $P(A\mid B)$ 로 적습니다. 이 세로줄은 "주어졌을 때"로 읽습니다 — "$B$ 가 주어졌을 때 $A$" 입니다.

지난 글의 세로줄과 헷갈리지 않게 한 가지만 짚습니다. $\lvert A\rvert$ 의 세로줄은 양쪽에 짝을 이루어 감싸는 둘이었지만, 여기 세로줄은 짝이 없는 하나이고 두 사건 사이를 가릅니다.

식으로 적으면

칸을 세는 대신 확률로 적어 봅니다. 좁아진 바탕의 크기는 $P(B)$ 이고, 그 안에서 $A$ 이기도 한 몫은 $P(A\cap B)$ 입니다.

$P(A\mid B) = \frac{P(A\cap B)}{P(B)}$

정말 같은지 넣어 봅니다. $P(A\cap B)=\dfrac{2}{36}$, $P(B)=\dfrac{11}{36}$ 이므로

$\frac{2/36}{11/36} = \frac{2}{11}$

칸을 세어 얻은 값과 같습니다. 분모의 36이 지워지는 것이 요점입니다 — 바탕이 36칸에서 11칸으로 바뀌었으니 원래 바탕은 계산에서 사라집니다.

이 식의 양변에 $P(B)$ 를 곱하면 곧바로 다른 모양이 하나 더 나옵니다.

$P(A\cap B) = P(B)\,P(A\mid B)$

이것을 곱셈정리라고 합니다. 새로운 사실이 아니라 위의 식을 옮겨 적은 것입니다.

독립 — 조건을 걸어도 달라지지 않을 때

방금 본 예에서는 조건을 걸었더니 확률이 $\dfrac16$ 에서 $\dfrac{2}{11}$ 로 움직였습니다. 움직이지 않는 경우도 있습니다.

$A$ 를 "첫 주사위가 짝수", $B$ 를 "둘째 주사위가 6"이라 합시다. $B$ 를 알고 나면 후보는 오른쪽 세로줄 여섯 칸이고, 그중 첫 주사위가 짝수인 것은 셋입니다.

$P(A\mid B) = \frac{3}{6} = \frac12 = P(A)$

둘째 주사위가 무엇이든 첫 주사위의 사정은 그대로입니다. 이런 관계를 이렇게 정의합니다.

$P(A\cap B) = P(A)\,P(B)$

이 식이 성립하면 두 사건이 독립이라고 합니다. 실제로 $\dfrac{3}{36}=\dfrac12\times\dfrac16$ 이 맞습니다. 곱셈정리와 견주면 $P(A\mid B)=P(A)$ 와 같은 말이라는 것도 보입니다.

배반과 독립은 다르다

여기가 처음 배울 때 가장 자주 뭉개지는 자리입니다. 둘 다 "서로 상관없다"처럼 들리지만 정반대에 가깝습니다.

$A$ 를 "합이 7", $B$ 를 "합이 10"이라 합시다. 두 사건은 함께 일어날 수 없으므로 지난 글의 말로 배반입니다. 독립인지 확인해 봅니다.

$P(A\cap B) = 0, \qquad P(A)\,P(B) = \frac16 \times \frac{3}{36} = \frac{1}{72}$

$0 \ne \dfrac{1}{72}$ 이므로 독립이 아닙니다.

말로 하면 이렇습니다. 배반인 두 사건은 서로에 대해 아주 강한 정보를 줍니다 — 합이 7이라는 것을 알면 합이 10이 아니라는 것을 확실히 알게 되니까요. 정보를 준다는 것이 곧 독립이 아니라는 뜻입니다.

확률이 0이 아닌 두 사건이 배반이면 반드시 독립이 아닙니다.

베이즈 정리 — 조건을 뒤집는다

$P(A\cap B)$ 는 어느 쪽을 조건으로 잡아도 같은 값입니다. 곱셈정리를 두 방향으로 적으면

$P(B)\,P(A\mid B) = P(A\cap B) = P(A)\,P(B\mid A)$

양변을 $P(B)$ 로 나누면 조건이 뒤집힙니다.

$P(A\mid B) = \frac{P(B\mid A)\,P(A)}{P(B)}$

이것을 베이즈 정리라고 합니다. 지금까지의 식들을 옮겨 적은 것뿐인데도, 답이 직관과 크게 어긋나는 자리를 알려 줍니다.

검사 하나로 확인한다

어떤 병에 대해 이런 검사가 있다고 합시다.

• 유병률 1% — 전체 인구 중 그 병이 있는 사람의 비율입니다.
• 민감도 99% — 병이 있는 사람을 검사하면 99%가 양성으로 나옵니다.
• 특이도 95% — 병이 없는 사람을 검사하면 95%가 음성으로 나옵니다.

양성이 나왔다면 실제로 병일 확률은 얼마일까요. 많은 사람이 99%에 가까운 값을 떠올립니다.

식보다 사람 수로 세는 편이 훨씬 쉽습니다. 만 명을 놓고 넷으로 가릅니다.

양성인 사람은 모두 594명이고 그중 실제로 병인 사람은 99명입니다.

$P(\text{병}\mid\text{양성}) = \frac{99}{594} = \frac16 \approx 16.7\%$

여섯 명 중 한 명입니다. 검사가 나빠서가 아닙니다 — 병이 없는 사람이 99배나 많아서, 그쪽의 5%만 잘못 나와도 495명이 되기 때문입니다. 99명보다 훨씬 큽니다.

이 계산이 곧 베이즈 정리입니다. $P(\text{양성}\mid\text{병})=0.99$, $P(\text{병})=0.01$, $P(\text{양성})=0.0594$ 를 넣으면

$\frac{0.99 \times 0.01}{0.0594} = \frac{0.0099}{0.0594} \approx 0.167$

같은 값입니다.

확률변수와 확률분포표

지금까지 센 것은 "그 일이 일어났는가 아닌가"였습니다. 결과에 수를 붙이면 더 많은 것을 물을 수 있습니다.

시행의 결과마다 수를 하나씩 붙여 놓은 것을 확률변수라고 하고 보통 $X$ 로 적습니다. 동전을 세 번 던질 때 "앞면이 나온 횟수"가 그런 것입니다. 여덟 갈래마다 0, 1, 2, 3 중 하나가 붙습니다.

확률변수가 가질 수 있는 값이 띄엄띄엄한 몇 개면 이산확률변수라고 합니다. 지금이 그렇습니다.

어떤 값이 나올 확률을 값마다 적어 놓은 표를 확률분포표라고 합니다.

확률을 전부 더하면 1이 되어야 합니다. 표본공간을 빠짐없이 나눠 놓은 것이니 당연합니다.

기댓값 — 평균으로 하나의 수를 뽑는다

분포표 전체를 하나의 수로 요약하고 싶습니다. 값마다 그 값이 나올 확률을 가중치로 곱해 더합니다.

$E[X] = \sum x\,p(x)$

27번 글의 $\Sigma$ 가 여기서 처음 확률에 쓰입니다 — $X$ 가 가질 수 있는 값들에 대해 전부 더하라는 뜻입니다. 이 값을 기댓값이라고 합니다.

동전 세 번의 앞면 개수로 계산해 봅니다.

$E[X] = 0\times\frac18 + 1\times\frac38 + 2\times\frac38 + 3\times\frac18 = \frac{0+3+6+3}{8} = \frac{12}{8} = 1.5$

1.5는 실제로 나올 수 있는 값이 아닙니다. 앞면이 1.5번 나올 수는 없으니까요. 기댓값은 "가장 나올 것 같은 값"이 아니라 막대들이 좌우로 균형을 이루는 자리입니다.

주사위 하나로도 해 봅니다. 여섯 값이 모두 $\dfrac16$ 씩입니다.

$E[X] = \frac{1+2+3+4+5+6}{6} = \frac{21}{6} = 3.5$

확률이 모두 같으면 기댓값은 그냥 평균입니다. 다르면 확률이 큰 값 쪽으로 끌려갑니다.

기댓값에는 계산을 크게 줄여 주는 성질이 둘 있습니다. 결과만 적어 둡니다.

$E[aX+b] = a\,E[X] + b, \qquad E[X+Y] = E[X] + E[Y]$

아래쪽은 $X$ 와 $Y$ 가 독립이 아니어도 성립합니다. 이 둘을 쓰는 자리는 40번 · 기술통계에서 분산을 다른 모양으로 고쳐 쓸 때 한 번 나옵니다.

연습 문제

연습 1 — 조건부확률

주사위 두 개의 서른여섯 칸 표를 다시 씁니다.

1. 첫 주사위가 3이라는 것을 알 때 합이 8일 확률

   후보가 셋째 줄 여섯 칸으로 좁아집니다. 그중 합이 8인 것은 $(3,5)$ 하나이므로 $\dfrac16$ 입니다.
2. 합이 8이라는 것을 알 때 첫 주사위가 3일 확률

   합이 8인 칸은 $(2,6),(3,5),(4,4),(5,3),(6,2)$ 로 다섯입니다. 그중 첫 주사위가 3인 것은 하나이므로 $\dfrac15$ 입니다. 1번과 답이 다릅니다 — 조건을 어느 쪽에 거느냐에 따라 바탕이 달라지기 때문입니다.
3. 두 눈이 서로 다르다는 것을 알 때 합이 7일 확률

   같은 칸 여섯을 빼면 서른 칸이 남습니다. 합이 7인 여섯 칸은 모두 두 눈이 다르므로 $\dfrac{6}{30}=\dfrac15$ 입니다.

연습 2 — 독립과 베이즈

베이즈 문제는 만 명을 놓고 넷으로 가르면 손으로 됩니다.

1. 동전을 두 번 던질 때 "첫 번째가 앞"과 "두 번째가 뒤"가 독립인지

   네 갈래 중 각각 둘씩이라 확률이 $\dfrac12$ 씩이고, 둘 다인 것은 (앞, 뒤) 하나로 $\dfrac14$ 입니다. $\dfrac12\times\dfrac12=\dfrac14$ 이므로 독립입니다.
2. 주사위 하나를 던질 때 "짝수"와 "3 이하"가 독립인지

   짝수는 $\{2,4,6\}$ 으로 $\dfrac12$, 3 이하는 $\{1,2,3\}$ 으로 $\dfrac12$, 둘 다인 것은 $\{2\}$ 하나로 $\dfrac16$ 입니다. $\dfrac12\times\dfrac12=\dfrac14$ 인데 $\dfrac16$ 이므로 독립이 아닙니다.
3. 민감도 99%, 특이도 95%는 그대로인데 유병률이 10%인 병에서, 양성일 때 실제로 병일 확률

   만 명 중 병이 있는 사람이 1,000명이고 그중 양성은 990명입니다. 병이 없는 9,000명 중 양성은 5%인 450명입니다. 양성은 모두 1,440명이므로 $\dfrac{990}{1440}=0.6875$, 약 68.8%입니다. 유병률만 올렸는데 16.7%에서 크게 뛰었습니다.

연습 3 — 기댓값

1. 주사위 하나를 던져 짝수면 그 눈만큼 점수를 받고 홀수면 0점일 때의 기댓값

   값이 0, 2, 4, 6이고 확률은 각각 $\dfrac36,\dfrac16,\dfrac16,\dfrac16$ 입니다. $\dfrac{0+2+4+6}{6}=\dfrac{12}{6}=2$ 점입니다.
2. 앞면이면 300원을 받고 뒷면이면 100원을 잃는 놀이를 한 번 할 때의 기댓값

   $300\times\dfrac12 + (-100)\times\dfrac12 = 150-50 = 100$ 원입니다.
3. $X$ 가 1일 확률 0.5, 2일 확률 0.3, 5일 확률 0.2일 때의 기댓값

   먼저 $0.5+0.3+0.2=1$ 이라 분포표가 성립합니다. $1\times0.5+2\times0.3+5\times0.2=0.5+0.6+1.0=2.1$ 입니다.

정리

• 조건부확률 $P(A\mid B)$ 는 표본공간을 $B$ 로 좁혀 다시 센 것입니다. 세로줄은 "주어졌을 때"로 읽고, $\lvert A\rvert$ 의 감싸는 세로줄 둘과 달리 짝이 없는 하나입니다.

  $P(A\mid B)=\frac{P(A\cap B)}{P(B)}$

• 양변에 $P(B)$ 를 곱하면 곱셈정리 $P(A\cap B)=P(B)P(A\mid B)$ 입니다.

• 독립은 $P(A\cap B)=P(A)P(B)$, 즉 한쪽을 알아도 다른 쪽의 확률이 그대로인 것입니다.

• 배반과 독립은 다릅니다. 배반이면 한쪽이 일어났다는 사실이 다른 쪽을 확실히 부정하므로, 확률이 0이 아닌 한 배반인 두 사건은 독립이 아닙니다.

• 베이즈 정리는 곱셈정리를 두 방향으로 적어 나눈 것입니다.

  $P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}$

  유병률 1%인 병에서 민감도 99%·특이도 95%짜리 검사가 양성이어도 실제로 병일 확률은 약 16.7% 입니다. 건강한 사람이 99배 많아 그쪽의 5%가 495명이나 되기 때문입니다.

• 확률변수는 결과마다 붙여 놓은 수이고, 값마다 확률을 적은 것이 확률분포표입니다. 확률의 합은 1입니다.

• 기댓값 $E[X]=\sum x\,p(x)$ 는 막대들이 균형을 이루는 자리입니다. 실제로 나올 수 있는 값이 아닐 수 있습니다 — 동전 세 번의 앞면 개수는 1.5입니다.

지금까지는 표본공간을 손으로 다 적을 수 있었습니다. 다음 글은 다 적을 수 없을 만큼 큰 것을 세는 도구를 만듭니다.

읽어주셔서 감사합니다. 😊