수학

MATH / 초급 38번

조건부확률과 기댓값: 조건이 붙으면 표본공간이 좁아진다

무언가를 이미 알고 있으면 세는 바탕이 줄어듭니다. 서른여섯 칸 표를 좁혀 조건부확률을 세우고, 배반과 독립을 반례로 가르고, 베이즈 정리와 기댓값까지 손으로 계산합니다.

PALDYN Team46 MIN READ

지난 글에서 주사위 두 개의 합이 7일 확률이 16\dfrac16 임을 서른여섯 칸을 세어 확인했습니다.

이번에는 물음에 조건이 하나 붙습니다. "두 눈 중 적어도 하나가 6이라는 것을 이미 알고 있다면, 합이 7일 확률은 얼마인가."

답이 달라질까요. 달라집니다. 그리고 왜 달라지는지는 표를 다시 보면 곧바로 보입니다. 이 글은 그 표 한 장에서 출발해 조건부확률, 독립, 베이즈 정리를 차례로 세우고, 마지막에는 결과에 수를 붙여 평균을 내는 기댓값까지 갑니다. 계산은 전부 손으로 합니다.

좁아지는 표본공간

좁아진 표

"적어도 하나가 6"이라는 것을 알았다는 말은 그렇지 않은 칸들은 이제 후보에서 빠졌다는 뜻입니다. 둘 다 6이 아닌 칸, 예를 들어 (2,3)(2,3) 은 일어나지 않은 것이 확실해졌으니 더 이상 셀 이유가 없습니다.

조건 없이 센 서른여섯 칸과, 적어도 하나가 6인 열한 칸으로 좁아진 표

살아남은 칸은 맨 아랫줄 여섯과 맨 오른쪽 줄 여섯인데 모서리 (6,6)(6,6) 이 두 번 세였으므로 하나를 빼서 열한 칸입니다. 그중 합이 7인 칸은 (1,6)(1,6) 과 (6,1)(6,1) 둘입니다. 열한 칸이 모두 같은 확률로 일어나는 것은 그대로이므로, 지난 글처럼 세어서 나누면 됩니다.

211≈0.182\frac{2}{11} \approx 0.182

조건이 없을 때의 16≈0.167\dfrac16 \approx 0.167 보다 조금 커졌습니다. 분자는 6에서 2로 줄었지만 분모가 36에서 11로 더 크게 줄었기 때문입니다.

어떤 사건 BB 가 일어났다는 것을 알고 있을 때 AA 가 일어날 확률을 조건부확률이라 하고 P(A∣B)P(A\mid B) 로 적습니다. 표본공간을 BB 로 좁혀 놓고 그 안에서 AA 를 다시 센 값이라는 것이 정의의 전부입니다. 이 세로줄은 "주어졌을 때"로 읽습니다 — "BB 가 주어졌을 때 AA" 입니다.

지난 글의 세로줄과 헷갈리지 않게 한 가지만 짚습니다. ∣A∣\lvert A\rvert 의 세로줄은 양쪽에 짝을 이루어 감싸는 둘이었지만, 여기 세로줄은 짝이 없는 하나이고 두 사건 사이를 가릅니다. 왼쪽이 묻는 것, 오른쪽이 이미 아는 것입니다.

조건부확률의 식

칸을 세는 대신 확률로 적어 봅니다. 좁아진 바탕의 크기는 P(B)P(B) 이고, 그 안에서 AA 이기도 한 몫은 P(A∩B)P(A\cap B) 입니다. 바탕 안에서 차지하는 몫을 바탕 전체로 나누면 됩니다.

P(A∣B)=P(A∩B)P(B)P(A\mid B) = \frac{P(A\cap B)}{P(B)}

정말 같은지 넣어 봅니다. 합이 7이면서 적어도 하나가 6인 칸이 둘이므로 P(A∩B)=236P(A\cap B)=\dfrac{2}{36}, 적어도 하나가 6인 칸이 열하나이므로 P(B)=1136P(B)=\dfrac{11}{36} 입니다.

2/3611/36=211\frac{2/36}{11/36} = \frac{2}{11}

분수를 분수로 나눌 때는 분자와 분모에 똑같이 36을 곱해도 값이 그대로이므로, 위아래의 36이 함께 지워져 211\dfrac{2}{11} 만 남습니다. 칸을 세어 얻은 값과 같습니다. 36이 지워지는 데 뜻이 있습니다 — 바탕이 36칸에서 11칸으로 바뀌었으니 원래 바탕은 계산에서 사라집니다.

조건 쪽의 확률이 0이면 이 식은 쓸 수 없습니다. 0으로 나눌 수 없기도 하고, 일어날 수 없는 일을 "알고 있다"는 말 자체가 성립하지 않기 때문입니다.

곱셈정리와 나무그림

조건부확률의 식 양변에 P(B)P(B) 를 곱하면 곧바로 다른 모양이 하나 더 나옵니다.

P(A∩B)=P(B) P(A∣B)P(A\cap B) = P(B)\,P(A\mid B)

이것을 곱셈정리라고 합니다. 새로운 사실이 아니라 위의 식을 옮겨 적은 것이고, 읽는 법은 "둘 다 일어날 확률은, 먼저 하나가 일어날 확률에 그다음 그것을 안 채로 다른 하나가 일어날 확률을 곱한 것"입니다.

지난 글의 끝에서 미뤄 둔 물음이 여기서 풀립니다. 나무그림에서 잎의 확률을 구할 때 가지의 확률을 따라가며 곱했는데, 둘째 단의 가지에 적힌 수는 사실 조건부확률입니다. 첫 번째가 앞면이라는 갈래 끝에서 뻗은 가지는 "첫 번째가 앞면임을 알 때 두 번째가 앞면일 확률"을 들고 있습니다. 그러니 두 가지를 곱하는 것은 곱셈정리를 한 번 쓴 것입니다.

가지가 세 단이면 곱셈정리를 두 번 씁니다. 처음 두 단을 하나의 사건으로 묶어 곱셈정리를 쓰고, 그 묶음을 다시 한 번 풀면 이렇게 됩니다.

P(A∩B∩C)=P(A) P(B∣A) P(C∣A∩B)P(A\cap B\cap C) = P(A)\,P(B\mid A)\,P(C\mid A\cap B)

기울어진 동전에서는 앞에 무엇이 나왔든 다음 가지가 늘 0.6과 0.4였습니다. 조건이 바뀌어도 가지의 수가 그대로인 이런 경우에 붙는 이름이 다음 절의 독립입니다. 조건에 따라 가지의 수가 바뀌는 경우도 다음 절에서 주머니 속 공으로 봅니다.

확률이 다른 잎

조건이 등확률이 아닌 표본공간에 걸리면 칸을 세는 방법은 통하지 않습니다. 지난 글의 동전, 앞면이 0.6이고 뒷면이 0.4인 동전을 세 번 던지는 경우로 봅니다. 물음은 "적어도 한 번 앞면이 나왔다는 것을 알 때, 앞면이 정확히 두 번일 확률"입니다.

조건을 걸면 뒤뒤뒤 잎 하나가 빠지고 일곱 잎이 남습니다. 그중 앞면이 두 번인 잎은 셋입니다. 세어서 나누면 37\dfrac37 이 나오는데, 이것은 틀린 답입니다. 일곱 잎의 확률이 0.216, 0.144, 0.096처럼 서로 달라서 한 잎을 하나로 셀 수가 없기 때문입니다.

앞면이 0.6인 동전을 세 번 던진 나무그림에서 뒤뒤뒤 잎을 지우고 남은 일곱 잎의 확률을 더해 조건부확률을 구하는 그림

칸의 개수 대신 확률을 더해야 합니다. 위 그림처럼 남은 일곱 잎의 확률을 모두 더한 것이 바탕의 크기이고, 그것은 1에서 빠진 잎 하나를 뺀 값입니다.

P(B)=1−0.064=0.936P(B) = 1 - 0.064 = 0.936

앞면이 두 번인 잎 셋은 각각 0.144이므로 3×0.144=0.4323\times0.144 = 0.432 이고, 이 잎들은 모두 바탕 안에 있으므로 이것이 그대로 P(A∩B)P(A\cap B) 입니다.

P(A∣B)=0.4320.936P(A\mid B) = \frac{0.432}{0.936}

손으로 줄여 봅니다. 위아래에 1,000을 곱하면 432936\dfrac{432}{936} 이고, 둘 다 8로 나누면 54117\dfrac{54}{117}, 다시 9로 나누면 613\dfrac{6}{13} 입니다. 약 0.46이니 잎을 센 37≈0.43\dfrac37 \approx 0.43 과 다릅니다. 지난 글의 "세어서 나누기"가 등확률일 때만의 지름길이었듯이, 좁힌 바탕에서도 세는 것은 지름길이고 확률을 더하는 것이 원래 방법입니다.

독립과 배반

독립

첫 절의 예에서는 조건을 걸었더니 확률이 16\dfrac16 에서 211\dfrac{2}{11} 로 움직였습니다. 움직이지 않는 경우도 있습니다.

AA 를 "첫 주사위가 짝수", BB 를 "둘째 주사위가 6"이라 합시다. BB 를 알고 나면 후보는 오른쪽 세로줄 여섯 칸이고, 그중 첫 주사위가 짝수인 것은 (2,6),(4,6),(6,6)(2,6),(4,6),(6,6) 셋입니다.

P(A∣B)=36=12=P(A)P(A\mid B) = \frac{3}{6} = \frac12 = P(A)

둘째 주사위가 무엇이든 첫 주사위의 사정은 그대로입니다. 이 관계를 곱셈정리에 넣으면 P(A∣B)P(A\mid B) 자리에 P(A)P(A) 가 들어가 식이 이렇게 됩니다.

P(A∩B)=P(A) P(B)P(A\cap B) = P(A)\,P(B)

이 식이 성립하면 두 사건이 독립이라고 합니다. 실제로 336=12×16\dfrac{3}{36}=\dfrac12\times\dfrac16 이 맞습니다. 12×16\dfrac12\times\dfrac16 은 분자끼리 1×1=11\times1=1, 분모끼리 2×6=122\times6=12 라 112\dfrac{1}{12} 이고, 336\dfrac{3}{36} 도 3으로 약분하면 112\dfrac{1}{12} 입니다. 정의를 조건부확률 대신 곱으로 적는 까닭은 P(B)=0P(B)=0 일 때도 쓸 수 있고, AA 와 BB 의 자리를 바꿔도 모양이 같아 "서로" 독립이라는 말이 식에 그대로 드러나기 때문입니다.

배반과 독립

여기가 처음 배울 때 가장 자주 뭉개지는 자리입니다. 둘 다 "서로 상관없다"처럼 들리지만 정반대에 가깝습니다.

겹치지 않는 두 사건과 서로 영향을 주지 않는 두 사건을 표 위에서 비교

AA 를 "합이 7", BB 를 "합이 10"이라 합시다. 두 사건은 함께 일어날 수 없으므로 지난 글의 말로 배반입니다. 합이 10인 칸은 (4,6),(5,5),(6,4)(4,6),(5,5),(6,4) 셋이라 P(B)=336P(B)=\dfrac{3}{36} 입니다. 독립인지 확인해 봅니다.

P(A∩B)=0,P(A) P(B)=16×336=3216=172P(A\cap B) = 0, \qquad P(A)\,P(B) = \frac16 \times \frac{3}{36} = \frac{3}{216} = \frac{1}{72}

0≠1720 \ne \dfrac{1}{72} 이므로 독립이 아닙니다.

말로 하면 이렇습니다. 배반인 두 사건은 서로에 대해 아주 강한 정보를 줍니다 — 합이 7이라는 것을 알면 합이 10이 아니라는 것을 확실히 알게 되니까요. 조건부확률로 적으면 P(B∣A)=0P(B\mid A)=0 인데 P(B)=112P(B)=\dfrac{1}{12} 이라, 조건을 걸자 확률이 0으로 떨어졌습니다. 정보를 준다는 것이 곧 독립이 아니라는 뜻입니다.

뜻 식
배반 함께 일어날 수 없다 P(A∩B)=0P(A\cap B)=0
독립 한쪽을 알아도 다른 쪽의 확률이 그대로다 P(A∩B)=P(A)P(B)P(A\cap B)=P(A)P(B)

확률이 0이 아닌 두 사건이 배반이면 반드시 독립이 아닙니다. 둘 다 0보다 크면 곱 P(A)P(B)P(A)P(B) 도 0보다 큰데, 배반이라 P(A∩B)P(A\cap B) 는 0이니 두 값이 같을 수 없습니다.

복원과 비복원

조건에 따라 가지의 수가 바뀌는 경우를 봅니다. 주머니에 빨간 공 3개와 파란 공 2개, 모두 5개가 들어 있습니다. 하나를 꺼내 색을 보고, 다시 하나를 꺼냅니다. 꺼낸 공을 주머니에 되돌려 넣고 다음 것을 꺼내는 방식을 복원 추출, 되돌리지 않고 이어서 꺼내는 방식을 비복원 추출이라고 합니다. 같은 물음 "둘 다 빨간 공일 확률"이 두 방식에서 다른 답을 냅니다.

주머니에서 공 두 개를 꺼낼 때 되돌리는 경우와 되돌리지 않는 경우의 나무그림을 나란히 놓고 가지의 확률을 비교한 그림

되돌리는 쪽부터 봅니다. 첫 공이 빨강일 확률은 5개 중 3개라 35\dfrac35 이고, 공을 되돌렸으니 주머니는 처음과 똑같아 둘째도 35\dfrac35 입니다.

P(빨강, 빨강)=35×35=925P(\text{빨강, 빨강}) = \frac35 \times \frac35 = \frac{9}{25}

되돌리지 않는 쪽은 둘째 가지가 바뀝니다. 첫 공으로 빨강이 하나 나갔으니 주머니에는 빨강 2개, 파랑 2개, 모두 4개가 남았습니다. 첫째가 빨강임을 알 때 둘째가 빨강일 확률은 24\dfrac24 입니다. 곱셈정리대로 곱합니다.

P(빨강, 빨강)=35×24=620=310P(\text{빨강, 빨강}) = \frac35 \times \frac24 = \frac{6}{20} = \frac{3}{10}

분자끼리 3×2=63\times2=6, 분모끼리 5×4=205\times4=20 이고, 2로 약분해 310\dfrac{3}{10} 입니다. 되돌릴 때의 925=0.36\dfrac{9}{25}=0.36 보다 310=0.3\dfrac{3}{10}=0.3 이 작습니다. 빨강이 하나 빠진 주머니에서 다시 빨강을 꺼내기가 더 어려우니 당연합니다.

세 개를 되돌리지 않고 꺼내 셋 다 빨강일 확률은 곱셈정리를 두 번 써서 셋째 가지까지 갑니다. 빨강 둘이 나간 뒤에는 빨강 1개, 파랑 2개가 남으므로 셋째 가지는 13\dfrac13 입니다.

35×24×13=660=110\frac35 \times \frac24 \times \frac13 = \frac{6}{60} = \frac{1}{10}

조건이 매번 바뀌는 것이 보입니다. 가지마다 "지금까지 무엇이 나갔는가"를 안 채로 남은 주머니를 다시 세야 합니다.

되돌림과 독립

이제 독립을 확인합니다. 사건 AA 를 "첫째가 빨강", BB 를 "둘째가 빨강"이라 합니다.

되돌리는 쪽에서는 P(B∣A)=35P(B\mid A)=\dfrac35 이고, 첫째가 무엇이었든 둘째 가지가 늘 35\dfrac35 이므로 P(B)=35P(B)=\dfrac35 입니다. 같으니 독립입니다.

되돌리지 않는 쪽에서는 P(B∣A)=24=12P(B\mid A)=\dfrac24=\dfrac12 입니다. 그러면 P(B)P(B) 는 얼마일까요. 둘째가 빨강인 잎은 "빨강, 빨강"과 "파랑, 빨강" 둘이고, 잎의 확률을 더합니다. 파랑이 먼저 나가면 빨강 3개, 파랑 1개가 남으니 그 가지는 34\dfrac34 입니다.

P(B)=35×24+25×34=620+620=1220=35P(B) = \frac35\times\frac24 + \frac25\times\frac34 = \frac{6}{20} + \frac{6}{20} = \frac{12}{20} = \frac35

둘째가 빨강일 확률 자체는 되돌릴 때와 똑같이 35\dfrac35 입니다. 첫째를 모르고 둘째만 보면 다섯 개 중 아무거나 하나를 본 것과 다르지 않기 때문입니다. 그런데 첫째를 알고 나면 12\dfrac12 로 바뀝니다. 12≠35\dfrac12 \ne \dfrac35 이므로 독립이 아닙니다.

같은 주머니, 같은 물음에서 되돌리면 독립이고 안 되돌리면 독립이 아닙니다. 독립은 사건의 이름이 아니라 시행을 어떻게 하느냐에 달린 성질입니다.

베이즈 정리

P(A∩B)P(A\cap B) 는 어느 쪽을 조건으로 잡아도 같은 값입니다. 곱셈정리를 두 방향으로 적으면

P(B) P(A∣B)=P(A∩B)=P(A) P(B∣A)P(B)\,P(A\mid B) = P(A\cap B) = P(A)\,P(B\mid A)

양 끝만 남기고 양변을 P(B)P(B) 로 나누면 조건이 뒤집힙니다.

P(A∣B)=P(B∣A) P(A)P(B)P(A\mid B) = \frac{P(B\mid A)\,P(A)}{P(B)}

이것을 베이즈 정리라고 합니다. 지금까지의 식들을 옮겨 적은 것뿐인데도, 답이 직관과 크게 어긋나는 자리를 알려 줍니다. 알기 쉬운 쪽 P(B∣A)P(B\mid A) 에서 알고 싶은 쪽 P(A∣B)P(A\mid B) 로 건너가는 다리입니다.

만 명의 표

어떤 병에 대해 이런 검사가 있다고 합시다.

  • 유병률 1% — 전체 인구 중 그 병이 있는 사람의 비율입니다.
  • 민감도 99% — 병이 있는 사람을 검사하면 99%가 양성으로 나옵니다.
  • 특이도 95% — 병이 없는 사람을 검사하면 95%가 음성으로 나옵니다.

양성이 나왔다면 실제로 병일 확률은 얼마일까요. 많은 사람이 99%에 가까운 값을 떠올립니다. 민감도는 P(양성∣병)P(\text{양성}\mid\text{병}) 이고 묻는 것은 P(병∣양성)P(\text{병}\mid\text{양성}) 이라, 조건이 뒤집힌 두 값을 같은 것으로 착각한 것입니다.

식보다 사람 수로 세는 편이 훨씬 쉽습니다. 만 명을 놓고 넷으로 가릅니다. 1%인 100명이 병이 있고 9,900명은 없습니다. 병이 있는 100명의 99%인 99명이 양성, 병이 없는 9,900명의 5%인 495명이 양성입니다. 9,900의 5%는 9,900을 100으로 나눈 99에 5를 곱한 것입니다.

만 명을 병의 유무와 검사 결과로 넷으로 가른 나무그림

양성 음성 합
병이 있다 99 1 100
병이 없다 495 9,405 9,900
합 594 9,406 10,000

양성인 사람은 모두 594명이고 그중 실제로 병인 사람은 99명입니다. 양성이라는 조건이 바탕을 594명으로 좁혔습니다.

P(병∣양성)=99594=16≈16.7%P(\text{병}\mid\text{양성}) = \frac{99}{594} = \frac16 \approx 16.7\%

594를 99로 나누면 6이 딱 떨어지므로 16\dfrac16 입니다. 여섯 명 중 한 명입니다. 검사가 나빠서가 아닙니다 — 병이 없는 사람이 99배나 많아서, 그쪽의 5%만 잘못 나와도 495명이 되기 때문입니다. 99명보다 훨씬 큽니다.

이 계산이 곧 베이즈 정리입니다. P(양성∣병)=0.99P(\text{양성}\mid\text{병})=0.99, P(병)=0.01P(\text{병})=0.01, P(양성)=0.0594P(\text{양성})=0.0594 를 넣으면

0.99×0.010.0594=0.00990.0594≈0.167\frac{0.99 \times 0.01}{0.0594} = \frac{0.0099}{0.0594} \approx 0.167

같은 값입니다.

전확률 법칙

방금 넣은 분모 P(양성)=0.0594P(\text{양성})=0.0594 는 어디서 왔을까요. 표의 아래 줄, 양성 칸의 합 594명을 만 명으로 나눈 것입니다. 그 594명은 병이 있는 양성 99명과 병이 없는 양성 495명을 더한 것이었습니다. 이 덧셈을 사람 수 대신 확률로 적으면 이렇습니다.

P(양성)=P(양성∣병) P(병)+P(양성∣병 아님) P(병 아님)P(\text{양성}) = P(\text{양성}\mid\text{병})\,P(\text{병}) + P(\text{양성}\mid\text{병 아님})\,P(\text{병 아님})

숫자를 넣어 한 항씩 계산합니다. 앞 항은 0.99×0.01=0.00990.99\times0.01=0.0099 이고, 병이 없는 사람이 양성일 확률은 특이도의 나머지 1−0.95=0.051-0.95=0.05 이므로 뒤 항은 0.05×0.99=0.04950.05\times0.99=0.0495 입니다. 더하면 0.0099+0.0495=0.05940.0099+0.0495=0.0594 로 표와 같습니다.

표본공간을 겹치지 않는 몇 갈래로 빠짐없이 나누고, 갈래마다 곱셈정리로 "그 갈래이면서 그 사건"의 확률을 구해 모두 더하는 것을 전확률 법칙이라고 합니다. 나무그림으로 보면 사건이 일어나는 잎을 갈래마다 찾아 그 잎의 확률을 더하는 일이고, 앞 절에서 주머니의 둘째 공이 빨강일 확률 35\dfrac35 를 구할 때 이미 한 번 썼습니다. 갈래가 병 있음·없음 둘일 때 이 법칙이 베이즈 정리의 분모를 채워 주므로, 베이즈 정리를 쓰는 계산은 대개 분모부터 이 법칙으로 구하고 시작합니다.

몬티 홀

조건부확률이 직관과 가장 크게 어긋나는 문제로 이름난 것이 몬티 홀 문제입니다. 문이 셋 있고, 하나 뒤에는 자동차, 나머지 둘 뒤에는 염소가 있습니다. 당신이 1번 문을 고르면, 차가 어디 있는지 아는 사회자가 남은 두 문 중 염소가 있는 문 하나를 엽니다. 남은 두 문 모두 염소라면 둘 중 하나를 반반으로 고릅니다. 사회자가 3번 문을 열어 염소를 보여 주고 묻습니다. "2번으로 바꾸시겠습니까?"

닫힌 문이 둘 남았으니 반반이라고 느끼기 쉽습니다. 표본공간을 다시 적어 봅니다. 600판을 한다고 하면 차는 1번, 2번, 3번 뒤에 각각 200판씩 있습니다.

  • 차가 1번(200판): 2번과 3번 모두 염소라 사회자가 반반으로 고르고, 3번을 여는 것은 100판입니다.
  • 차가 2번(200판): 사회자는 차를 보여 줄 수 없으므로 반드시 3번을 엽니다. 200판입니다.
  • 차가 3번(200판): 사회자는 3번을 열 수 없습니다. 0판입니다.

600판을 차의 위치로 셋으로 나누고, 차가 어디 있는지 아는 사회자와 모르는 사회자가 3번 문을 열어 염소를 보여 준 판만 남겨 비교한 그림

"3번 문이 열렸다"는 조건이 바탕을 100+200=300100+200=300 판으로 좁힙니다. 그중 차가 2번에 있는 것이 200판이므로 바꾸면 이길 확률은 200300=23\dfrac{200}{300}=\dfrac23, 그대로 두면 100300=13\dfrac{100}{300}=\dfrac13 입니다. 바꾸는 쪽이 두 배 낫습니다.

답을 정한 것은 사회자가 차의 자리를 알고 문을 골랐다는 사실입니다. 사회자가 아무것도 모르고 2번과 3번 중 하나를 반반으로 열었는데 마침 염소였다면 계산이 달라집니다. 차가 1번인 200판 중 3번을 여는 것은 100판, 차가 2번인 200판 중에서도 3번을 여는 것은 100판이고, 차가 3번인 200판 중 3번을 연 100판은 차가 드러나 버리므로 "3번이 열렸고 염소"라는 조건에서 빠집니다. 남은 200판 중 차가 2번인 것이 100판이니 이때는 정말 반반입니다. 위 그림의 오른쪽 칸이 이 경우입니다. 문이 열린 모습은 똑같아도, 그 문이 어떻게 골라졌느냐에 따라 좁혀진 바탕이 달라집니다.

확률변수와 분포표

확률변수

지금까지 센 것은 "그 일이 일어났는가 아닌가"였습니다. 결과에 수를 붙이면 "얼마나"를 물을 수 있습니다.

시행의 결과마다 수를 하나씩 붙여 놓은 규칙을 확률변수라고 하고 보통 XX 로 적습니다. 결과가 들어가면 수가 하나 나오는 대응이므로 이름과 달리 함수에 가깝습니다. 동전을 세 번 던질 때 "앞면이 나온 횟수"가 그런 것입니다. 여덟 잎마다 0, 1, 2, 3 중 하나가 붙습니다 — 앞앞뒤에는 2, 뒤뒤뒤에는 0입니다.

확률변수가 가질 수 있는 값이 띄엄띄엄한 몇 개면 이산확률변수라고 합니다. 지금이 그렇고, 이 글에 나오는 확률변수는 모두 그렇습니다.

확률분포표

어떤 값이 나올 확률을 값마다 적어 놓은 표를 확률분포표라고 합니다. 여덟 잎은 모두 18\dfrac18 이고, 같은 값이 붙은 잎끼리 확률을 더합니다. 앞면이 하나인 잎은 앞뒤뒤, 뒤앞뒤, 뒤뒤앞 셋이라 38\dfrac38 입니다.

XX 0 1 2 3 합
확률 18\dfrac18 38\dfrac38 38\dfrac38 18\dfrac18 1

확률을 전부 더하면 1이 되어야 합니다. 여덟 잎을 값에 따라 빠짐없이, 겹치지 않게 네 묶음으로 나눈 것이니 당연합니다. 표를 만들고 나면 이 합부터 맞춰 보는 것이 검산입니다.

같은 시행의 다른 확률변수

같은 동전 세 번에 다른 수를 붙일 수도 있습니다. 이번에는 YY 를 "처음으로 앞면이 나온 차례"라 하고, 세 번 안에 앞면이 한 번도 안 나오면 0을 붙이기로 정합니다. 무엇을 붙일지는 묻는 사람이 정하는 것이므로 이렇게 약속해도 됩니다.

  • 첫 번째가 앞면이면 뒤의 두 번이 무엇이든 Y=1Y=1 입니다. 앞앞앞, 앞앞뒤, 앞뒤앞, 앞뒤뒤 네 잎입니다.
  • 뒤앞으로 시작하면 Y=2Y=2 입니다. 뒤앞앞, 뒤앞뒤 두 잎입니다.
  • 뒤뒤앞이면 Y=3Y=3 입니다. 한 잎입니다.
  • 뒤뒤뒤이면 Y=0Y=0 입니다. 한 잎입니다.
YY 0 1 2 3 합
확률 18\dfrac18 48\dfrac48 28\dfrac28 18\dfrac18 1

값의 목록은 XX 와 똑같이 0부터 3까지인데 확률은 전혀 다릅니다. 시행과 여덟 잎은 하나지만 거기 붙인 규칙이 다르면 분포표도 따로 생깁니다. 확률분포표는 시행이 아니라 확률변수마다 하나씩 있는 것입니다. 앞앞뒤 잎 하나만 봐도 XX 로는 2, YY 로는 1입니다.

기댓값

분포표 전체를 하나의 수로 요약하고 싶습니다. 값마다 그 값이 나올 확률을 곱해 모두 더합니다.

E[X]=∑x p(x)E[X] = \sum x\,p(x)

27번 글의 Σ\Sigma 가 여기서 처음 확률에 쓰입니다 — XX 가 가질 수 있는 값들에 대해 전부 더하라는 뜻이고, p(x)p(x) 는 분포표에서 값 xx 아래 칸에 적힌 확률입니다. 이 값을 기댓값이라고 합니다.

동전 세 번의 앞면 개수로 계산해 봅니다. 분포표의 네 칸을 차례로 곱하고 분모가 모두 8이니 분자끼리 더합니다.

E[X]=0×18+1×38+2×38+3×18=0+3+6+38=128=1.5E[X] = 0\times\frac18 + 1\times\frac38 + 2\times\frac38 + 3\times\frac18 = \frac{0+3+6+3}{8} = \frac{12}{8} = 1.5

균형점

확률분포표를 막대로 세우고 기댓값 자리에 받침을 놓은 그림

1.5는 실제로 나올 수 있는 값이 아닙니다. 앞면이 1.5번 나올 수는 없으니까요. 기댓값은 "가장 나올 것 같은 값"이 아니라 분포표를 막대로 세웠을 때 막대들이 좌우로 균형을 이루는 자리입니다. 이 시행을 아주 여러 번 되풀이해 앞면 개수를 평균 내면 그 평균이 다가가는 값이기도 합니다.

같은 시행의 다른 확률변수 YY 로도 해 봅니다.

E[Y]=0×18+1×48+2×28+3×18=0+4+4+38=118E[Y] = 0\times\frac18 + 1\times\frac48 + 2\times\frac28 + 3\times\frac18 = \frac{0+4+4+3}{8} = \frac{11}{8}

118=1.375\dfrac{11}{8}=1.375 입니다. 확률변수가 다르니 기댓값도 다릅니다.

주사위 하나로도 해 봅니다. 여섯 값이 모두 16\dfrac16 씩입니다.

E[X]=1+2+3+4+5+66=216=3.5E[X] = \frac{1+2+3+4+5+6}{6} = \frac{21}{6} = 3.5

확률이 모두 같으면 기댓값은 그냥 평균입니다. 다르면 확률이 큰 값 쪽으로 끌려갑니다.

기댓값에는 계산을 크게 줄여 주는 성질이 둘 있습니다. 결과만 적어 둡니다.

E[aX+b]=a E[X]+b,E[X+Y]=E[X]+E[Y]E[aX+b] = a\,E[X] + b, \qquad E[X+Y] = E[X] + E[Y]

앞의 것은 모든 값을 aa 배하고 bb 를 더하면 균형점도 똑같이 옮겨 간다는 말이고, 뒤의 것은 XX 와 YY 가 독립이 아니어도 성립합니다.

기대 이득

기댓값을 돈에 붙이면 놀이가 해볼 만한지를 잴 수 있습니다. 이런 놀이가 있다고 합시다. 한 판에 4,000원을 내고 주사위를 한 번 던져, 나온 눈 하나에 1,000원씩 받습니다. 6이 나오면 6,000원을 받으니 2,000원 남고, 1이 나오면 1,000원을 받으니 3,000원 잃습니다.

한 판의 손익을 확률변수로 세웁니다. 눈이 DD 이면 받는 돈은 1000D1000D 원이고 낸 돈 4,000원을 빼면 손익은 1000D−40001000D-4000 원입니다. 위의 첫째 성질을 쓰면 분포표를 새로 만들 필요가 없습니다.

E[1000D−4000]=1000×3.5−4000=3500−4000=−500E[1000D-4000] = 1000\times3.5 - 4000 = 3500 - 4000 = -500

한 판에 평균 500원을 잃는 놀이입니다. 손익 여섯 개를 직접 평균 내도 같습니다. 눈 1부터 6까지의 손익은 −3,000, −2,000, −1,000, 0, 1,000, 2,000원이고, 더하면 −3,000원, 여섯으로 나누면 −500원입니다.

이렇게 손익에 붙인 기댓값을 기대 이득이라고 부릅니다. 기대 이득이 0인 놀이를 공정한 게임이라고 하는데, 이 놀이에서는 참가비가 3,500원이면 공정합니다. 3,500원보다 비싸면 하는 쪽이 평균적으로 잃고, 싸면 평균적으로 얻습니다. 600판을 하면 대략 600×500=300,000600\times500=300{,}000 원쯤 잃을 것이라고 짐작할 수 있습니다. 판을 많이 할수록 실제 손익의 판당 평균이 −500원에 가까워집니다.

기댓값 밖의 것

기댓값이 음수인데도 사람들이 하는 놀이가 있습니다. 복권이 그렇습니다. 한 장에 1,000원이고 100만 장 중 한 장만 5억 원에 당첨된다고 합시다. 받는 돈의 기댓값은 500,000,000×11,000,000=500500{,}000{,}000\times\dfrac{1}{1{,}000{,}000}=500 원이고, 낸 1,000원을 빼면 기대 이득은 −500원입니다. 앞의 주사위 놀이와 똑같은 값입니다.

그래도 사는 사람이 있는 까닭은 기댓값이 담지 않는 것에 있습니다. 기댓값은 같은 일을 아주 여러 번 되풀이했을 때의 평균인데, 복권을 사는 사람은 대개 몇 장만 삽니다. 1,000원을 잃는 것은 삶을 거의 바꾸지 않지만 5억 원은 크게 바꿉니다. 같은 1원이라도 잃을 때와 얻을 때, 적을 때와 많을 때 무게가 다르게 느껴지는 것입니다. 기댓값은 "몇 번이고 되풀이하면 평균이 어디로 가는가"에 답할 뿐, 한 번 해 볼 만한가까지 정해 주지는 않습니다.

기댓값이 같다고 같은 놀이도 아닙니다. 아무것도 하지 않는 놀이는 늘 0원이라 기대 이득이 0입니다. 동전을 던져 앞면이면 10,000원을 받고 뒷면이면 10,000원을 내는 놀이도 10000×12+(−10000)×12=010000\times\dfrac12+(-10000)\times\dfrac12=0 으로 기대 이득이 0입니다. 그러나 둘은 전혀 다른 놀이입니다. 뒤쪽은 한 판마다 결과가 기댓값에서 멀리 흩어져 있습니다. 이 흩어진 정도를 수 하나로 재는 값이 분산이고, 그것을 세우는 일은 40번 · 기술통계의 몫입니다. 위에 적어 둔 두 성질도 거기서 분산을 다른 모양으로 고쳐 쓸 때 한 번 쓰입니다.

연습 문제

연습 1 — 조건부확률

주사위 두 개의 서른여섯 칸 표를 다시 씁니다.

  1. 첫 주사위가 3이라는 것을 알 때 합이 8일 확률
    후보가 셋째 줄 여섯 칸으로 좁아집니다. 그중 합이 8인 것은 (3,5)(3,5) 하나이므로 16\dfrac16 입니다.
  2. 합이 8이라는 것을 알 때 첫 주사위가 3일 확률
    합이 8인 칸은 (2,6),(3,5),(4,4),(5,3),(6,2)(2,6),(3,5),(4,4),(5,3),(6,2) 로 다섯입니다. 그중 첫 주사위가 3인 것은 하나이므로 15\dfrac15 입니다. 1번과 답이 다릅니다 — 조건을 어느 쪽에 거느냐에 따라 바탕이 달라지기 때문입니다.
  3. 두 눈이 서로 다르다는 것을 알 때 합이 7일 확률
    같은 칸 여섯을 빼면 서른 칸이 남습니다. 합이 7인 여섯 칸은 모두 두 눈이 다르므로 630=15\dfrac{6}{30}=\dfrac15 입니다.

연습 2 — 독립과 두 번 꺼내기

  1. 동전을 두 번 던질 때 "첫 번째가 앞"과 "두 번째가 뒤"가 독립인지
    네 갈래 중 각각 둘씩이라 확률이 12\dfrac12 씩이고, 둘 다인 것은 (앞, 뒤) 하나로 14\dfrac14 입니다. 12×12=14\dfrac12\times\dfrac12=\dfrac14 이므로 독립입니다.
  2. 주사위 하나를 던질 때 "짝수"와 "3 이하"가 독립인지
    짝수는 {2,4,6}\{2,4,6\} 으로 12\dfrac12, 3 이하는 {1,2,3}\{1,2,3\} 으로 12\dfrac12, 둘 다인 것은 {2}\{2\} 하나로 16\dfrac16 입니다. 12×12=14\dfrac12\times\dfrac12=\dfrac14 인데 16\dfrac16 이므로 독립이 아닙니다.
  3. 흰 공 4개와 검은 공 2개가 든 주머니에서 되돌리지 않고 두 개를 꺼낼 때 둘 다 흰 공일 확률
    첫째가 흰 공일 확률은 46\dfrac46 이고, 흰 공 하나가 나가면 흰 공 3개, 검은 공 2개가 남아 둘째는 35\dfrac35 입니다. 46×35=1230=25\dfrac46\times\dfrac35=\dfrac{12}{30}=\dfrac25 입니다.
  4. 같은 주머니에서 꺼낸 공을 되돌려 넣으며 두 번 꺼낼 때 둘 다 흰 공일 확률
    주머니가 매번 처음과 같으므로 46×46=1636=49\dfrac46\times\dfrac46=\dfrac{16}{36}=\dfrac49 입니다. 3번의 25=0.4\dfrac25=0.4 보다 49≈0.444\dfrac49\approx0.444 가 큽니다.
  5. 같은 주머니에서 되돌리지 않고 세 개를 꺼낼 때 셋 다 흰 공일 확률
    가지가 46\dfrac46, 35\dfrac35, 그리고 흰 공 2개와 검은 공 2개가 남은 주머니에서 24\dfrac24 입니다. 46×35×24=24120=15\dfrac46\times\dfrac35\times\dfrac24=\dfrac{24}{120}=\dfrac15 입니다.

연습 3 — 전확률 법칙과 베이즈

베이즈 문제는 만 명을 놓고 넷으로 가르면 손으로 됩니다.

  1. 어떤 제품의 60%는 가 공장에서, 40%는 나 공장에서 만듭니다. 가 공장 제품의 2%, 나 공장 제품의 5%가 불량입니다. 제품 하나를 아무거나 골랐을 때 불량일 확률
    공장으로 두 갈래를 나눠 더합니다. 0.6×0.02=0.0120.6\times0.02=0.012 이고 0.4×0.05=0.0200.4\times0.05=0.020 이므로 0.012+0.020=0.0320.012+0.020=0.032, 곧 3.2%입니다.
  2. 어느 날 비가 올 확률은 0.3입니다. 비가 오면 지각할 확률이 0.4, 비가 안 오면 0.1입니다. 그날 지각할 확률
    비가 안 올 확률은 1−0.3=0.71-0.3=0.7 입니다. 0.3×0.4=0.120.3\times0.4=0.12 이고 0.7×0.1=0.070.7\times0.1=0.07 이므로 0.12+0.07=0.190.12+0.07=0.19 입니다.
  3. 유병률 2%, 민감도 90%, 특이도 90%인 검사에서 양성이 나올 확률과, 양성일 때 실제로 병일 확률
    병이 있으면서 양성은 0.02×0.9=0.0180.02\times0.9=0.018, 병이 없으면서 양성은 0.98×0.1=0.0980.98\times0.1=0.098 이라 양성 확률은 0.018+0.098=0.1160.018+0.098=0.116 입니다. 베이즈 정리로 0.0180.116=18116=958≈0.155\dfrac{0.018}{0.116}=\dfrac{18}{116}=\dfrac{9}{58}\approx0.155, 약 15.5%입니다.
  4. 민감도 99%, 특이도 95%는 그대로인데 유병률이 10%인 병에서, 양성일 때 실제로 병일 확률
    만 명 중 병이 있는 사람이 1,000명이고 그중 양성은 990명입니다. 병이 없는 9,000명 중 양성은 5%인 450명입니다. 양성은 모두 1,440명이므로 9901440=0.6875\dfrac{990}{1440}=0.6875, 약 68.8%입니다. 유병률만 올렸는데 16.7%에서 크게 뛰었습니다.

연습 4 — 기댓값과 기대 이득

  1. 주사위 하나를 던져 짝수면 그 눈만큼 점수를 받고 홀수면 0점일 때의 기댓값
    값이 0, 2, 4, 6이고 확률은 각각 36,16,16,16\dfrac36,\dfrac16,\dfrac16,\dfrac16 입니다. 0+2+4+66=126=2\dfrac{0+2+4+6}{6}=\dfrac{12}{6}=2 점입니다.
  2. 앞면이면 300원을 받고 뒷면이면 100원을 잃는 놀이를 한 번 할 때의 기댓값
    300×12+(−100)×12=150−50=100300\times\dfrac12 + (-100)\times\dfrac12 = 150-50 = 100 원입니다.
  3. XX 가 1일 확률 0.5, 2일 확률 0.3, 5일 확률 0.2일 때의 기댓값
    먼저 0.5+0.3+0.2=10.5+0.3+0.2=1 이라 분포표가 성립합니다. 1×0.5+2×0.3+5×0.2=0.5+0.6+1.0=2.11\times0.5+2\times0.3+5\times0.2=0.5+0.6+1.0=2.1 입니다.
  4. 2,000원을 내고 동전을 두 번 던져, 앞면 하나에 1,500원씩 받는 놀이의 한 판 기대 이득
    앞면 개수가 0, 1, 2일 확률이 14,24,14\dfrac14,\dfrac24,\dfrac14 라 앞면 개수의 기댓값은 0×14+1×24+2×14=10\times\dfrac14+1\times\dfrac24+2\times\dfrac14=1 입니다. 받는 돈의 기댓값은 1500×1=15001500\times1=1500 원이고 1500−2000=−5001500-2000=-500 원, 한 판에 평균 500원을 잃습니다.
  5. 1,000원을 내고 주사위를 던져, 6이 나오면 5,000원, 5가 나오면 1,000원을 받고 나머지는 아무것도 못 받는 놀이의 한 판 기대 이득
    받는 돈의 기댓값은 5000×16+1000×16=60006=10005000\times\dfrac16+1000\times\dfrac16=\dfrac{6000}{6}=1000 원입니다. 1000−1000=01000-1000=0 원이라 공정한 게임입니다.
  6. 가 놀이는 주사위를 던져 1이면 6,000원을 내고 나머지면 1,500원을 받습니다. 나 놀이는 동전을 던져 앞면이면 2,000원을 받고 뒷면이면 1,600원을 냅니다. 기대 이득으로 보면 어느 쪽이 나은지
    가는 −6000+5×15006=15006=250\dfrac{-6000+5\times1500}{6}=\dfrac{1500}{6}=250 원이고, 나는 2000×12+(−1600)×12=1000−800=2002000\times\dfrac12+(-1600)\times\dfrac12=1000-800=200 원입니다. 가가 판당 50원 더 낫습니다. 다만 가는 한 번에 6,000원을 잃을 수 있어 결과가 더 크게 흩어집니다.

정리

  • 조건부확률 P(A∣B)P(A\mid B) 는 표본공간을 BB 로 좁혀 다시 센 것입니다. 세로줄은 "주어졌을 때"로 읽고, ∣A∣\lvert A\rvert 의 감싸는 세로줄 둘과 달리 짝이 없는 하나입니다.

    P(A∣B)=P(A∩B)P(B)P(A\mid B)=\frac{P(A\cap B)}{P(B)}

  • 칸이 등확률이 아니면 개수 대신 확률을 더합니다. 기울어진 동전에서 잎을 세면 37\dfrac37, 확률을 더하면 613\dfrac{6}{13} 입니다.

  • 양변에 P(B)P(B) 를 곱하면 곱셈정리 P(A∩B)=P(B)P(A∣B)P(A\cap B)=P(B)P(A\mid B) 입니다. 나무그림에서 가지의 확률을 곱하는 것이 이것이고, 둘째 단부터의 가지는 조건부확률입니다.

  • 독립은 P(A∩B)=P(A)P(B)P(A\cap B)=P(A)P(B), 즉 한쪽을 알아도 다른 쪽의 확률이 그대로인 것입니다. 공을 되돌리며 꺼내면 독립이고, 되돌리지 않으면 둘째 가지가 첫째에 따라 바뀌어 독립이 아닙니다.

  • 배반과 독립은 다릅니다. 배반이면 한쪽이 일어났다는 사실이 다른 쪽을 확실히 부정하므로, 확률이 0이 아닌 한 배반인 두 사건은 독립이 아닙니다.

  • 베이즈 정리는 곱셈정리를 두 방향으로 적어 나눈 것이고, 분모는 전확률 법칙으로 갈래마다 구해 더합니다.

    P(A∣B)=P(B∣A)P(A)P(B)P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}

    유병률 1%인 병에서 민감도 99%·특이도 95%짜리 검사가 양성이어도 실제로 병일 확률은 약 16.7%입니다. 몬티 홀 문제에서는 사회자가 알고 문을 열었기 때문에 바꾸는 쪽이 23\dfrac23 입니다.

  • 확률변수는 결과마다 붙여 놓은 수이고, 값마다 확률을 적은 것이 확률분포표입니다. 같은 시행에도 확률변수마다 분포표가 따로 있고, 확률의 합은 1입니다.

  • 기댓값 E[X]=∑x p(x)E[X]=\sum x\,p(x) 는 막대들이 균형을 이루는 자리입니다. 돈에 붙이면 기대 이득이 되어 놀이를 견줄 수 있지만, 한 번만 하는 사람의 판단과 결과가 흩어진 정도는 담지 않습니다.

지금까지는 표본공간을 손으로 다 적을 수 있었습니다. 다음 글은 다 적을 수 없을 만큼 큰 것을 세는 도구를 만듭니다.


읽어주셔서 감사합니다. 😊

LATEST

수학의 최신 글

수학2026.11.17

다양체 위의 최적화: 직교 제약과 Muon의 직교화가 하는 일

차트·접공간·리만 계량·측지선·후퇴로 다양체를 세우고, 스티펠·그라스만·양정치 행렬·확률 단체의 접공간과 사영을 계산한 뒤, 리만 그래디언트가 유클리드 그래디언트의 접공간 사영임을 증명하고 극분해 후퇴와 뉴턴–슐츠 반복의 수렴 조건을 다룹니다.

고급46 MIN
수학2026.11.17

프리컨디셔닝의 이론: Adam에서 K-FAC·Shampoo·Muon까지 한 줄로

갱신 −ηP⁻¹∇를 노름의 최급강하로 읽고 헤세·가우스–뉴턴·피셔·경험적 피셔의 관계를 정리한 뒤, 준뉴턴과 3차 정규화, K-FAC의 크로네커 인수분해와 그 독립 가정, Shampoo의 −1/4 지수, Muon의 스펙트럴 노름 유도를 차례로 세워 이들이 어디서 일치하는지 보입니다.

고급41 MIN
수학2026.11.17

확률적 근사와 SGD의 연속 극한: 수렴한다는 말의 정확한 뜻

로빈스–먼로 조건과 마팅게일 잡음으로 SGD의 수렴을 정확히 정의하고, 볼록·강볼록·PL·비볼록에서의 수렴률과 오라클 하한을 계산한 뒤, SGD를 확률미분방정식으로 읽어 학습률/배치가 온도가 되는 관점과 안정성의 가장자리를 다룹니다.

고급48 MIN