데이터분석 전문가(ADP)

데이터분석 전문가(ADP) 시험 노트개념 정리17 MIN

확률분포와 중심극한정리

ADP 4과목 통계 분석의 둘째 자리입니다. 조건부확률과 독립, 베이즈 정리, 기대값과 분산, 이항·포아송·정규분포와 표준화, t·카이제곱·F 분포, 표본평균의 분포와 중심극한정리를 손계산과 R 함수로 정리합니다.

앞 노트는 표본을 뽑고 요약하는 데서 멈췄습니다. 그 요약값이 얼마나 믿을 만한지 말하려면 「표본을 다시 뽑으면 이 값이 어떻게 흔들리는가」를 알아야 하고, 그 흔들림을 적는 언어가 확률분포입니다. 이 노트는 확률의 기본 규칙에서 시작해 자주 쓰는 분포 다섯을 거쳐, 다음 노트의 추정과 검정을 떠받치는 중심극한정리까지 갑니다. 계산은 손으로 한 번, R 함수로 한 번 맞춥니다.

확률의 규칙

조건부확률

조건부확률은 사건 B가 일어났다는 것을 안 뒤에 사건 A가 일어날 확률이고 P(A∣B)=P(A∩B)/P(B)P(A \mid B) = P(A \cap B) / P(B) 로 구합니다. 고객의 40%가 앱을 쓰고, 앱을 쓰면서 구매도 한 고객이 12%라면 앱 사용자 가운데 구매자의 비율은 0.12÷0.4=0.30.12 \div 0.4 = 0.3 입니다. 분모가 전체가 아니라 B로 좁혀진다는 것이 핵심이고, 식을 바꾸면 곱셈 규칙 P(A∩B)=P(A∣B)P(B)P(A \cap B) = P(A \mid B) P(B) 가 됩니다.

독립과 배반

두 사건이 독립이라는 것은 한쪽이 일어났는지가 다른 쪽의 확률을 바꾸지 않는다는 뜻이고, P(A∩B)=P(A)P(B)P(A \cap B) = P(A) P(B) 이면 독립입니다. 헷갈리는 짝이 배반으로, 두 사건이 동시에 일어날 수 없다는 뜻입니다.

구분 독립 배반
정의 P(A∩B)=P(A)P(B)P(A \cap B) = P(A)P(B) P(A∩B)=0P(A \cap B) = 0
뜻 한쪽을 알아도 다른 쪽 확률이 그대로다 한쪽이 일어나면 다른 쪽은 안 일어난다

확률이 0이 아닌 두 사건이 배반이면 독립일 수 없습니다. 배반이면 한쪽이 일어났다는 사실이 다른 쪽의 확률을 0으로 만들어 버리므로, 오히려 강하게 얽혀 있는 셈입니다.

베이즈 정리

베이즈 정리는 원인에서 결과로 가는 확률을 알 때 결과에서 원인으로 거꾸로 가는 확률을 구하는 식입니다. P(A∣B)=P(B∣A)P(A)/P(B)P(A \mid B) = P(B \mid A) P(A) / P(B) 이고, 분모 P(B)P(B) 는 원인마다의 경우를 더한 전확률로 구합니다. 유병률이 1%인 병에 대해 환자를 양성으로 잡을 확률이 90%, 건강한 사람을 잘못 양성으로 잡을 확률이 5%인 검사가 있다고 하겠습니다. 양성일 확률은 0.01×0.9+0.99×0.05=0.05850.01 \times 0.9 + 0.99 \times 0.05 = 0.0585 이고, 양성일 때 실제 환자일 확률은 0.009÷0.0585≈0.1540.009 \div 0.0585 \approx 0.154 입니다. 검사가 90%를 맞힌다는 말과 양성 판정자의 15%만 환자라는 결과가 함께 성립하는 것은 유병률, 곧 사전확률이 낮기 때문입니다.

확률변수

이산형과 연속형

확률변수는 실험의 결과마다 수를 하나씩 대응시킨 것이고, 그 수들이 어떤 확률로 나오는지를 적은 것이 확률분포입니다. 주사위 눈, 하루 방문자 수처럼 셀 수 있는 값을 가지면 이산형이고 확률질량함수로 값마다 확률을 줍니다. 키, 대기 시간처럼 구간 안의 모든 실수를 가지면 연속형이고 확률밀도함수 아래의 넓이가 확률입니다. 연속형에서는 한 점의 확률이 0이라 P(X≤3)P(X \le 3) 과 P(X<3)P(X < 3) 이 같습니다.

기대값과 분산

기대값은 확률을 가중치로 쓴 평균이고 E(X)=∑x P(x)E(X) = \sum x \, P(x) 입니다. 값 0, 1, 2가 확률 0.2, 0.5, 0.3으로 나오면 E(X)=0+0.5+0.6=1.1E(X) = 0 + 0.5 + 0.6 = 1.1 입니다. 분산은 Var(X)=E(X2)−{E(X)}2Var(X) = E(X^2) - \{E(X)\}^2 로 구하는 편이 빠르고, E(X2)=0+0.5+1.2=1.7E(X^2) = 0 + 0.5 + 1.2 = 1.7 이므로 1.7−1.21=0.491.7 - 1.21 = 0.49 입니다.

선형 변환의 규칙은 외워 둡니다. E(aX+b)=aE(X)+bE(aX + b) = aE(X) + b 이고 Var(aX+b)=a2Var(X)Var(aX + b) = a^2 Var(X) 입니다. 더한 상수 b는 분산을 바꾸지 않고, 곱한 a는 제곱으로 들어갑니다. 두 확률변수가 독립이면 Var(X+Y)=Var(X)+Var(Y)Var(X + Y) = Var(X) + Var(Y) 이고, 빼도 분산은 더해집니다.

이산형 분포

이항분포

이항분포는 성공 확률이 p인 독립 시행을 n번 했을 때 성공 횟수의 분포입니다. 각 시행이 성공·실패 둘뿐인 베르누이 시행이고, 확률은 P(X=k)=(nk)pk(1−p)n−kP(X = k) = \binom{n}{k} p^k (1-p)^{n-k} 입니다. 평균은 npnp, 분산은 np(1−p)np(1-p) 입니다. 전환율 20%인 광고를 10명에게 보이면 평균 2명이 전환하고 분산은 1.6이며, 정확히 2명이 전환할 확률은 45×0.04×0.88≈0.30245 \times 0.04 \times 0.8^8 \approx 0.302 입니다.

포아송분포

포아송분포는 정해진 시간이나 공간 안에서 드물게 일어나는 사건의 횟수 분포입니다. 단위당 평균 발생 횟수 λ 하나로 정해지고 P(X=k)=e−λλk/k!P(X = k) = e^{-\lambda} \lambda^k / k! 이며, 평균과 분산이 둘 다 λ 입니다. 시간당 평균 3건의 문의가 오는 창구에서 한 시간에 한 건도 안 올 확률은 e−3≈0.050e^{-3} \approx 0.050, 정확히 2건 올 확률은 e−3×9/2≈0.224e^{-3} \times 9 / 2 \approx 0.224 입니다. 이항분포에서 n이 크고 p가 작으면 λ=np\lambda = np 인 포아송분포로 근사합니다.

dbinom(2, size = 10, prob = 0.2)   # 0.3019899
dpois(0, lambda = 3)               # 0.04978707
dpois(2, lambda = 3)               # 0.2240418

정규분포

정규분포의 모양

정규분포는 평균 μ를 중심으로 좌우 대칭인 종 모양의 연속형 분포이고 μ와 표준편차 σ 둘로 정해집니다. 평균·중앙값·최빈값이 한 점에 겹치고, μ±σ 안에 약 68%, μ±2σ 안에 약 95%, μ±3σ 안에 약 99.7%가 듭니다. 앞 노트의 ESD가 3σ를 기준으로 삼은 까닭이 이 마지막 수치입니다.

표준화

평균과 표준편차가 제각각인 정규분포를 하나로 맞추는 조작이 표준화이고, Z=(X−μ)/σZ = (X - \mu) / \sigma 로 바꾸면 평균 0, 표준편차 1인 표준정규분포를 따릅니다. 평균 70점, 표준편차 10점인 시험에서 85점은 Z=1.5Z = 1.5 이고, 표준정규분포표에서 P(Z≤1.5)=0.9332P(Z \le 1.5) = 0.9332 이므로 상위 약 6.7%입니다. 표준화한 Z는 단위가 다른 두 점수를 견줄 때도 씁니다.

pnorm(1.5)                    # 0.9331928
pnorm(85, mean = 70, sd = 10) # 같은 값
qnorm(0.975)                  # 1.959964 — 양쪽 5%의 경계

표본분포

t분포

표본에서 계산한 통계량이 따르는 분포를 표본분포라 하고, 검정에서 쓰는 셋이 t·카이제곱·F입니다. t분포는 모집단 표준편차를 모를 때 표본 표준편차로 표준화한 표본평균이 따르는 분포입니다. 0을 중심으로 대칭이지만 정규분포보다 꼬리가 두껍고, 자유도 n−1n-1 이 커질수록 표준정규분포에 가까워집니다. 자유도 9에서 양쪽 5% 경계는 qt(0.975, 9)로 약 2.262이고, 같은 자리의 정규분포 값 1.96보다 큽니다.

카이제곱분포와 F분포

카이제곱분포는 서로 독립인 표준정규 변수 k개를 제곱해 더한 값의 분포이고 자유도 k를 가집니다. 제곱의 합이라 0 이상의 값만 가지며 오른쪽으로 꼬리가 깁니다. 모분산 검정과 범주형 자료의 적합도·독립성 검정에 씁니다. F분포는 두 카이제곱 변수를 각자의 자유도로 나눈 뒤 그 비를 취한 값의 분포이고, 자유도를 둘 가집니다. 두 분산의 비를 다루므로 등분산 검정과 분산분석에 씁니다.

분포 값의 범위 모양 쓰는 자리
t 모든 실수 0 중심 대칭 평균 검정 (σ를 모를 때)
카이제곱 0 이상 오른쪽 꼬리 분산 검정, 범주형 검정
F 0 이상 오른쪽 꼬리 분산비, 분산분석

중심극한정리

표본평균의 분포

모집단에서 크기 n인 표본을 거듭 뽑아 평균을 내면 그 표본평균 Xˉ\bar{X} 도 하나의 확률변수입니다. 그 기대값은 모평균 μ와 같고 분산은 σ2/n\sigma^2 / n 입니다. 표본평균의 표준편차 σ/n\sigma / \sqrt{n} 을 따로 표준오차라 부릅니다. 모집단 표준편차가 12이고 n이 36이면 표준오차는 12÷6=212 \div 6 = 2 이고, n을 144로 네 배 늘려야 1로 절반이 됩니다.

중심극한정리

중심극한정리는 모집단의 분포가 어떤 모양이든, 표본 크기가 충분히 크면 표본평균의 분포가 평균 μ, 분산 σ2/n\sigma^2 / n 인 정규분포에 가까워진다는 정리입니다. 통상 n이 30 이상이면 충분하다고 봅니다. 모집단이 정규분포이면 n과 상관없이 표본평균도 정규분포를 따르므로, 이 정리가 쓸모 있는 자리는 모집단이 정규분포가 아니거나 모를 때입니다. 평균 50, 표준편차 12인 모집단에서 36개를 뽑으면 표본평균이 53을 넘을 확률은 P(Z>1.5)≈0.067P(Z > 1.5) \approx 0.067 입니다. 「표본 자체가 정규분포가 된다」로 바꿔 놓은 보기는 틀린 말입니다 — 정규에 가까워지는 것은 개별 관측값이 아니라 표본평균입니다.

연습 문제

  1. 공장 A가 전체 제품의 60%를 만들고 불량률이 2%, 공장 B가 40%를 만들고 불량률이 5%다. 불량품 하나를 집었을 때 그것이 B에서 나왔을 확률은?
    ① 0.4
    ② 0.5
    ③ 0.625
    ④ 0.75
    ③. 불량일 확률은 0.6×0.02+0.4×0.05=0.012+0.02=0.0320.6 \times 0.02 + 0.4 \times 0.05 = 0.012 + 0.02 = 0.032 이고, 그중 B 몫은 0.02÷0.032=0.6250.02 \div 0.032 = 0.625 입니다.
  2. P(A)=0.5P(A) = 0.5, P(B)=0.4P(B) = 0.4, P(A∩B)=0.2P(A \cap B) = 0.2 일 때 옳은 것은?
    ① A와 B는 배반이다
    ② A와 B는 독립이다
    ③ P(A∣B)=0.4P(A \mid B) = 0.4
    ④ P(A∪B)=0.9P(A \cup B) = 0.9
    ②. 0.5×0.4=0.20.5 \times 0.4 = 0.2 이므로 독립입니다. P(A∣B)=0.2÷0.4=0.5P(A \mid B) = 0.2 \div 0.4 = 0.5 이고, P(A∪B)=0.5+0.4−0.2=0.7P(A \cup B) = 0.5 + 0.4 - 0.2 = 0.7 입니다.
  3. 확률변수 X의 기대값이 4, 분산이 2일 때 Y=3X+2Y = 3X + 2 의 기대값과 분산은?
    ① 14, 6
    ② 14, 18
    ③ 12, 18
    ④ 14, 20
    ②. 기대값은 3×4+2=143 \times 4 + 2 = 14 이고 분산은 32×2=183^2 \times 2 = 18 입니다. 더한 2는 분산에 들어가지 않습니다.
  4. 성공 확률이 0.3인 시행을 독립적으로 20번 할 때 성공 횟수의 평균과 분산은?
    ① 6, 4.2
    ② 6, 6
    ③ 6, 1.8
    ④ 14, 4.2
    ①. 평균은 20×0.3=620 \times 0.3 = 6, 분산은 20×0.3×0.7=4.220 \times 0.3 \times 0.7 = 4.2 입니다. 평균과 분산이 같은 ②는 포아송분포의 성질입니다.
  5. 하루 평균 2건의 장애가 나는 시스템에서 장애 횟수가 포아송분포를 따를 때, 하루에 장애가 한 건도 없을 확률은? (e−2≈0.135e^{-2} \approx 0.135)
    ① 약 0.135
    ② 약 0.271
    ③ 약 0.5
    ④ 약 0.865
    ①. P(X=0)=e−2×20/0!=e−2P(X = 0) = e^{-2} \times 2^0 / 0! = e^{-2} 입니다. 0.271은 정확히 1건일 확률 2e−22e^{-2}, 0.865는 한 건 이상일 확률입니다.
  6. 평균 500, 표준편차 100인 정규분포에서 650을 넘을 확률은? (P(Z≤1.5)=0.9332P(Z \le 1.5) = 0.9332)
    ① 0.0228
    ② 0.0668
    ③ 0.1587
    ④ 0.9332
    ②. Z=(650−500)/100=1.5Z = (650 - 500) / 100 = 1.5 이고 1−0.9332=0.06681 - 0.9332 = 0.0668 입니다.
  7. 평균 200, 표준편차 40인 모집단에서 64개를 뽑을 때 표본평균이 190보다 작을 확률은? (P(Z≤2)=0.9772P(Z \le 2) = 0.9772)
    ① 0.0228
    ② 0.0456
    ③ 0.4013
    ④ 0.9772
    ①. 표준오차는 40/64=540 / \sqrt{64} = 5 이고 Z=(190−200)/5=−2Z = (190 - 200) / 5 = -2 입니다. P(Z<−2)=1−0.9772=0.0228P(Z < -2) = 1 - 0.9772 = 0.0228 입니다. 표준오차 대신 40을 쓰면 Z=−0.25Z = -0.25 가 되어 ③ 근처로 갑니다.
  8. 분포에 대한 설명으로 옳지 않은 것은?
    ① t분포는 자유도가 커질수록 표준정규분포에 가까워진다
    ② 카이제곱분포는 음수 값을 가질 수 있다
    ③ F분포는 두 분산의 비를 다룰 때 쓴다
    ④ 포아송분포는 평균과 분산이 같다
    ②. 카이제곱 변수는 표준정규 변수의 제곱합이라 0 이상입니다.
  9. 중심극한정리에 대한 설명으로 옳은 것은?
    ① 표본이 크면 표본의 개별 관측값이 정규분포를 따른다
    ② 모집단이 정규분포일 때만 성립한다
    ③ 표본이 크면 표본평균의 분포가 정규분포에 가까워진다
    ④ 표본이 커질수록 표본평균의 분산이 커진다
    ③. 정규에 가까워지는 것은 표본평균이고, 모집단 분포와 무관하게 성립합니다. 표본평균의 분산 σ2/n\sigma^2 / n 은 n이 커질수록 작아집니다.
데이터분석 전문가(ADP) 시험 노트 전체 보기