수학

MATH / 초급 40번

기술통계: 평균·분산·분위수로 자료 뭉치를 요약하기

손에 든 숫자 뭉치를 몇 개의 수로 줄이는 법입니다. 평균이 넷이나 되는 이유부터 분산과 표준편차, 사분위수와 상자그림, 그리고 히스토그램의 칸 나누기가 결론을 바꾸는 자리까지 손으로 계산합니다.

PALDYN Team50 MIN READ

숫자 열두 개가 적힌 종이가 있습니다.

2, 4, 5, 7, 8, 8, 10, 10, 11, 13, 14, 162,\ 4,\ 5,\ 7,\ 8,\ 8,\ 10,\ 10,\ 11,\ 13,\ 14,\ 16

이 뭉치를 몇 개의 수로 줄여 말하고 싶습니다. 지난 글까지는 아직 일어나지 않은 일을 셌지만, 이번에는 이미 손에 든 숫자를 요약합니다. 손에 든 자료를 몇 개의 수와 그림으로 줄여 보여 주는 일을 기술통계라고 합니다.

요약에는 두 갈래가 있습니다. 하나는 「가운데가 어디쯤인가」이고, 다른 하나는 「얼마나 퍼져 있는가」입니다. 이 글은 앞의 것을 평균·중앙값·최빈값으로, 뒤의 것을 분산·표준편차·사분위수로 잰 다음, 마지막에 히스토그램이라는 그림으로 돌아갑니다. 숫자 몇 개로 줄이면 반드시 무언가를 버리게 되는데, 무엇을 버리는지까지 함께 봅니다. 계산은 전부 위의 열두 개로 하므로 종이에 옮겨 적어 두면 따라가기 편합니다.

평균 넷

가운데쯤을 나타내는 수를 평균이라고 부릅니다. 그런데 무엇을 묻느냐에 따라 계산이 달라지고, 그래서 평균이라는 이름이 붙은 계산이 넷이나 됩니다.

산술평균과 가중평균

전부 더해 개수로 나눈 것을 산술평균이라고 합니다. 그냥 「평균」이라고 하면 대개 이것입니다. 위 자료라면

2+4+5+7+8+8+10+10+11+13+14+1612=10812=9\frac{2+4+5+7+8+8+10+10+11+13+14+16}{12} = \frac{108}{12} = 9

입니다. 합 108을 열두 사람이 똑같이 나눠 가지면 한 사람 몫이 9라는 뜻으로 읽으면 됩니다.

값마다 중요한 정도가 다를 때도 있습니다. 중간고사 80점·기말고사 90점인데 기말이 60%를 차지한다면 두 점수를 똑같이 나눌 수 없습니다. 이때 값마다 곱하는 비중을 가중치라 하고, 값에 가중치를 곱해 더한 것을 가중평균이라고 합니다. 가중치는 합이 1이 되도록 잡습니다.

80×0.4+90×0.6=32+54=8680\times0.4 + 90\times0.6 = 32 + 54 = 86

가중평균이 산술평균과 다른 계산처럼 보이지만, 사실은 산술평균이 가중평균의 한 경우입니다. 가중치를 둘 다 12\frac12 로 놓으면

80×12+90×12=40+45=8580\times\frac12 + 90\times\frac12 = 40 + 45 = 85

이고, 이것은 80+902\frac{80+90}{2} 과 같습니다. 일반적으로 값이 nn 개일 때 가중치를 전부 1n\frac1n 로 똑같이 주면 「더해서 nn 으로 나눈다」가 됩니다. 산술평균은 모든 값을 똑같이 대접한 가중평균이고, 가중평균은 그 대접을 값마다 달리한 것입니다. 기말 비중을 0.6으로 올렸더니 평균이 85에서 86으로 기말 점수 쪽으로 1 끌려간 것도 이렇게 읽힙니다 — 가중치가 큰 값 쪽으로 평균이 당겨집니다.

기하평균

주식이 첫해에 2배가 되고 둘째 해에 절반이 되었다고 합시다. 두 해 뒤에는 제자리입니다. 그런데 산술평균을 쓰면

2+0.52=1.25\frac{2 + 0.5}{2} = 1.25

해마다 1.25배씩이라면 두 해면 1.25×1.25=1.56251.25 \times 1.25 = 1.5625 배가 되어야 합니다. 실제로는 1배이니 틀렸습니다.

어긋난 까닭은 배수가 더해서 쌓이지 않고 곱해서 쌓이기 때문입니다. 「해마다 똑같이 몇 배씩이었다면 두 해 뒤 같은 자리에 오는가」를 물으려면, 같은 수를 두 번 곱해 2×0.52 \times 0.5 가 되는 수를 찾아야 합니다.

2×0.5=1=1\sqrt{2 \times 0.5} = \sqrt{1} = 1

제자리가 맞습니다. 값 nn 개를 모두 곱해 nn 제곱근을 취한 것을 기하평균이라고 합니다. 산술평균이 「같은 몫으로 나눠 더하면 합이 같아지는 수」라면, 기하평균은 「같은 배수로 바꿔 곱하면 곱이 같아지는 수」입니다. 덧셈 자리에 곱셈을, 나눗셈 자리에 거듭제곱근을 놓은 짝입니다. 그래서 기하평균은 값이 전부 양수일 때만 씁니다 — 0이 하나라도 끼면 곱이 0이 되어 나머지 값이 무엇이든 0이 나옵니다.

조화평균

갈 때 60km/h, 올 때 40km/h로 같은 거리를 왕복했습니다. 평균 속도가 50km/h일까요.

왕복 도식과, 조화·기하·산술 세 평균이 수직선에 놓인 그림

편도가 120km라면 갈 때 2시간, 올 때 3시간이 걸립니다. 모두 240km를 5시간에 간 것이므로

2405=48 km/h\frac{240}{5} = 48\ \text{km/h}

느린 쪽에서 시간을 더 많이 보내기 때문에 평균이 느린 쪽으로 끌립니다. 이런 경우에는 역수의 산술평균을 구한 뒤 다시 뒤집습니다. 속도의 역수 160\frac1{60} 은 「1km 가는 데 걸리는 시간」이라, 거리가 같을 때 더해도 되는 것은 속도가 아니라 이 시간이기 때문입니다.

2160+140=2124=48\frac{2}{\frac{1}{60}+\frac{1}{40}} = \frac{2}{\frac{1}{24}} = 48

이렇게 역수의 산술평균을 다시 뒤집은 것을 조화평균이라고 합니다.

조건을 하나만 바꾸면 답이 산술평균으로 돌아옵니다. 거리가 아니라 시간이 같았다고 해 봅시다. 60km/h로 한 시간, 40km/h로 한 시간을 달리면 두 시간에 100km이므로 평균 속도는 정확히 50km/h입니다. 이번에는 두 속도에서 보낸 시간이 같으니 두 속도가 같은 무게로 섞이고, 그것이 곧 산술평균입니다. 정리하면 이렇습니다.

  • 같은 거리를 다른 속도로 갔다 → 조화평균
  • 같은 시간 동안 다른 속도로 갔다 → 산술평균

어느 평균을 쓸지는 숫자가 아니라 문제의 조건이 정합니다. 「무엇이 같았는가」를 먼저 묻는 습관을 들이면 고르기가 쉽습니다.

세 평균의 순서

세 평균에는 순서가 있습니다. 60과 40이라면 조화 48, 기하 2400≈48.99\sqrt{2400}\approx48.99, 산술 50입니다.

조화평균≤기하평균≤산술평균\text{조화평균} \le \text{기하평균} \le \text{산술평균}

17번 글에서 세운 a+b≥2aba+b \ge 2\sqrt{ab} 가 바로 오른쪽 부등호이고, 양변을 2로 나누면 산술평균이 기하평균 이상이라는 말이 됩니다. 셋이 같아지는 것은 두 수가 같을 때뿐입니다. 위 그림의 수직선에서 세 점이 40과 60 사이에 들어가되 조화평균이 가장 왼쪽에 서 있는 것이 이 순서입니다. 두 수가 멀리 떨어질수록 세 점 사이도 벌어집니다 — 10과 90이라면 조화 18, 기하 30, 산술 50입니다.

중앙값과 최빈값

평균은 모든 값을 계산에 넣습니다. 이번에는 값의 크기보다 순서와 횟수를 보는 대푯값 둘입니다.

중앙값

자료를 크기순으로 늘어놓았을 때 한가운데 오는 값을 중앙값이라고 합니다. 개수가 홀수면 가운데가 딱 하나 있습니다. 짝수면 가운데가 둘이라 그 둘의 평균을 씁니다. 위 자료는 여섯째가 8, 일곱째가 10이므로

8+102=9\frac{8+10}{2} = 9

산술평균과 같습니다. 좌우가 고르게 퍼져 있으면 둘이 겹칩니다.

그런데 「가운데 둘의 평균」은 수학이 강제하는 답이 아니라 사람들이 그렇게 하자고 맞춘 약속, 곧 규약입니다. 가운데 둘 가운데 작은 쪽(여기서는 8)을 쓰는 아래 중앙값, 큰 쪽(10)을 쓰는 위 중앙값도 쓰입니다. 이 둘은 중앙값이 언제나 자료 안에 실제로 있는 값이 되게 하고 싶을 때 고릅니다. 평균을 내는 규약은 값이 9라는, 자료에 없는 수를 내놓습니다. 어느 규약이든 「절반은 이 값 이하, 절반은 이 값 이상」이라는 뜻은 똑같이 지키고, 8과 10 사이의 어떤 수를 골라도 그 뜻은 성립합니다. 자료가 많아지면 세 규약의 차이는 대개 무시할 만큼 작아집니다.

극단값의 영향

여기에 100 하나를 더해 봅시다.

100을 더하기 전과 후에 평균과 중앙값이 각각 얼마나 움직이는지 비교한 그림

새 평균은 108+10013=20813=16\dfrac{108+100}{13} = \dfrac{208}{13} = 16 이고, 새 중앙값은 열세 개 중 일곱째인 10입니다.

평균 중앙값
원래 9 9
100을 더한 뒤 16 10

평균은 7이나 밀렸는데 중앙값은 1밖에 안 움직였습니다. 평균은 모든 값을 더하므로 큰 값 하나가 통째로 들어오지만, 중앙값은 순서에서 한 칸 밀린 것이 전부이기 때문입니다. 100이 아니라 1,000을 더했어도 중앙값은 똑같이 10입니다. 평균은 그때 110813≈85.2\dfrac{1108}{13}\approx85.2 까지 갑니다.

한쪽으로 길게 늘어진 자료를 꼬리가 길다고 합니다. 소득이나 도시 인구가 그렇습니다 — 대다수는 비슷한 자리에 모여 있고 드물게 아주 큰 값이 있습니다. 꼬리가 길면 평균은 대다수가 겪는 값과 멀어지므로 중앙값을 함께 적어야 합니다. 위 표에서 열세 명 중 열두 명이 16 이하인데 평균이 16이라는 것을 떠올리면, 평균 하나만 적어 둔 보고가 얼마나 엉뚱하게 읽힐 수 있는지 보입니다.

편차의 두 합

평균과 중앙값이 왜 이렇게 다르게 움직이는지는 「대푯값 하나로 자료 전체를 대신하면 얼마나 어긋나는가」를 재 보면 드러납니다. 각 값에서 대푯값을 뺀 것을 편차라고 합니다. 편차는 그 값이 대푯값에서 위아래로 얼마나 떨어져 있는지를 부호까지 붙여 말합니다.

작은 자료 1, 2, 91,\ 2,\ 9 로 해 봅시다. 평균은 123=4\frac{12}{3} = 4, 중앙값은 2입니다. 대푯값 후보를 2, 3, 4로 바꿔 가며 두 가지 합을 셉니다. 하나는 편차를 제곱해 더한 「편차 제곱의 합」, 다른 하나는 부호를 떼고 더한 「편차 절댓값의 합」입니다.

대푯값 편차 편차 제곱의 합 편차 절댓값의 합
2 −1, 0, 7-1,\ 0,\ 7 50 8
3 −2, −1, 6-2,\ -1,\ 6 41 9
4 −3, −2, 5-3,\ -2,\ 5 38 10

편차 제곱의 합은 평균 4에서 가장 작고, 편차 절댓값의 합은 중앙값 2에서 가장 작습니다. 우연이 아닙니다.

절댓값의 합부터 봅니다. 대푯값을 2에서 3으로 1 옮기면, 왼쪽에 있는 1은 1만큼 멀어지고 2도 1만큼 멀어지지만 오른쪽의 9는 1만큼 가까워집니다. 멀어지는 값이 둘, 가까워지는 값이 하나이니 합이 1 늘어납니다. 반대로 왼쪽으로 옮겨도 이번에는 멀어지는 쪽이 둘이 됩니다. 양쪽에 놓인 값의 개수가 맞서는 자리, 곧 한가운데에서 더는 줄일 수 없게 됩니다. 이것이 중앙값입니다. 이 계산에서 9가 얼마나 큰지는 아무 역할도 하지 않았다는 데 주목하세요 — 9가 900이어도 「오른쪽에 하나」일 뿐입니다. 중앙값이 극단값에 둔한 이유가 바로 이것입니다.

제곱의 합은 다릅니다. 표의 세 수를 보면 38+3×(대푯값−4)238 + 3\times(\text{대푯값}-4)^2 꼴로 늘어납니다 — 3이면 38+3=4138+3=41, 2면 38+12=5038+12=50 입니다. 대푯값에 대한 이차식이고, 23번 글의 포물선처럼 꼭짓점에서 가장 작은데 그 꼭짓점이 평균입니다. 그리고 제곱은 큰 편차를 훨씬 크게 셉니다. 9의 편차 5는 제곱하면 25로, 다른 두 값의 몫(9와 4)을 합친 것보다 큽니다. 멀리 떨어진 값 하나가 합을 크게 키우므로, 그 합을 줄이려면 대푯값이 그 값 쪽으로 끌려가야 합니다. 평균이 극단값에 민감한 이유입니다.

최빈값

가장 자주 나오는 값을 최빈값이라고 합니다. 위 열두 개에서는 8과 10이 두 번씩이라 최빈값이 둘입니다. 이처럼 최빈값은 하나가 아닐 수 있고, 모든 값이 한 번씩만 나오면 따로 정할 것이 없습니다.

평균·중앙값과 다른 성질이 하나 있습니다. 최빈값은 언제나 자료에 실제로 있는 값입니다. 평균은 그렇지 않습니다. 열 가구의 자녀 수가

2, 2, 1, 3, 2, 0, 2, 1, 3, 22,\ 2,\ 1,\ 3,\ 2,\ 0,\ 2,\ 1,\ 3,\ 2

라면 합이 18이라 평균은 1.8명입니다. 자녀가 1.8명인 가구는 세상에 없습니다. 그래도 평균이 틀린 것은 아닙니다 — 「열 가구를 합하면 아이가 18명」이라는 정보를 정확히 담고 있습니다. 다만 「흔한 가구는 어떤 모습인가」를 묻는다면 최빈값 2명이 더 맞는 답입니다. 크기순으로 늘어놓으면 0,1,1,2,2,2,2,2,3,30,1,1,2,2,2,2,2,3,3 이라 중앙값도 2입니다.

최빈값이 힘을 잃는 자리도 있습니다. 키나 몸무게처럼 값이 연속으로 이어지는 자료는 소수점 아래까지 재면 똑같은 값이 거의 다시 나오지 않습니다. 172.3cm와 172.4cm는 다른 값이라 모든 값이 한 번씩만 나오고, 최빈값이 뜻을 갖지 못합니다. 이때는 값을 구간으로 묶어 「가장 많이 든 구간」을 찾습니다. 그 구간이 아래 히스토그램 절에서 그림의 봉우리로 보이는 자리입니다.

분산과 표준편차

가운데를 알았으니 이번에는 얼마나 퍼져 있는가입니다.

편차 제곱의 평균

앞 절에서 정한 편차를, 이번에는 대푯값으로 평균 9를 써서 구합니다.

−7, −5, −4, −2, −1, −1, 1, 1, 2, 4, 5, 7-7,\ -5,\ -4,\ -2,\ -1,\ -1,\ 1,\ 1,\ 2,\ 4,\ 5,\ 7

편차를 그냥 더하면 안 됩니다. 좌우가 상쇄되어 평균에서 잰 편차의 합은 언제나 0이 나옵니다. 위의 열두 개를 더해도 0입니다. 평균이 바로 「위로 넘친 만큼과 아래로 모자란 만큼이 같아지는 자리」이기 때문입니다. 그래서 부호를 없애려고 제곱해서 더합니다.

49+25+16+4+1+1+1+1+4+16+25+49=19249+25+16+4+1+1+1+1+4+16+25+49 = 192

이 제곱합을 개수로 나눈 것, 곧 편차 제곱의 평균을 분산이라고 합니다. 앞 절에서 본 것처럼 편차 제곱의 합은 평균에서 가장 작으므로, 분산은 「가장 잘 맞춘 대푯값으로도 남는 어긋남」을 잰 값이기도 합니다.

분산=19212=16\text{분산} = \frac{192}{12} = 16

제곱했으니 단위도 제곱이 되어 그대로는 자료와 견주기 어렵습니다. 자료가 cm라면 분산은 cm²입니다. 그래서 분산의 양의 제곱근을 따로 표준편차라 부릅니다.

표준편차=16=4\text{표준편차} = \sqrt{16} = 4

표준편차 4는 「값들이 평균 9에서 대체로 4쯤 떨어져 있다」는 말이고, 자료와 단위가 같습니다. 실제 편차의 절댓값이 1에서 7까지 흩어져 있는데 그 대표 크기가 4라고 읽으면 됩니다. 제곱했다가 제곱근을 씌웠으니 편차 절댓값의 평균(4012≈3.33\frac{40}{12}\approx3.33)과 똑같지는 않습니다. 제곱이 큰 편차를 더 크게 세므로 표준편차가 조금 더 큽니다.

이동과 배율

모든 값에 같은 수를 더하거나 같은 수를 곱하면 요약값이 어떻게 바뀌는지 봅니다. 단위를 바꾸거나 기준점을 옮길 때 늘 일어나는 일입니다.

먼저 모든 값에 3을 더합니다. 자료가 5,7,8,…,195, 7, 8, \dots, 19 가 되고 평균은 9+3=129+3=12 입니다. 그런데 편차를 구해 보면 5−12=−75-12=-7, 7−12=−57-12=-5, … 로 원래 편차와 하나도 다르지 않습니다. 자료 전체가 수직선 위에서 통째로 오른쪽으로 3칸 옮겨 갔을 뿐 서로의 간격은 그대로이기 때문입니다. 그래서 분산은 16, 표준편차는 4 그대로입니다.

이번에는 모든 값에 2를 곱합니다. 자료가 4,8,10,…,324, 8, 10, \dots, 32 가 되고 평균은 9×2=189\times2=18 입니다. 편차도 전부 2배가 되어 −14,−10,…,14-14, -10, \dots, 14 이고, 제곱하면 4배가 됩니다. 그러니 분산은 16×4=6416\times4=64, 표준편차는 64=8\sqrt{64}=8 로 원래의 2배입니다.

둘을 하나로 적으면, 값 xx 를 ax+bax+b 로 바꿀 때

새 평균=a×평균+b,새 분산=a2×분산\text{새 평균} = a\times\text{평균} + b,\qquad \text{새 분산} = a^2\times\text{분산}

이고 표준편차는 ∣a∣|a| 배가 됩니다. 더한 수 bb 는 흩어짐에 아무 흔적도 남기지 않고, 곱한 수 aa 는 분산에 제곱으로 들어갑니다. aa 가 음수여도 같습니다 — 자료를 뒤집으면 간격은 그대로이므로 표준편차는 ∣a∣|a| 배입니다.

표준화

이 성질을 거꾸로 쓰면 어떤 자료든 같은 잣대 위로 옮길 수 있습니다. 먼저 모든 값에서 평균을 빼면 평균이 0이 되고, 분산은 그대로입니다. 이어서 표준편차로 나누면 표준편차가 1이 됩니다(위 식에서 a=1표준편차a = \frac{1}{\text{표준편차}} 인 경우입니다). 이렇게 평균 0·표준편차 1인 자리로 옮기는 일을 표준화라 하고, 옮긴 뒤의 값을 z점수라고 합니다.

z=x−평균표준편차z = \frac{x - \text{평균}}{\text{표준편차}}

z점수는 「그 값이 평균에서 표준편차 몇 개만큼 떨어져 있는가」를 말합니다. 위 자료에서 16은 16−94=1.75\frac{16-9}{4} = 1.75, 2는 2−94=−1.75\frac{2-9}{4} = -1.75, 13은 13−94=1\frac{13-9}{4}=1 입니다. 부호가 위·아래를, 크기가 표준편차 단위의 거리를 알려 줍니다.

위 자료 열두 개를 원래 눈금과 z점수 눈금에 나란히 놓은 그림

쓸모는 단위나 흩어짐이 다른 두 자료를 견줄 때 드러납니다. 수학 시험은 평균 60·표준편차 10이고 영어 시험은 평균 70·표준편차 5라고 합시다. 한 학생이 수학 75점, 영어 80점을 받았습니다. 점수만 보면 영어가 높지만 z점수로 옮기면

수학: 75−6010=1.5,영어: 80−705=2\text{수학: } \frac{75-60}{10} = 1.5,\qquad \text{영어: } \frac{80-70}{5} = 2

입니다. 영어는 평균보다 표준편차 두 개 위, 수학은 1.5개 위이므로 같은 반 안에서의 자리는 영어 쪽이 더 높습니다. 원점수의 차이(5점)도, 평균 위로 넘은 점수(15점과 10점)도 이 비교를 해 주지 못합니다. 흩어진 정도가 다르기 때문입니다.

확률변수의 분산

38번 글의 기댓값 E[X]E[X] 를 평균 자리에 넣으면 같은 식이 확률변수에도 그대로 적용됩니다. 평균을 μ\mu 로 적습니다.

Var⁡(X)=E[(X−μ)2]\operatorname{Var}(X) = E[(X-\mu)^2]

괄호를 펼치면 계산하기 쉬운 모양이 나옵니다. 38번 글에서 결과만 적어 둔 기댓값의 선형성을 여기서 씁니다 — μ\mu 는 상수라 E[μ]=μE[\mu]=\mu 입니다.

E[X2−2μX+μ2]=E[X2]−2μ E[X]+μ2=E[X2]−μ2E[X^2 - 2\mu X + \mu^2] = E[X^2] - 2\mu\,E[X] + \mu^2 = E[X^2] - \mu^2

Var⁡(X)=E[X2]−μ2\operatorname{Var}(X) = E[X^2] - \mu^2

동전 세 번의 앞면 개수로 확인합니다. μ=1.5\mu=1.5 이고

E[X2]=0×18+1×38+4×38+9×18=248=3E[X^2] = 0\times\frac18 + 1\times\frac38 + 4\times\frac38 + 9\times\frac18 = \frac{24}{8} = 3

Var⁡(X)=3−1.52=3−2.25=0.75\operatorname{Var}(X) = 3 - 1.5^2 = 3 - 2.25 = 0.75

자료의 분산과 확률변수의 분산은 같은 식을 다른 대상에 쓴 것입니다. 왼쪽은 손에 든 숫자 열두 개의 흩어짐이고 오른쪽은 아직 나오지 않은 값의 흩어짐입니다. 앞에서 본 이동과 배율의 성질도 그대로 성립해 Var⁡(aX+b)=a2Var⁡(X)\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X) 입니다.

「제곱의 평균에서 평균의 제곱을 뺀다」는 이 꼴은 손계산에는 편하지만 조심할 자리가 있습니다. 값이 1000001, 1000002, 10000031000001,\ 1000002,\ 1000003 세 개라고 합시다. 평균은 1000002이고 편차가 −1,0,1-1, 0, 1 이므로 분산은 23\frac23 입니다. 그런데 이 꼴로 계산하면 제곱의 평균이 1000004000004.666⋯1000004000004.666\cdots, 평균의 제곱이 10000040000041000004000004 라 열세 자리짜리 두 수를 빼서 소수점 아래만 남기는 셈이 됩니다. 열 자리까지만 기억하는 계산기라면 두 수가 똑같이 1.000004000×10121.000004000\times10^{12} 으로 보여 분산이 0으로 나옵니다. 크기가 비슷한 두 수를 빼면 앞자리가 서로 지워지고 믿을 만한 자리가 거의 안 남는데, 이것을 자릿수 소거라고 부릅니다. 자세한 것은 초급 47번 · 자릿수와 오차가 다룹니다. 여기서는 처방 하나만 적어 둡니다. 모든 값에서 1000000을 먼저 빼 1,2,31, 2, 3 으로 만들어도 분산은 변하지 않으니(이동은 분산에 흔적을 남기지 않습니다), 작은 수로 옮겨 놓고 계산하면 됩니다.

마지막으로 하나만 덧붙여 둡니다. 자료의 분산을 계산할 때 nn 대신 n−1n-1 로 나누는 관례를 보게 될 텐데, 그것은 손에 든 자료로 더 큰 무리의 흩어짐을 짐작할 때 쓰는 것입니다. 왜 하나를 빼는지는 중급 21번 · 추정과 신뢰구간의 몫이고, 이 글은 손에 든 자료 자체를 요약하므로 nn 으로 나눕니다.

사분위수와 상자그림

평균과 표준편차는 값 하나가 크게 튀면 함께 흔들립니다. 중앙값처럼 순서만 보고 흩어짐을 요약하는 방법도 있습니다.

사분위수

자료를 크기순으로 늘어놓고 넷으로 나누는 세 지점을 사분위수라고 합니다. 가운데가 중앙값이고, 아래쪽 절반의 중앙값이 제1사분위수 Q1Q_1, 위쪽 절반의 중앙값이 제3사분위수 Q3Q_3 입니다.

위 자료의 아래쪽 여섯은 2,4,5,7,8,82,4,5,7,8,8 이므로 Q1=5+72=6Q_1 = \dfrac{5+7}{2} = 6 이고, 위쪽 여섯은 10,10,11,13,14,1610,10,11,13,14,16 이므로 Q3=11+132=12Q_3 = \dfrac{11+13}{2} = 12 입니다.

Q3Q_3 에서 Q1Q_1 을 뺀 것을 사분위범위라 하고 영문 머리글자를 따 IQR로 적습니다.

IQR=12−6=6\text{IQR} = 12 - 6 = 6

가운데 절반이 이 폭 6 안에 들어 있다는 뜻입니다. 같은 방식을 100등분한 것이 백분위수입니다. 「상위 10%」라는 말이 90번째 백분위수를 가리키고, Q1Q_1 은 25번째, 중앙값은 50번째, Q3Q_3 은 75번째 백분위수입니다.

사분위수의 규약

위 자료는 열두 개라 반으로 깔끔하게 나뉘었습니다. 개수가 홀수면 사정이 다릅니다. 일곱 개짜리 자료

1, 3, 4, 6, 8, 9, 121,\ 3,\ 4,\ 6,\ 8,\ 9,\ 12

의 중앙값은 넷째인 6입니다. 이제 아래쪽 절반을 정해야 하는데, 가운데 6을 어느 쪽에 넣을지가 정해져 있지 않습니다.

  • 6을 빼고 나누면 아래쪽은 1,3,41,3,4, 위쪽은 8,9,128,9,12 라 Q1=3Q_1 = 3, Q3=9Q_3 = 9 입니다.
  • 6을 양쪽에 다 넣으면 아래쪽은 1,3,4,61,3,4,6, 위쪽은 6,8,9,126,8,9,12 라 Q1=3.5Q_1 = 3.5, Q3=8.5Q_3 = 8.5 입니다.

같은 자료인데 IQR이 6과 5로 갈립니다. 둘 다 교과서에 실리는 방법이고, 이 밖에도 순위 사이를 비례로 메우는 방법 등 여러 규약이 있습니다. 그래서 손으로 구한 사분위수와 계산 프로그램이나 스프레드시트가 내놓은 값이 다를 수 있습니다. 어느 쪽이 틀린 것이 아니라 규약이 다른 것입니다. 중앙값의 짝수 규약과 같은 사정이고, 자료가 많아지면 차이가 줄어든다는 점도 같습니다. 남에게 사분위수를 보일 때는 어느 규약을 썼는지 한 줄 적어 두면 비교가 엇갈리지 않습니다. 이 글은 앞으로 「가운데를 빼고 나누는」 쪽을 씁니다.

상자그림과 수염

자료 점 위에 상자와 수염을 그린 상자그림

Q1Q_1 에서 Q3Q_3 까지를 상자로, 그 안의 중앙값을 세로선으로 그리고 양옆에 선을 뻗은 그림을 상자그림이라고 합니다. 양옆으로 뻗은 선을 수염이라고 부릅니다. 상자 하나가 가운데 절반을, 수염이 나머지를 보여 주므로 다섯 개의 수(최솟값 쪽 끝, Q1Q_1, 중앙값, Q3Q_3, 최댓값 쪽 끝)가 그림 한 장에 들어갑니다.

흔히 수염이 최솟값과 최댓값까지 뻗는다고 알지만, 널리 쓰이는 정의는 조금 다릅니다. 수염은 상자 끝에서 1.5×IQR1.5\times\text{IQR} 거리 안에 있는 값 가운데 가장 먼 점까지만 뻗고, 그 밖의 값은 수염과 떨어진 점으로 따로 찍습니다. 위 열두 개에서는 상자 끝에서 9 안쪽, 곧 −3-3 에서 21 사이에 모든 값이 들어가므로 수염이 최솟값 2와 최댓값 16까지 뻗고, 두 정의가 같은 그림을 냅니다.

100을 더한 열세 개라면 달라집니다. 중앙값 10을 빼고 나누면 아래쪽 2,4,5,7,8,82,4,5,7,8,8 에서 Q1=6Q_1 = 6, 위쪽 10,11,13,14,16,10010,11,13,14,16,100 에서 Q3=13+142=13.5Q_3 = \frac{13+14}{2} = 13.5 이고 IQR은 7.5입니다. 위쪽 경계는 13.5+1.5×7.5=24.7513.5 + 1.5\times7.5 = 24.75 입니다. 그 안에서 가장 먼 값은 16이므로 오른쪽 수염은 16에서 멈추고, 100은 수염 끝에서 한참 떨어진 점 하나로 홀로 찍힙니다. 수염이 100까지 뻗었다면 상자는 왼쪽 구석에 쪼그라들고 대부분의 자료가 어디 모여 있는지가 안 보였을 것입니다.

이상치 규칙

방금 따로 찍힌 100처럼 나머지와 동떨어진 값을 이상치라고 합니다. 가장 널리 쓰이는 규칙은 수염의 경계 그대로입니다.

Q1−1.5×IQR미만,Q3+1.5×IQR초과Q_1 - 1.5\times\text{IQR} \quad\text{미만},\qquad Q_3 + 1.5\times\text{IQR} \quad\text{초과}

원래 열두 개라면 6−9=−36-9=-3 미만이거나 12+9=2112+9=21 초과인 값입니다. 열두 개에는 없고, 앞에서 더한 100은 여기 걸립니다.

그런데 1.5라는 수에 특별한 근거는 없습니다. 2.0으로 잡으면 경계가 −6-6 과 24로 넓어지고, 평균에서 표준편차 3배 넘게 떨어진 값을 이상치로 보는 규칙도 있습니다. 어떤 값이 이상치인지는 자료가 아니라 규칙을 고른 사람이 정합니다. 그러니 이상치를 버렸다면 어느 규칙으로 버렸는지를 같이 적어야 합니다. 그리고 이상치라는 판정이 곧 「틀린 값」이라는 뜻은 아닙니다 — 소득 자료의 아주 큰 값은 잘못 적은 것이 아니라 꼬리 끝에 실제로 있는 사람일 수 있습니다.

히스토그램의 칸

지금까지 자료를 수 몇 개로 줄였습니다. 이번에는 자료의 모양을 그대로 그리는 쪽입니다.

칸 나누기

자료가 놓인 범위를 구간으로 나누고, 구간마다 몇 개가 들었는지를 막대로 그린 것을 히스토그램이라고 합니다. 이 구간 하나하나를 칸이라 부릅니다.

같은 자료 열두 개를 칸 넓이 4, 2, 1로 각각 그린 히스토그램 셋

셋 다 같은 자료입니다. 그런데 칸을 넓게 잡으면 가운데가 볼록한 한 봉우리로 보이고, 좁게 잡으면 울퉁불퉁해지며, 더 좁게 잡으면 칸마다 0개나 1개라 모양이랄 것이 없어집니다.

칸의 개수는 자료가 아니라 그리는 사람이 정합니다. 출발점으로 쓰는 경험 규칙이 있기는 합니다. 자료가 nn 개면 칸을 n\sqrt{n} 개쯤 두는 제곱근 규칙, 1+log⁡2n1+\log_2 n 개쯤 두는 스터지스 규칙이 대표적입니다. 열두 개라면 각각 3.5와 4.6이라 네 칸에서 다섯 칸 정도입니다. 어디까지나 출발점이지 정답은 아닙니다. 히스토그램을 보고 「봉우리가 둘이다」 같은 결론을 내릴 때는 칸을 바꿔 보고도 그 결론이 남는지 확인해야 합니다.

축을 바꿔도 그림은 통째로 달라집니다. 값이 몇 배씩 벌어지는 자료를 그대로 그리면 작은 값들이 왼쪽 끝에 뭉쳐 아무것도 안 보이는데, 축의 눈금을 배수로 매기면 그것이 고르게 펼쳐집니다. 그 축을 읽고 그리는 법도 47번 · 자릿수와 오차의 몫입니다.

밀도 히스토그램

지금까지는 칸 폭이 전부 같았습니다. 칸 폭이 서로 다르면 막대 높이를 개수로 두는 순간 그림이 거짓말을 합니다. 같은 열두 개를 칸 넷으로 나누되 폭을 다르게 잡아 봅니다.

칸 폭 든 값 개수 폭 1당 개수
0 이상 8 미만 8 2, 4, 5, 7 4 0.5
8 이상 10 미만 2 8, 8 2 1
10 이상 12 미만 2 10, 10, 11 3 1.5
12 이상 16 이하 4 13, 14, 16 3 0.75

개수를 높이로 그리면 08 칸이 가장 높습니다. 하지만 그 칸은 폭이 8이라 많이 든 것이 당연합니다. 값이 실제로 가장 빽빽하게 모인 곳은 폭 2에 셋이 든 1012 칸입니다. 그래서 칸 폭이 다를 때는 개수를 폭으로 나눈 값, 곧 폭 1당 몇 개가 들었는가를 높이로 놓습니다. 이 높이를 밀도라 하고, 그렇게 그린 그림을 밀도 히스토그램이라고 합니다.

칸 폭이 다른 히스토그램을 개수로 그린 것과 밀도로 그린 것을 나란히 놓아 가장 높은 막대가 바뀌는 그림

밀도로 그리면 막대의 넓이, 곧 폭×높이가 그 칸에 든 개수가 됩니다. 8×0.5=48\times0.5=4, 2×1=22\times1=2, 2×1.5=32\times1.5=3, 4×0.75=34\times0.75=3 으로 표의 개수가 그대로 돌아오고, 넓이를 다 더하면 전체 개수 12입니다. 그래서 밀도 히스토그램은 높이가 아니라 넓이로 읽습니다. 높이는 「얼마나 빽빽한가」를, 넓이는 「몇 개인가」를 말합니다. 밀도를 다시 전체 개수 12로 나누면 넓이의 합이 1이 되는데, 이 모양을 흔히 씁니다.

요약값과 그림

이 글에서 구한 요약값은 위 열두 개에 대해 평균 9, 중앙값 9, 표준편차 4였습니다. 이 세 수만 받아 든 사람이 자료를 그려 낼 수 있을까요. 직접 자료 두 벌을 지어 보면 답이 나옵니다.

  • 자료 가: 5, 5, 5, 13, 13, 135,\ 5,\ 5,\ 13,\ 13,\ 13
  • 자료 나: 1, 9, 9, 9, 13, 131,\ 9,\ 9,\ 9,\ 13,\ 13

자료 가는 편차가 −4-4 셋과 44 셋이라 평균 9, 편차 제곱의 합 16×6=9616\times6=96, 분산 966=16\frac{96}{6}=16, 표준편차 4입니다. 중앙값은 셋째와 넷째의 평균이라 5+132=9\frac{5+13}{2}=9 입니다. 자료 나는 편차가 −8,0,0,0,4,4-8, 0, 0, 0, 4, 4 라 합이 0이니 평균 9이고, 편차 제곱의 합이 64+16+16=9664+16+16=96 이라 분산 16, 표준편차 4이며, 중앙값은 9+92=9\frac{9+9}{2}=9 입니다. 세 요약값이 원래 자료와 셋 다 똑같습니다.

평균 9·중앙값 9·표준편차 4가 같은 세 자료를 점으로 나란히 찍은 그림

그런데 그림은 전혀 다릅니다. 원래 자료는 2에서 16까지 고르게 퍼진 한 무리이고, 가는 5와 13 두 곳에 몰려 정작 평균 9 자리에는 값이 하나도 없으며, 나는 9에 모인 무리에서 1 하나가 왼쪽으로 동떨어져 있습니다. 자료 가에서 평균 9는 「가운데」라는 말이 무색하게 어떤 값과도 4씩 떨어진 빈자리입니다.

요약값은 자료를 몇 개의 수로 줄이면서 모양을 버립니다. 버린 것이 무엇인지는 요약값만 봐서는 알 수 없습니다. 그래서 요약값을 보일 때는 히스토그램이나 점 그림을 함께 내고, 그림을 보일 때는 요약값을 함께 적는 것이 좋습니다. 둘은 서로가 버린 것을 보완합니다.

연습 문제

연습 1 — 여러 평균

  1. 자료 4, 6, 6, 8, 114,\ 6,\ 6,\ 8,\ 11 의 산술평균, 중앙값, 최빈값
    합이 35이므로 평균은 355=7\dfrac{35}{5}=7 입니다. 가운데는 셋째인 6이고, 두 번 나오는 6이 최빈값입니다.
  2. 갈 때 30km/h, 올 때 60km/h로 같은 거리를 왕복했을 때의 평균 속도
    조화평균입니다. 2130+160=2360=2120=40\dfrac{2}{\frac{1}{30}+\frac{1}{60}} = \dfrac{2}{\frac{3}{60}} = \dfrac{2}{\frac{1}{20}} = 40 km/h입니다. 산술평균 45가 아닙니다.
  3. 어떤 값이 첫해에 3배가 되고 둘째 해에 3분의 1이 되었을 때, 해마다의 평균 배수
    기하평균입니다. 3×13=1=1\sqrt{3\times\dfrac13}=\sqrt{1}=1 이므로 해마다 1배, 즉 제자리입니다.

연습 2 — 분산과 사분위수

  1. 자료 1, 3, 5, 7, 91,\ 3,\ 5,\ 7,\ 9 의 평균, 분산, 표준편차
    합이 25이므로 평균은 5입니다. 편차가 −4,−2,0,2,4-4,-2,0,2,4 이고 제곱합이 16+4+0+4+16=4016+4+0+4+16=40 이므로 분산은 405=8\dfrac{40}{5}=8, 표준편차는 8≈2.83\sqrt8\approx2.83 입니다.
  2. 자료 2, 3, 5, 6, 8, 9, 11, 142,\ 3,\ 5,\ 6,\ 8,\ 9,\ 11,\ 14 의 Q1Q_1, 중앙값, Q3Q_3, IQR
    여덟 개이므로 중앙값은 6+82=7\dfrac{6+8}{2}=7 입니다. 아래 넷 2,3,5,62,3,5,6 에서 Q1=3+52=4Q_1=\dfrac{3+5}{2}=4, 위 넷 8,9,11,148,9,11,14 에서 Q3=9+112=10Q_3=\dfrac{9+11}{2}=10 이고 IQR은 6입니다.
  3. 그 자료에서 1.5배 규칙으로 이상치 경계 두 개를 구하고, 걸리는 값이 있는지
    4−1.5×6=−54-1.5\times6=-5 와 10+1.5×6=1910+1.5\times6=19 입니다. 자료의 최솟값 2와 최댓값 14가 모두 그 사이이므로 이상치는 없습니다.

연습 3 — 확률변수의 분산

Var⁡(X)=E[X2]−μ2\operatorname{Var}(X)=E[X^2]-\mu^2 을 씁니다.

  1. 주사위 하나의 눈 XX 의 분산과 표준편차
    μ=3.5\mu=3.5 이고 E[X2]=1+4+9+16+25+366=916≈15.17E[X^2]=\dfrac{1+4+9+16+25+36}{6}=\dfrac{91}{6}\approx15.17 입니다. 분산은 15.17−12.25=2.9215.17-12.25=2.92, 표준편차는 약 1.71입니다.
  2. XX 가 0일 확률이 0.5, 10일 확률이 0.5일 때의 평균과 분산과 표준편차
    μ=0×0.5+10×0.5=5\mu = 0\times0.5+10\times0.5=5 이고 E[X2]=0×0.5+100×0.5=50E[X^2]=0\times0.5+100\times0.5=50 입니다. 분산은 50−25=2550-25=25, 표준편차는 5입니다.
  3. 자료 10, 20, 3010,\ 20,\ 30 에 각각 5를 더하면 평균과 분산이 각각 어떻게 되는지
    평균은 20에서 25로 5만큼 올라갑니다. 편차는 −10,0,10-10,0,10 으로 그대로이므로 분산은 2003≈66.7\dfrac{200}{3}\approx66.7 로 변하지 않습니다. 모두를 같은 만큼 옮기면 흩어진 정도는 그대로입니다.

연습 4 — 같은 요약, 다른 자료

짓는 문제는 답이 하나가 아닙니다. 아래 답은 맞는 예 하나이니, 지은 자료의 요약값을 직접 계산해 조건에 맞는지 확인하세요.

  1. 평균이 6이고 분산이 8인 다섯 수를 하나 지으세요. 이어서 평균은 6 그대로 두고 분산만 32로 바꾼 다섯 수를 지으세요.
    2, 4, 6, 8, 102,\ 4,\ 6,\ 8,\ 10 은 편차가 −4,−2,0,2,4-4,-2,0,2,4 라 제곱합 40, 분산 405=8\frac{40}{5}=8 입니다. 분산을 4배로 만들려면 편차를 2배로 늘리면 됩니다. 편차 −8,−4,0,4,8-8,-4,0,4,8 에 평균 6을 더한 −2, 2, 6, 10, 14-2,\ 2,\ 6,\ 10,\ 14 는 평균 6, 제곱합 160, 분산 32입니다.
  2. 중앙값이 5인 다섯 수를 두 벌 지으세요. 한 벌은 평균이 5, 다른 한 벌은 평균이 20이어야 합니다.
    3, 4, 5, 6, 73,\ 4,\ 5,\ 6,\ 7 은 중앙값 5, 평균 255=5\frac{25}{5}=5 입니다. 가장 큰 값만 82로 바꾼 3, 4, 5, 6, 823,\ 4,\ 5,\ 6,\ 82 는 순서가 그대로라 중앙값이 5이고, 합이 100이라 평균은 20입니다.
  3. 자료 3, 5, 6, 9, 123,\ 5,\ 6,\ 9,\ 12 의 모든 값에 3을 더한 뒤 2를 곱했습니다. 새 자료의 평균, 분산, 표준편차
    원래 평균은 355=7\frac{35}{5}=7, 편차는 −4,−2,−1,2,5-4,-2,-1,2,5 로 제곱합 50, 분산 10, 표준편차 10≈3.16\sqrt{10}\approx3.16 입니다. 3을 더하면 평균만 10이 되고 분산은 10 그대로입니다. 2를 곱하면 평균은 20, 분산은 10×4=4010\times4=40, 표준편차는 40≈6.32\sqrt{40}\approx6.32 입니다. 새 자료 12, 16, 18, 24, 3012,\ 16,\ 18,\ 24,\ 30 으로 직접 계산해도 같습니다.

정리

  • 산술평균은 더해서 나눈 것이고, 가중치를 전부 1n\frac1n 로 둔 가중평균입니다. 곱으로 쌓이는 배수는 기하평균, 같은 거리를 다른 속도로 갈 때는 조화평균, 같은 시간이면 다시 산술평균을 씁니다. 셋 사이에는 조화 ≤ 기하 ≤ 산술이 성립하고, 오른쪽 부등호가 17번 글의 a+b≥2aba+b\ge2\sqrt{ab} 입니다.
  • 중앙값은 한가운데 값, 최빈값은 가장 자주 나오는 값입니다. 짝수 개일 때 가운데 둘의 평균을 쓰는 것은 규약입니다. 평균은 편차 제곱의 합을, 중앙값은 편차 절댓값의 합을 가장 작게 하는 값이라 큰 값 하나에 평균은 9에서 16으로 밀리고 중앙값은 10에서 그칩니다.
  • 편차 제곱의 평균이 분산, 그 제곱근이 표준편차입니다. 모든 값을 ax+bax+b 로 바꾸면 분산은 a2a^2 배가 되고 bb 는 흔적을 남기지 않습니다. 평균을 빼고 표준편차로 나누는 표준화가 z점수를 줍니다.
  • 확률변수에서는 Var⁡(X)=E[(X−μ)2]=E[X2]−μ2\operatorname{Var}(X)=E[(X-\mu)^2]=E[X^2]-\mu^2 이고, 뒤의 꼴은 값이 크고 서로 가까우면 자릿수 소거를 부르므로 먼저 작은 수로 옮겨 계산합니다.
  • 사분위수는 순서로 넷을 가르는 세 지점이고 구하는 규약이 여럿입니다. Q3−Q1Q_3-Q_1 이 IQR이고, 상자그림의 수염은 1.5 IQR 안의 가장 먼 점까지입니다. 이상치를 정하는 1.5배 규칙에 특별한 근거는 없으므로 어느 규칙을 썼는지 밝힙니다.
  • 히스토그램은 칸 나누기가 그림을 바꾸고, 칸 폭이 다르면 밀도를 높이로 놓고 넓이로 읽습니다. 요약값이 같아도 모양이 전혀 다른 자료가 있으므로 요약값과 그림을 함께 냅니다.

여기까지가 손에 든 자료를 있는 그대로 요약하는 일이었습니다. 다음 글은 한 걸음 더 나갑니다 — 요약한 값이 우연히 그렇게 나온 것인지 아닌지를 어떻게 따지는지 봅니다.


읽어주셔서 감사합니다. 😊

LATEST

수학의 최신 글

수학2026.11.17

다양체 위의 최적화: 직교 제약과 Muon의 직교화가 하는 일

차트·접공간·리만 계량·측지선·후퇴로 다양체를 세우고, 스티펠·그라스만·양정치 행렬·확률 단체의 접공간과 사영을 계산한 뒤, 리만 그래디언트가 유클리드 그래디언트의 접공간 사영임을 증명하고 극분해 후퇴와 뉴턴–슐츠 반복의 수렴 조건을 다룹니다.

고급46 MIN
수학2026.11.17

프리컨디셔닝의 이론: Adam에서 K-FAC·Shampoo·Muon까지 한 줄로

갱신 −ηP⁻¹∇를 노름의 최급강하로 읽고 헤세·가우스–뉴턴·피셔·경험적 피셔의 관계를 정리한 뒤, 준뉴턴과 3차 정규화, K-FAC의 크로네커 인수분해와 그 독립 가정, Shampoo의 −1/4 지수, Muon의 스펙트럴 노름 유도를 차례로 세워 이들이 어디서 일치하는지 보입니다.

고급41 MIN
수학2026.11.17

확률적 근사와 SGD의 연속 극한: 수렴한다는 말의 정확한 뜻

로빈스–먼로 조건과 마팅게일 잡음으로 SGD의 수렴을 정확히 정의하고, 볼록·강볼록·PL·비볼록에서의 수렴률과 오라클 하한을 계산한 뒤, SGD를 확률미분방정식으로 읽어 학습률/배치가 온도가 되는 관점과 안정성의 가장자리를 다룹니다.

고급48 MIN