유효숫자와 반올림에서 시작해 절대오차·상대오차를 가르고, 더할 때와 곱할 때 오차가 어떻게 불어나는지를 봅니다. 자릿수 소거를 손으로 재현하고, 반로그·로그-로그 축을 읽고, 마지막으로 오차의 차수를 적는 기호 O(·)를 세웁니다.
PALDYN Team//56 MIN READ
47MATH
초급
오차 · 자릿수
"10−8 은 작은 수인가"라는 물음에는 답이 없습니다. 무엇과 견주느냐가 빠졌기 때문입니다. 10−3 옆에서는 십만 분의 일이고, 105 옆에서는 십조 분의 일입니다. 같은 10−8 이 미터로 잰 길이라면 원자 지름의 백 배이기도 합니다.
이 글은 그 견주는 법을 세웁니다. 숫자의 크기를 자릿수로 말하고, 답이 얼마나 맞았는지를 오차로 말하고, 계산을 거치며 그 오차가 어떻게 불어나는지를 봅니다. 끝에서는 몇 배씩 벌어지는 값을 그리는 로그 축과, 오차가 줄어드는 빠르기를 적는 기호 O(⋅) 까지 갑니다.
과학적 표기와 유효숫자
유효숫자
13번 · 거듭제곱과 근호에서 큰 수와 작은 수를 a×10n 꼴로 적는 법을 세웠습니다. 앞쪽 a 를 1 이상 10 미만으로 맞춘 이 꼴을 과학적 표기라고 부르고, 이 글은 그 표기를 그대로 씁니다.
384400=3.844×105,0.0000042=4.2×10−6
앞쪽 a 에 적힌 숫자들을 유효숫자라고 합니다. 적은 사람이 믿을 수 있다고 주장하는 자릿수라는 뜻이고, 과학적 표기는 그 주장을 숫자의 꼴에 그대로 싣습니다. 3.844×105 는 유효숫자 4자리이고, 그 아래 자리는 모른다는 말입니다.
보통 표기로는 이것이 흐려집니다. 4200 은 끝의 두 0이 잰 값인지 자리를 채운 것인지 알 수 없지만, 4.2×103 과 4.200×103 은 다른 주장입니다. 앞은 백의 자리까지, 뒤는 일의 자리까지 믿으라는 말입니다. 반대로 0.0000042 앞쪽의 0 여섯은 유효숫자가 아닙니다. 소수점이 어디 있는지를 알려 줄 뿐이라 4.2×10−6 으로 적으면 사라집니다.
자릿수를 줄여 적는 방법은 둘입니다. 반올림은 남길 자리 바로 다음 숫자가 5 이상이면 올리고 아니면 버리는 것이라 5.6781 이 3자리에서 5.68 이 됩니다. 자르기는 남길 자리 뒤를 그냥 버리는 것이라 같은 수가 5.67 입니다. 반올림한 값은 참값에서 마지막 자리 반 칸 안쪽에 있고, 자른 값은 한 칸 안쪽에 있되 언제나 아래쪽으로 벗어납니다. 뒤의 「유한한 자릿수」에서 자르기를 씁니다.
크기의 자릿수
유효숫자가 수의 앞쪽 몇 자리를 믿느냐를 말한다면, 과학적 표기의 지수 n 은 그 수가 대략 얼마나 큰가를 말합니다. 이것을 정수 하나로 줄인 것이 크기의 자릿수입니다. 수의 상용로그를 가장 가까운 정수로 반올림한 값으로 정합니다. 상용로그 log10 은 22번 · 로그에서 세운 그것입니다.
7×10−5 이면
log10(7×10−5)=log107−5≈0.845−5=−4.155
라 크기의 자릿수는 −4 입니다. 지수만 보면 −5 인데 하나 올라갔습니다. 앞쪽 a 가 7이면 10−5 보다 10−4 에 더 가깝기 때문입니다.
올리고 내리는 경계는 5가 아닙니다. log10a 가 0.5 가 되는 a 는 100.5=10≈3.16 이므로, a 가 3.16 보다 작으면 지수가 곧 크기의 자릿수이고 크면 지수에 1을 더합니다. 3×104 은 자릿수 4이고 4×104 은 자릿수 5입니다. 로그로 재면 10 이 1과 10의 한가운데에 서기 때문인데, 이 수는 뒤의 로그 축에서 다시 만납니다.
자릿수로 적으면 「몇 배인가」가 뺄셈이 됩니다. 두 수의 비의 로그는 로그의 차이므로
log10BA=log10A−log10B
입니다. 105 가 10−3 의 몇 배인지는 지수의 차 5−(−3)=8 로 108 배이고, 자릿수가 하나 다르면 대략 열 배, 둘 다르면 대략 백 배입니다. 「대략」이 붙는 것은 자릿수가 반올림한 값이라서입니다. 3×104 과 4×104 은 자릿수가 하나 다르지만 실제로는 4/3≈1.33 배일 뿐입니다. 자릿수의 차는 크기를 거칠게 견주는 눈금이지 정확한 비가 아닙니다.
길이의 사다리
제목의 물음으로 돌아갑니다. 10−8 이 큰지 작은지를 보려면 같은 단위의 양을 한 줄에 늘어놓고 그 사이에 세워 보면 됩니다. 미터로 맞춘 길이 여섯을 고릅니다 — 수소 원자 지름 약 1×10−10 m, 머리카락 굵기 약 7×10−5 m, 사람 키 1.7 m, 서울–부산 약 4×105 m, 지구 둘레 약 4.0×107 m, 지구–달 3.844×108 m.
크기의 자릿수는 차례로 −10,−4,0,6,8,9 입니다. 사람 키는 log101.7≈0.23 이라 0이고, 서울–부산은 log104+5≈5.60 이라 지수 5에서 하나 올라 6입니다. 지구 둘레도 같은 까닭으로 7.60 에서 8, 지구–달은 8.58 에서 9입니다.
10−8 m 를 이 사다리에 올리면 원자 지름과 머리카락 굵기 사이에 섭니다. 원자 지름과는 자릿수 차가 −8−(−10)=2 이니 백 배 크고, 머리카락과는 4가 차이 나니 대략 만분의 일입니다. 정확히 나누면 10−8/(7×10−5)=1/7000 이라 「대략」이 할 일을 했습니다. 사람 키와는 8이 차이 나니 1억분의 일쯤이고, 나누면 약 1억 7천만분의 일입니다.
원자를 다루는 사람에게 10−8 m 는 원자 백 개가 늘어선 넉넉한 길이이고, 키를 재는 사람에게는 줄자 눈금에 아예 안 잡히는 길이입니다. 그래서 처음의 물음에는 이렇게 답합니다. 수 하나는 크지도 작지도 않고, 견줄 대상과의 자릿수 차가 크거나 작습니다. 다음 절부터는 그 견줄 대상이 참값이 됩니다.
유효숫자의 연산
재어 얻은 수끼리 계산하면 결과에 몇 자리를 남길지가 문제가 됩니다. 계산기는 12.3+4.567=16.867 이라고 보여 주지만 끝의 두 자리는 믿을 수 없습니다. 관례가 둘입니다.
더하거나 뺄 때는 소수 자릿수가 짧은 쪽에 맞춥니다.
곱하거나 나눌 때는 유효숫자가 적은 쪽에 맞춥니다.
덧셈부터 봅니다. 12.3 은 소수 첫째 자리까지만 적었으니, 반올림해 얻은 값이라면 참값이 12.25 와 12.35 사이 어딘가입니다. 소수 첫째 자리에서 이미 0.05 만큼 흔들리는 수에 4.567 의 셋째 자리 7을 더해 봐야 그 7은 흔들림 속에 묻힙니다. 그래서 합도 소수 첫째 자리에서 반올림해 16.9 로 적습니다.
덧셈이 따지는 것은 유효숫자의 개수가 아니라 소수점 아래 몇째 자리까지인가입니다. 1203+0.45=1203.45 에서 유효숫자가 적은 쪽은 2자리인 0.45 이지만, 1203 이 일의 자리에서 끝나므로 결과는 일의 자리에 맞춘 1203 입니다. 유효숫자 4자리가 그대로 남았고, 0.45 는 통째로 묻혔습니다.
곱셈은 사정이 다릅니다. 2.5×3.14159=7.853975 에서 2.5 는 참값이 2.45 와 2.55 사이라 자기 크기의 50분의 1쯤 흔들립니다. 곱하면 결과도 같은 비율로 흔들립니다 — 실제로 2.45×3.14159≈7.70 이고 2.55×3.14159≈8.01 입니다. 소수 첫째 자리부터 이미 흔들리니 그 아래를 적는 것은 뜻이 없고, 유효숫자 2자리에 맞춰 7.9 로 적습니다. 곱에서는 흔들림이 비율로 옮겨 간다는 이 관찰이 다음 절에서 이름을 얻고, 그다음 절에서 규칙이 됩니다.
두 관례는 어림입니다. 결과에 몇 자리를 남길지를 빨리 정하는 방법이지, 오차를 정확히 계산하는 것을 대신하지는 않습니다.
절대오차와 상대오차
오차의 정의
참값을 x, 손에 든 근삿값을 x~ 라고 하면 오차를 재는 방법이 둘입니다.
절대오차=∣x~−x∣,상대오차=∣x∣∣x~−x∣
절대오차는 근삿값이 참값에서 얼마나 벗어났는가이고 참값과 같은 단위를 갖습니다. 상대오차는 그 절대오차를 참값의 크기로 나눠 몇 분의 몇인가로 적은 것이라 단위가 없습니다. 둘은 따로 노는 두 값이 아니라 한 값을 두 눈금으로 읽은 것입니다.
지구와 달 사이 384400 km 를 384000 km 로 적으면 절대오차는 400 km, 상대오차는 400/384400≈0.00104 로 약 0.1 %입니다. 같은 400 km 를 서울–부산 400 km 를 잴 때 틀리면 상대오차가 100 %이고, 이때는 아예 다른 도시에 가 있는 셈입니다. 절대오차가 같아도 뜻이 전혀 다릅니다.
이럴 때
이 오차를 본다
단위가 정해져 있고 허용 범위가 그 단위로 주어졌다
절대오차
참값이 0 근처를 오간다
절대오차 (나눌 수 없습니다)
크기가 아주 다른 것들을 한 줄에 놓고 견준다
상대오차
12번 · 소수·백분율과 비에서 갈라 둔 대로 상대오차는 비율이므로 언제나 퍼센트이고 퍼센트포인트가 아닙니다.
맞는 자릿수
상대오차의 로그가 맞는 자릿수입니다. 앞 절의 크기의 자릿수와 같은 일을 오차에 하는 것입니다. 상대오차가 10−k 근처이면 앞에서부터 대략 k 자리가 맞았다는 뜻입니다.
맞는자릿수≈−log10(상대오차)
위의 0.00104 는 −log100.00104≈2.98 이라 약 3자리가 맞았습니다. 실제로 3.844×105 와 3.840×105 는 앞의 세 자리 3, 8, 4 까지 같습니다.
절대오차로는 이 말을 할 수 없습니다. 400 km 가 맞는 자리 몇 개에 해당하는지는 참값이 384400 인지 400 인지를 알아야 정해집니다. 몇 자리가 맞았는가는 참값의 크기에 견준 물음이고, 그래서 상대오차의 몫입니다.
상대오차의 분모
정의는 참값으로 나누라고 하지만, 참값을 알면 애초에 근삿값이 필요 없습니다. 실제로 손에 있는 것은 근삿값과 오차의 어림뿐이라, 참값을 모를 때는 근삿값으로 나누는 것이 관례입니다. 측정값을 384000±400 km 처럼 적었다면 상대오차는 400/384000 으로 셉니다.
두 분모가 얼마나 다른 답을 내는지 계산해 봅니다.
384400400≈0.0010406,384000400≈0.0010417
넷째 유효숫자에서야 갈립니다. 두 값의 비는 분모의 비 384400/384000 을 뒤집은 것인데, 이 비가 1에서 벗어나는 정도가 바로 상대오차 0.1 %입니다. 그러니 상대오차 값 자체가 0.1 %쯤 달라질 뿐이고, 어느 쪽으로 나눠도 같은 말입니다. 상대오차가 작으면 분모의 선택은 그 작은 값의 작은 부분만 건드립니다.
오차가 크면 갈립니다. 서울–부산 400 km 를 800 km 로 적었다면 참값으로 나누면 400/400=100 %이고 근삿값으로 나누면 400/800=50 %입니다. 같은 실수가 두 배 다른 숫자로 적힙니다. 상대오차가 수십 %에 이르면 무엇으로 나눴는지를 함께 적어야 하고, 그 정도로 틀린 값은 몇 자리가 맞았는지를 따질 단계도 아닙니다.
오차의 부호
절댓값은 오차가 어느 쪽으로 났는지를 지웁니다. 절댓값을 벗긴
δ=x~−x
를 부호 있는 오차라 하면, δ>0 은 근삿값이 참값보다 크다는 뜻이고 δ<0 은 작다는 뜻입니다. 절대오차는 그 크기 ∣δ∣ 입니다.
어느 쪽을 쓰는지는 묻는 것이 정합니다. 무게가 10.0 g 인 추를 한 저울로 다섯 번 재어 부호 있는 오차가 +0.3,−0.2,+0.4,−0.1,+0.1 g 이었다고 합시다.
오차가 얼마나 큰가를 물으면 절댓값의 평균입니다. (0.3+0.2+0.4+0.1+0.1)/5=1.1/5=0.22 g 입니다.
저울이 한쪽으로 치우쳤는가를 물으면 부호를 남긴 평균입니다. (0.3−0.2+0.4−0.1+0.1)/5=0.5/5=0.1 g 이라 이 저울은 평균 0.1 g 무겁게 잽니다.
치우침은 알면 뺄 수 있습니다. 앞으로 이 저울이 보여 주는 값에서 0.1 g 을 빼면 됩니다. 크기만 남긴 0.22 g 으로는 그런 보정을 할 수 없습니다. 반대로 허용 범위 안에 드는지를 판정할 때는 방향이 상관없으니 절댓값을 씁니다.
다음 절에서 오차가 계산을 거치며 어떻게 합쳐지는지를 볼 때는 부호 있는 오차를 씁니다. 두 오차가 반대쪽이면 서로 깎이고 같은 쪽이면 쌓이는데, 절댓값으로는 그 차이가 안 보이기 때문입니다.
연산이 오차를 불리는 법
두 수에 각각 오차가 붙어 있을 때 그것을 더하거나 곱하면 어떻게 되는지를 봅니다. 오차끼리 곱한 항은 아주 작으니 버리는데, 이렇게 오차의 1차항까지만 남기는 것을 1차 근사라고 합니다.
연산별 규칙
더할 때는 절대오차가 더해집니다. 참값이 x, y 이고 근삿값이 x+δx, y+δy 이면
(x+δx)+(y+δy)=(x+y)+(δx+δy)
입니다. 합의 오차는 두 부호 있는 오차의 합이고, 그 크기는 많아야 ∣δx∣+∣δy∣ 입니다. 빼면 (x−y)+(δx−δy) 가 되어 부호만 바뀌고 크기의 상한은 같습니다. 뺄셈에서도 절대오차는 더해집니다.
곱할 때는 상대오차가 더해집니다. 부호 있는 오차를 참값으로 나눈 부호 있는 상대오차를 ε=δ/x 로 적어 근삿값을 x(1+εx), y(1+εy) 라고 하면
입니다. 가운데 부호가 빼기로 바뀌었을 뿐 크기는 많아야 ∣εx∣+∣εy∣ 입니다. 거리 120 km 를 1% 안쪽으로, 시간 2.0 시간을 2% 안쪽으로 쟀다면 속도 60 km/h 의 상대오차는 많아야 3%, 곧 1.8 km/h 입니다. 가장 나쁜 쪽은 거리가 1% 길고 시간이 2% 짧을 때라 손으로 나눠 보면 121.2/1.96≈61.84 이고, 60 보다 약 3.06 %가 큽니다. 3%와의 차이 0.06 %가 1차 근사에서 버린 몫입니다.
거듭제곱은 곱을 되풀이한 것이라 상대오차가 지수만큼 곱해집니다. 39번 · 세는 법의 이항정리로 펼치면 (1+ε)n=1+nε+2n(n−1)ε2+⋯ 이고, 1차 근사로
(x(1+ε))n≈xn(1+nε)
입니다. 한 변이 10.0 cm 인 정사각형을 1% 길게 재면 넓이는 2% 크게 나옵니다. 손으로 확인하면 10.12=102.01 로 100 보다 2.01 %가 큽니다. 정육면체라면 부피가 3% 틀립니다.
근호는 반대로 상대오차를 줄입니다. (1+ε/2)2=1+ε+ε2/4≈1+ε 이므로 1+ε≈1+ε/2, 곧 제곱근은 상대오차를 반으로, n 제곱근은 1/n 로 만듭니다. 넓이 100 cm² 를 2% 크게 재어 102 를 얻었다면 한 변은 102≈10.0995 로 10 보다 약 1% 큽니다.
연산
더해지는 것
크기의 상한
덧셈·뺄셈
절대오차
∣δx∣+∣δy∣
곱셈·나눗셈
상대오차
∣εx∣+∣εy∣
n 제곱
상대오차의 n 배
n∣ε∣
n 제곱근
상대오차의 1/n 배
∣ε∣/n
최악과 전형
표의 상한은 오차들이 모두 같은 쪽으로 났을 때, 곧 최악 경우의 값입니다. 오차가 서로 반대쪽이면 깎이므로 실제로는 대개 그보다 작습니다.
한쪽 오차가 어느 쪽으로 났는지가 다른 쪽과 아무 상관이 없을 때 두 오차가 독립이라고 합니다. 38번 · 조건부확률과 기댓값의 독립과 같은 뜻입니다. 두 오차가 독립이면 합의 오차는 상한이 아니라 다음 크기 근처에 머무는 것이 보통입니다.
δx2+δy2
손으로 셉니다. δx 가 +3 이나 −3, δy 가 +4 나 −4 이고 부호가 서로 상관없이 반반으로 난다고 합시다. 네 경우의 합은 3+4=7, 3−4=−1, −3+4=1, −3−4=−7 이고 각각 4분의 1의 확률입니다. 최악은 7 이지만 넷 중 둘은 1 로 거의 다 깎였습니다. 크기를 하나로 줄이려고 제곱해 평균을 내면
449+1+1+49=25,25=5=32+42
입니다. 이렇게 제곱의 평균에 근호를 씌운 값을 오차의 전형적 크기로 삼는 것이 관례이고, 독립인 오차의 합에서는 그것이 위 식대로 직각삼각형의 빗변처럼 자랍니다.
곱셈이라면 같은 식이 상대오차에 걸립니다. 상대오차 2%와 3%를 곱하면 최악은 5%이지만 독립이면 전형적 크기가 22+32=13≈3.6 %입니다.
갈림은 더하는 수가 많을수록 커집니다. 전형적 크기가 δ 인 독립 오차 n 개를 더하면 최악은 nδ 이고 전형은 nδ 입니다. 백 개를 더하면 최악이 100δ, 전형이 10δ 로 열 배 차이입니다. 넘으면 안 되는 한계를 정할 때는 최악을 쓰고, 여러 번 잰 값의 흔들림을 보고할 때는 전형을 씁니다.
독립이 아니면 근호가 서지 않습니다. 앞 절의 저울처럼 모든 측정이 같은 쪽으로 치우쳐 있으면 오차가 깎이지 않고 그대로 쌓여, 최악 경우의 식이 곧 실제가 됩니다.
자릿수 소거
빼기는 위 규칙대로라면 절대오차가 더해질 뿐입니다. 문제는 값입니다. 크기가 비슷한 두 수를 빼면 절대오차는 그대로인데 결과가 작아져, 그것으로 나눈 상대오차가 폭발합니다. 이것을 자릿수 소거라고 합니다.
1.2345×103 과 1.2344×103 은 각각 유효숫자 5자리인데, 빼면 0.0001×103 로 유효숫자가 1자리만 남습니다. 앞의 네 자리는 두 수에 똑같이 있던 것이라 차에는 아무것도 남기지 않았습니다.
손으로 재현해 봅니다. x=108 에서 x+1−x 를 구하는데, 유효숫자 다섯 자리까지만 손에 쥐고 있다고 하겠습니다.
108=104=1.0000×104
108+1=10000.00005…⟶1.0000×104
두 근호값이 다섯 자리 안에서는 똑같습니다. 그대로 빼면
1.0000×104−1.0000×104=0
답이 0입니다. 맞는 자리가 하나도 안 남았습니다.
이제 식을 먼저 고쳐 봅니다. 분자에 x+1+x 를 곱하고 같은 것으로 나누면, 13번에서 분모의 근호를 없앤 것과 같은 손질이 분자에 걸립니다. 이것을 분자의 유리화라고 합니다.
x+1−x=x+1+x(x+1−x)(x+1+x)=x+1+x1
이 꼴에는 뺄셈이 없습니다. 같은 다섯 자리로 계산합니다.
1.0000×104+1.0000×1041=2.0000×1041=5.0000×10−5
참값이 5.0000×10−5 이므로 다섯 자리가 전부 맞았습니다. 같은 정확도의 재료로 같은 값을 구하는데, 식을 어떻게 적었느냐가 다섯 자리와 0자리를 갈랐습니다.
유한한 자릿수
12번에서 1/3=0.333… 이 끝나지 않는 순환소수라고 했습니다. 종이든 기계든 자리는 유한하므로 어디선가 잘라야 합니다. 소수 다섯째 자리에서 자르면 0.33333 이고
절대오차=31−0.33333=0.00000333…≈3.33×10−6
상대오차=0.333333.33×10−6≈1.0×10−5
이 값을 3배 하면 0.99999 로 1 이 아니고, 절대오차도 3배가 되어 10−5 입니다. 자른 자리는 나중 계산을 그대로 따라다닙니다.
기계도 같은 일을 겪습니다. 컴퓨터는 수를 2진법으로 담는데, 10진법의 0.1 은 2진법으로 0.000110011… 처럼 끝나지 않습니다. 담는 순간 끝자리가 반올림되고, 그래서 컴퓨터에 0.1+0.2 를 시키면 0.3 이 아니라 0.30000000000000004 가 나옵니다. 10진법에서 0.33333 을 3배 하면 0.99999 가 되는 것과 같은 모양이고, 기계가 수를 어떤 규격으로 담는지는 중급 70·71번의 몫입니다.
그러므로 계산해 얻은 두 값이 같은지를 등호로 묻지 않습니다. 두 값의 차가 미리 정한 작은 수 τ 이하이면 같다고 칩니다.
∣a−b∣≤τ
이 τ 를 허용오차라고 합니다. 크기가 제각각인 수를 견줄 때는 절대오차 대신 상대오차로 묻는 꼴 ∣a−b∣≤τ⋅max(∣a∣,∣b∣) 를 씁니다. 다섯 자리로 계산한 0.99999 와 1 을 견주면 차가 10−5 이라, τ=10−4 이면 같다고 하고 τ=10−6 이면 다르다고 합니다. 허용오차는 계산이 지닌 자릿수보다 넉넉하게, 그러나 구별해야 할 차이보다는 작게 고릅니다. 다섯 자리로 계산하면서 τ=10−8 을 쓰면 언제나 다르다고 나오고, τ=0.2 를 쓰면 0.9 와 1 도 같다고 나옵니다.
유한한 자릿수가 만드는 구멍이 하나 더 있습니다. 유효숫자 다섯 자리만 쥔 채 12345+0.4 를 하면 12345.4 를 다섯 자리로 반올림해 12345 이고, 0.4 는 흔적도 없습니다. 큰 수에 작은 수를 더할 때 작은 쪽이 담길 자리가 없어 통째로 사라지는 이것을 흡수라고 합니다.
흡수는 더하는 차례에 따라 달라집니다. 12345 에 0.4 를 하나씩 열 번 더하면 매번 흡수되어 끝까지 12345 입니다. 열 개를 먼저 모아 0.4×10=4.0 을 만든 뒤 더하면 12349 이고, 이것이 참값입니다. 같은 수들을 더했는데 작은 것끼리 먼저 더했느냐가 4 를 살리고 죽였습니다.
로그 축의 두 종류
값이 몇 배씩 벌어지는 자료를 그대로 그리면 작은 값들이 바닥에 눌려 아무것도 안 보입니다. 앞의 길이 사다리를 보통 눈금에 그렸다면 지구 둘레와 지구–달 말고는 전부 원점 한 점에 겹쳤을 것입니다. 40번 · 기술통계가 넘겨 둔 축 이야기입니다.
반로그 축
세로만 로그로 매긴 축을 반로그 축이라고 합니다. 세로 눈금 한 칸 위가 10배가 되도록 log10y 의 자리에 y 를 찍는 것입니다. 21번 · 지수함수의 y=a⋅bx 에 로그를 취하면
log10y=log10a+xlog10b
오른쪽이 x 의 일차식이므로 지수적으로 자라는 것이 직선이 되고 그 기울기가 log10b 입니다. y=2x 는 한 칸 갈 때마다 log102≈0.301 씩 올라갑니다.
직선이 되면 읽기가 쉬워집니다. 보통 눈금에서 휘어 올라가는 곡선이 지수 성장인지 다른 무엇인지는 눈으로 가르기 어렵지만, 반로그 축에 올려 곧게 펴지면 지수 성장이고 그 기울기에서 배율 b 를 거꾸로 읽어 냅니다. 기울기가 0.301 이면 100.301≈2 라 한 칸마다 두 배입니다.
로그-로그 축
가로세로를 다 로그로 매긴 축을 로그-로그 축이라고 합니다. y=axk 에 로그를 취하면
log10y=log10a+klog10x
거듭제곱 관계가 직선이 되고 그 기울기가 지수 k 입니다. 기울기를 재면 그것이 곧 몇 제곱인지입니다.
가로가 10배 갈 때 세로가 100배 오르면 기울기가 2라 y 는 x2 에 비례하고, 세로가 10배 오르면 기울기가 1이라 x 에 비례합니다. 앞 절의 표에서 정사각형의 넓이가 한 변의 제곱이라 상대오차가 두 배로 옮겨 갔는데, 넓이와 한 변을 로그-로그 축에 그리면 기울기 2인 직선입니다. 그 기울기 2가 상대오차를 옮기는 배수와 같은 수인 것은 우연이 아닙니다 — 둘 다 「한쪽이 몇 % 바뀔 때 다른 쪽이 몇 % 바뀌나」를 묻고 있습니다.
0과 음수
로그 축의 눈금은 log10 값으로 자리를 잡으므로 로그가 없는 수는 올릴 자리가 없습니다. 22번에서 진수는 양수여야 한다고 했습니다. 0으로 다가가면 log100.1=−1, log100.001=−3, log1010−6=−6 으로 한없이 아래로 내려가므로, 0은 축의 어느 유한한 자리에도 없습니다. 음수는 아예 로그가 없습니다.
자료에 0이 섞이면 이것이 실제로 걸립니다. 날마다의 강수량을 로그 눈금에 그리면 비가 안 온 날, 곧 0 mm 인 날은 점이 찍히지 않습니다. 그날을 말없이 빼면 그래프가 실제보다 비가 잦았던 것처럼 보이므로, 뺐다고 적거나 0인 날을 따로 세어 옆에 적어야 합니다.
음수가 나오는 양에는 로그 축이 처음부터 맞지 않습니다. 섭씨 기온은 영하가 있어 못 올리는데, 그보다 앞서 기온에는 몇 배라는 말이 뜻이 없습니다. 20 °C 가 10 °C 의 두 배 따뜻한 것이 아니고, 섭씨 0도는 물이 어는 온도에 붙인 이름일 뿐 「없음」이 아닙니다. 로그 축은 같은 칸이 같은 배수라는 약속이므로, 0이 정말로 없음이고 음수가 없는 양 — 길이·넓이·인구·금액처럼 몇 배가 뜻을 갖는 양에만 맞습니다.
눈금 읽기
로그 축 한 칸, 곧 10배 사이의 눈금은 고르지 않습니다. 1과 10 사이에서 각 수가 서는 자리는 그 수의 log10 값이므로, 2는 log102≈0.301 이라 칸의 30.1 % 지점이고 5는 log105≈0.699 라 69.9 % 지점입니다. 1에서 2까지가 칸의 30%, 2에서 5까지가 40%, 5에서 10까지가 30%로 칸이 대략 셋으로 나뉩니다. 그래서 로그 격자에는 1·2·5·10에만 숫자를 다는 일이 흔합니다.
나머지 눈금 3·4·6·7·8·9는 오른쪽으로 갈수록 촘촘합니다. 8과 9 사이는 log10(9/8)≈0.051 이라 칸의 5%이고, 1과 2 사이의 여섯 분의 일입니다. 같은 1만큼 떨어져 있어도 로그로는 1과 2가 두 배 차이이고 8과 9는 1.125 배 차이이기 때문입니다.
눈금 사이의 점을 읽는 법도 같습니다. 10과 100 사이 칸의 60% 지점은 101.6=10×100.6 입니다. log104=2log102≈0.602 이므로 100.6≈4 이고 그 점은 약 40 입니다. 칸의 60%가 보통 눈금의 64가 아니라 40이고, 4의 눈금이 60.2% 지점에 서 있으니 눈으로 봐도 그 자리입니다.
한가운데도 다릅니다. 1과 2 사이 한가운데는 1.5 가 아니라 100.1505=2≈1.41 이고, 1과 10의 한가운데는 10≈3.16 입니다. 앞에서 크기의 자릿수를 올리고 내리는 경계가 3.16 이었던 까닭이 이것입니다.
일반적으로 a 와 b 의 로그 눈금 한가운데는 2loga+logb=logab 이므로 그 점은 ab, 40번에서 이름을 받아 둔 기하평균입니다. 배수를 평균 낼 때 기하평균을 쓰는 까닭도 여기서 나옵니다. 첫해에 2배, 둘째 해에 8배가 되었다면 평균은 (2+8)/2=5 배가 아니라 2×8=4 배입니다. 실제로 4×4=16=2×8 로 맞고, 5배를 두 번 하면 25배라 넘칩니다.
오차의 차수와 O(·)
반씩 줄이는 실험
35번 · 테일러 첫걸음에서 다항식으로 함수를 흉내 내고 남는 것을 절단오차라고 했습니다. eh 를 1차까지 자른 1+h 로 흉내 내고, h 를 반씩 줄이며 그 오차를 적습니다.
h
eh
1+h
오차
앞 줄과의 비
0.1
1.1051709
1.1
5.171×10−3
—
0.05
1.0512711
1.05
1.271×10−3
4.07
0.025
1.0253151
1.025
3.151×10−4
4.03
h 를 반으로 줄일 때마다 오차가 넷으로 나뉩니다. 반의 제곱이 4분의 1이므로, 오차는 h2 에 비례해 줄고 있습니다.
35번의 전개를 보면 까닭이 바로 보입니다. eh=1+h+2h2+6h3+⋯ 이므로 1+h 를 뺀 오차는 2h2+6h3+⋯ 이고, 맨 앞 항이 h2 입니다. h=0.1 에서 2h2=0.005 이고 표의 0.005171 과 둘째 자리까지 같습니다. 남은 0.000171 은 거의 다 6h3≈0.000167 의 몫입니다.
점근 표기
h 가 작아질 때 오차가 어떤 거듭제곱처럼 줄어드는지를 적는 약속이 점근 표기O(⋅) 입니다.
오차가 O(h2) 라는 것은, 어떤 상수 C 가 있어 h 가 충분히 작을 때 오차가 Ch2 를 넘지 않는다는 뜻입니다.
위 표는 O(h2) 입니다. 반으로 줄일 때 오차도 반이 되었다면 O(h) 라고 적습니다. O(hp) 의 지수 p 를 오차의 차수라고 하고, 차수가 높을수록 h 를 줄일 때 오차가 빨리 줍니다. h 를 반으로 줄이면 오차는 2p 분의 1이 됩니다.
상수와 높은 차수 항은 버립니다. 오차가 정확히 3h2+5h3 이어도 O(h2) 라고 적습니다. h 가 작아질수록 h3 은 h2 앞에서 무시할 만큼 작아지고 — h=0.01 이면 3h2=3×10−4 인데 5h3=5×10−6 입니다 — 상수 3은 반으로 줄일 때 넷으로 나뉜다는 빠르기를 바꾸지 않기 때문입니다. 버리는 것이 정당한 조건은 h 가 충분히 작을 때 하나입니다.
O 는 위로 막는 표기이고, 아래로 막는 것은 Ω, 위아래로 함께 막는 것은 Θ 라고 적는다는 것만 이름으로 적어 둡니다.
두 방향의 O
같은 기호 O 를 계산 횟수에도 씁니다. n 개의 수에서 모든 쌍을 한 번씩 견주면 견주는 횟수가
2n(n−1)=2n2−2n
이고, 이것을 O(n2) 라고 적습니다. 이번에는 높은 차수 n2 을 남기고 낮은 차수 n 을 버렸습니다. 오차에서는 낮은 h2 을 남기고 높은 h3 을 버렸으니 정반대입니다.
갈리는 것은 바라보는 방향입니다. 계산 횟수는 n 이 커지는 쪽을 봅니다. n=1000 이면 n2/2=500000 이고 n/2=500 이라, 큰 쪽에서는 높은 거듭제곱이 이깁니다. 오차는 h 가 0으로 가는 쪽을 봅니다. 위에서 본 대로 h=0.01 이면 h2 항이 h3 항의 60배라, 작은 쪽에서는 낮은 거듭제곱이 이깁니다. 정의의 「충분히 작을 때」가 계산 횟수에서는 「충분히 클 때」로 바뀝니다.
그래서 좋고 나쁨도 뒤집힙니다. 계산 횟수가 O(n2) 인 절차는 O(n) 인 것보다 나쁩니다 — n 이 두 배가 되면 일이 네 배로 늡니다. 오차가 O(h2) 인 근사는 O(h) 인 것보다 좋습니다 — h 가 반이 되면 오차가 넷으로 줍니다. 같은 기호를 만나면 어느 쪽으로 가는 이야기인지부터 문맥에서 확인합니다.
비의 흔들림
실측 표에서 차수를 거꾸로 읽을 때는 앞 줄과의 비 r 을 봅니다. 반으로 줄일 때 오차가 2p 분의 1이 되므로 r≈2p, 곧 p≈log2r 입니다. 위 표의 4.07 은 p≈2.03 입니다.
같은 실험을 h=1 에서 시작하면 비가 처음부터 4가 아닙니다.
h
오차 eh−(1+h)
앞 줄과의 비
log2(비)
1
0.71828
—
—
0.5
0.14872
4.83
2.27
0.25
0.034025
4.37
2.13
0.125
0.0081485
4.18
2.06
0.0625
0.0019945
4.09
2.03
비가 줄마다 흔들리며 4로 다가갑니다. 까닭은 앞에서 버린 항입니다. 오차 2h2+6h3+⋯ 에서 둘째 항과 첫째 항의 비는 h2/2h3/6=3h 이라, h=1 에서는 3분의 1로 무시할 크기가 아니고 h=0.0625 에서야 약 2%로 내려갑니다. 비가 흔들린다는 것은 정의의 「충분히 작을 때」에 아직 못 들어갔다는 신호입니다. 차수는 비가 몇 줄에 걸쳐 한 값에 머문 뒤에야 믿습니다.
반대쪽 끝에서도 비가 흔들립니다. eh−(1+h) 는 크기가 비슷한 두 수의 뺄셈이라 h 를 너무 줄이면 자릿수 소거에 걸립니다. 유효숫자 다섯 자리로 h=0.001 을 계산하면 e0.001=1.0010005… 가 1.0010 으로, 1+h 도 1.0010 으로 적혀 오차가 0 이 나옵니다. 참값은 약 5.0×10−7 입니다. 그러니 차수를 읽는 표는 h 가 크면 버린 항 때문에, 너무 작으면 유한한 자릿수 때문에 흔들리고, 믿을 수 있는 것은 그 사이의 줄들입니다.
연습 문제
연습 1 — 크기와 오차 재기
10−8, 10−3, 105 셋에 대하여 10−3 은 10−8 의 몇 배인지, 105 는 10−3 의 몇 배인지, 105 는 10−8 의 몇 배인지 각각 답하세요.
지수를 빼면 됩니다. 10−3/10−8=105 로 십만 배, 105/10−3=108 로 1억 배, 105/10−8=1013 로 10조 배입니다.
0.0007028 을 과학적 표기로 적고 유효숫자가 몇 자리인지 답하세요. 또 유효숫자 2자리로 반올림한 값도 적으세요.
7.028×10−4 이고 유효숫자는 4자리입니다. 2자리로 반올림하면 셋째 자리가 2라 버려 7.0×10−4 입니다.
참값이 2.5000 인데 2.4975 를 얻었습니다. 절대오차와 상대오차를 구하고, 앞에서부터 몇 자리가 맞았는지 답하세요.
절대오차는 ∣2.4975−2.5000∣=0.0025 이고 상대오차는 0.0025/2.5=0.001=10−3 입니다. −log1010−3=3 이므로 약 3자리가 맞았습니다. 실제로 2.50 까지 같습니다.
연습 2 — 오차가 불어나는 법
절대오차가 각각 0.02 와 0.05 인 두 값을 더했습니다. 합의 절대오차는 최대 얼마인지 답하세요.
절대오차가 더해지므로 0.02+0.05=0.07 입니다. 두 오차의 부호가 같을 때가 가장 나쁜 경우입니다.
상대오차가 각각 2 %와 3 %인 두 값을 곱했습니다. 곱의 상대오차를 1차 근사로 구하고, 버린 항이 얼마인지도 적으세요.
곱에서는 상대오차가 더해지므로 약 5 %입니다. 버린 항은 0.02×0.03=0.0006 으로 0.06 %이고, 남긴 5 %에 견주면 100분의 1 남짓입니다.
6.7182×102 과 6.7179×102 은 각각 유효숫자 5자리입니다. 차를 구하고 그 결과의 유효숫자가 몇 자리인지 답하세요.
6.7182×102−6.7179×102=0.0003×102=3×10−2 입니다. 앞의 네 자리가 같아 지워졌으므로 유효숫자는 1자리만 남습니다.
연습 3 — 로그 축과 차수
등비수열 1,3,9,27,81 의 각 항에 log10 을 취해 값을 적고, 이웃한 값의 차가 일정한지 확인한 뒤 반로그 축에서 어떤 모양이 되는지 답하세요. (log103≈0.477)
0,0.477,0.954,1.431,1.908 입니다. 이웃한 값의 차가 모두 0.477 로 일정하므로 반로그 축에서는 기울기 0.477 인 직선이 됩니다.
어떤 값이 첫해에 3배, 둘째 해에 12배가 되었습니다. 해마다 평균 몇 배가 된 셈인지 답하세요.
배수의 평균은 기하평균이므로 3×12=36=6 배입니다. 6×6=36=3×12 로 맞습니다.
어떤 근사법의 오차를 재었더니 h=0.4 에서 8.0×10−3, h=0.2 에서 4.1×10−3, h=0.1 에서 2.0×10−3 이었습니다. 오차의 차수를 O(⋅) 로 적으세요.
앞 줄과의 비가 8.0/4.1≈1.95, 4.1/2.0≈2.05 로 h 를 반으로 줄일 때 오차도 반이 됩니다. 따라서 O(h) 입니다.
연습 4 — 기계의 자릿수
컴퓨터에서 0.1+0.2 를 계산하면 0.30000000000000004 가 나옵니다. 이 값과 0.3 을 허용오차 τ=10−9 로 견주면 같다고 판정하는지 다르다고 판정하는지, τ=10−18 이면 어떤지 답하세요.
화면에 찍힌 두 값의 차는 0.00000000000000004=4×10−17 입니다. 10−9 보다 훨씬 작으니 같다고 판정하고, 10−18 보다는 크니 다르다고 판정합니다. 기계 안에 담긴 두 값의 차는 약 5.6×10−17 이고 화면의 수는 그것을 반올림해 보인 것이지만 판정은 같습니다. 뒤의 τ 는 기계가 지닌 자릿수보다 촘촘해서 이런 계산을 언제나 다르다고 판정하므로 허용오차로 쓸모가 없습니다.
컴퓨터는 수를 유효숫자 약 16자리로 담습니다. 1016+1 을 시키면 1016 이 그대로 나옵니다. 그 까닭을 유효숫자로 설명하세요.
1016+1=10000000000000001 은 17자리 수라 맨 끝의 1까지 담으려면 유효숫자 17자리가 필요합니다. 16자리만 담으면 1.000000000000000×1016 에서 끝나고 마지막 1은 담길 자리가 없어 반올림으로 사라집니다. 본문의 12345+0.4 와 같은 흡수입니다.
x2+1−x 를 x=2000 에서 유효숫자 4자리만 쥐고 계산하세요. 그다음 자릿수를 되찾도록 식을 고쳐 같은 4자리로 다시 계산하세요.
4000001=2000.00025… 를 4자리로 적으면 2.000×103 이라 그대로 빼면 0 입니다. 분자에 x2+1+x 를 곱하고 같은 것으로 나누면 분자가 (x2+1)−x2=1 이 되어 x2+1+x1 입니다. 4자리로 2.000×103+2.000×1031=4.000×1031=2.500×10−4 이고, 참값 2.49999998…×10−4 를 4자리로 반올림한 것과 같습니다.
정리
유효숫자는 믿을 수 있다고 주장하는 자릿수이고, 과학적 표기로 적어야 흐려지지 않습니다. 더할 때는 소수 자릿수가 짧은 쪽에, 곱할 때는 유효숫자가 적은 쪽에 맞춥니다.
크기의 자릿수는 log10 을 정수로 반올림한 것이고, 「몇 배인가」는 자릿수의 차로 거칠게 읽습니다. 10−8 m 는 원자 지름의 백 배이고 사람 키보다 자릿수 8이 아래입니다.
절대오차는 단위가 있고 상대오차는 없습니다. 상대오차의 로그가 맞는 자릿수이고, 참값을 모를 때는 근삿값으로 나누며 오차가 작으면 그 차이는 무시할 만합니다.
부호 있는 오차는 치우침을 보여 주고, 절댓값은 크기만 남깁니다.
1차 근사로 더하고 뺄 때는 절대오차가, 곱하고 나눌 때는 상대오차가 더해집니다. n 제곱은 상대오차를 n 배로, n 제곱근은 1/n 로 만듭니다. 오차가 독립이면 전형적 크기는 δx2+δy2 입니다.
크기가 비슷한 두 수를 빼면 자릿수가 통째로 날아가고, 큰 수에 작은 수를 더하면 작은 쪽이 흡수됩니다. 자리가 유한한 계산의 결과는 등호가 아니라 허용오차로 견줍니다.
반로그 축은 지수 성장을, 로그-로그 축은 거듭제곱 관계를 직선으로 폅니다. 0과 음수는 로그 축에 오르지 못하고, 한 칸 안의 눈금은 1·2·5·10이 30%·40%·30%로 나눕니다. 로그 눈금의 한가운데가 기하평균입니다.
O(h2) 는 h 를 반으로 줄일 때 오차가 넷으로 나뉜다는 뜻이고, 계산 횟수의 O(n2) 와는 바라보는 방향이 반대입니다. 실측 표의 비가 흔들리면 아직 충분히 작지 않거나 이미 너무 작은 것입니다.
다음 글은 초급 트랙의 마지막입니다. 지금까지 손으로 푼 것들을 기계에게 채점시키는 방법을 다룹니다.
갱신 −ηP⁻¹∇를 노름의 최급강하로 읽고 헤세·가우스–뉴턴·피셔·경험적 피셔의 관계를 정리한 뒤, 준뉴턴과 3차 정규화, K-FAC의 크로네커 인수분해와 그 독립 가정, Shampoo의 −1/4 지수, Muon의 스펙트럴 노름 유도를 차례로 세워 이들이 어디서 일치하는지 보입니다.