빅데이터분석기사 시험 노트개념 정리18 MIN
불균형 데이터 처리와 데이터 분할
한쪽 클래스가 드문 데이터를 다루는 법과 데이터를 나누는 법을 함께 봅니다. 정확도의 함정, 토멕링크·ENN 언더샘플링, SMOTE·ADASYN 오버샘플링, 임곗값 이동과 비용 민감 학습, 훈련·검증·평가 분할, 층화·시간순 분할, 그리고 데이터 누수를 막는 처리 순서를 다룹니다.
사기 거래, 설비 고장, 희귀 질환처럼 정작 찾고 싶은 것은 대개 드뭅니다. 거래 천 건 중 사기가 열 건이면 모형은 「전부 정상」이라고만 답해도 거의 다 맞히고, 그래서 아무것도 배우지 않은 채 좋은 점수를 받습니다. 이 노트는 그 기울기를 바로잡는 방법을 보고, 이어서 데이터를 학습용과 평가용으로 나누는 법을 봅니다. 개정 출제기준은 「데이터 분할」을 3과목에서 2과목으로 옮겼는데, 두 주제를 한 노트에 묶은 것은 리샘플링을 언제 거느냐가 분할과 떨어져서는 답이 안 나오기 때문입니다.
클래스 불균형
정확도의 함정
클래스는 분류 모형이 맞히려는 범주이고, 범주 사이의 개수 차이가 큰 상태를 클래스 불균형이라 합니다. 개수가 많은 쪽을 다수 클래스, 적은 쪽을 소수 클래스라 부르며, 찾고 싶은 쪽은 대개 소수 클래스입니다.
정확도는 전체 가운데 맞힌 비율입니다. 소수 클래스가 1%인 데이터에서 모두 다수 클래스로 답하면 정확도가 99%입니다. 숫자는 높지만 소수 클래스를 하나도 못 잡았으므로 쓸모가 없습니다. 모형도 학습 중에 이 쉬운 길로 끌려갑니다 — 전체 오차를 줄이는 것이 목표라면 드문 1%를 틀려도 손해가 작기 때문입니다.
재현율과 정밀도
그래서 불균형 데이터는 소수 클래스를 기준으로 따로 잽니다. 소수 클래스를 양성이라 할 때, 재현율은 실제 양성 가운데 모형이 양성으로 잡은 비율이고, 정밀도는 모형이 양성이라 한 것 가운데 실제 양성의 비율입니다. 둘을 조화평균한 것이 F1 점수입니다.
거래 1,000건 중 사기가 20건이고, 모형이 사기 12건을 잡고 8건을 놓쳤으며 정상 30건을 사기로 잘못 짚었다고 합시다. 정확도는 로 높지만, 재현율은 , 정밀도는 입니다. 같은 모형을 정확도로 보면 훌륭하고 재현율·정밀도로 보면 아직 멀었습니다. 지표의 상세한 계산은 4과목 「분류·회귀 모형의 평가 지표」 노트에서 다룹니다.
언더샘플링
무작위 언더샘플링
언더샘플링은 다수 클래스의 데이터를 줄여 두 클래스의 개수를 맞추는 방법입니다. 가장 단순한 무작위 언더샘플링은 다수 클래스에서 소수 클래스 개수만큼만 무작위로 뽑습니다. 정상 990건·사기 10건이면 정상 10건만 남겨 20건으로 학습합니다. 데이터가 줄어 학습이 빨라지지만, 버린 980건에 든 정보도 함께 사라집니다. 다수 클래스가 아주 많을 때 쓸 만합니다.
토멕링크와 ENN
무작위로 버리는 대신 경계를 흐리는 다수 클래스 데이터만 골라 버리는 방법이 있습니다.
- 토멕링크는 서로 다른 클래스에 속하면서 서로가 서로의 가장 가까운 이웃인 두 점의 쌍이다. 두 클래스의 경계에 붙어 있거나 잡음인 점이므로, 이 쌍에서 다수 클래스 쪽 점을 지워 경계를 넓힌다
- ENN(편집된 최근접 이웃)은 각 점의 가까운 이웃 k개를 보고, 그 이웃의 다수와 자기 클래스가 다른 다수 클래스 점을 지운다. k = 3이면 이웃 셋 중 둘 이상이 소수 클래스인 다수 클래스 점이 지워진다
둘 다 다수 클래스를 맞출 만큼 줄이지는 못합니다. 개수를 맞추기보다 경계를 깨끗하게 하는 방법이라, 오버샘플링과 함께 쓰기도 합니다(SMOTE 뒤에 토멕링크를 거는 식).
오버샘플링
SMOTE
오버샘플링은 소수 클래스의 데이터를 늘려 개수를 맞추는 방법입니다. 소수 클래스를 그대로 복제하면 같은 점이 여러 번 들어가 모형이 그 점들을 외우는 과적합이 생깁니다. SMOTE는 복제 대신 새 점을 합성합니다. 소수 클래스 점 하나와 그 점의 가까운 소수 클래스 이웃 하나를 고르고, 두 점을 잇는 선분 위의 무작위 위치에 새 점을 만듭니다.
점 (2, 4)와 이웃 (6, 8) 사이에서 u = 0.25가 뽑히면 새 점은 입니다. 원래 점들 사이를 채우므로 복제보다 과적합이 덜하지만, 소수 클래스 점이 다수 클래스 한가운데에 섞여 있으면 그 사이에 새 점을 만들어 경계를 오히려 흐립니다.
ADASYN
ADASYN은 SMOTE와 같은 방식으로 점을 합성하되, 점마다 만들 개수를 다르게 합니다. 주변에 다수 클래스 이웃이 많은, 곧 분류하기 어려운 소수 클래스 점 주위에 새 점을 더 많이 만듭니다. 경계 근처를 두텁게 해 모형이 그 자리를 더 배우게 하는 셈입니다.
| 방법 | 다루는 클래스 | 하는 일 |
|---|---|---|
| 무작위 언더샘플링 | 다수 | 무작위로 줄인다 |
| 토멕링크·ENN | 다수 | 경계의 점을 골라 지운다 |
| SMOTE | 소수 | 이웃 사이에 점을 합성한다 |
| ADASYN | 소수 | 어려운 점 주위에 더 많이 합성한다 |
알고리즘 쪽 처리
임곗값 이동
데이터를 건드리지 않고 모형 쪽에서 기울기를 바로잡는 길도 있습니다. 분류 모형은 대개 양성일 확률을 내고, 그 확률이 임곗값을 넘으면 양성으로 판정합니다. 기본값 0.5를 0.3으로 내리면 더 많은 거래를 사기로 짚게 되어 재현율이 오르고, 그만큼 정상을 잘못 짚는 일도 늘어 정밀도는 내려갑니다. 이것이 임곗값 이동입니다. 놓쳤을 때의 손해가 잘못 짚었을 때의 손해보다 크면 임곗값을 내립니다. 임곗값은 검증 데이터에서 정하고, 평가 데이터로 고르지 않습니다.
비용 민감 학습
비용 민감 학습은 클래스마다 틀렸을 때의 벌점을 다르게 주어 학습시키는 방법입니다. 소수 클래스를 틀리면 벌점을 크게 매겨, 모형이 「전부 다수」로 도망가지 못하게 합니다. scikit-learn에서는 class_weight="balanced"가 이 가중치를 클래스 개수의 역수에 비례하게 정합니다. 2,000건 중 양성이 100건이면 양성 가중치는 , 음성 가중치는 입니다. 데이터를 늘리거나 버리지 않으므로 정보 손실도 합성된 점도 없습니다.
데이터 분할
훈련·검증·평가
데이터 분할은 가진 데이터를 쓰임이 다른 묶음으로 나누는 일입니다. 훈련 데이터로 매개변수를 학습시키고, 검증 데이터로 초매개변수와 임곗값을 고르며, 평가 데이터로 마지막에 한 번 성능을 잽니다. 평가 데이터는 모형이 처음 보는 데이터의 대리인이므로 고르는 과정에 한 번이라도 쓰면 그 역할을 잃습니다. 2,000건을 70:15:15로 나누면 1,400·300·300건입니다. 데이터가 적으면 검증 데이터를 따로 떼지 않고 훈련 데이터 안에서 k-겹 교차 검증으로 대신합니다.
층화 분할과 시간순 분할
무작위로 나누면 운에 따라 소수 클래스가 한쪽에 몰릴 수 있습니다. 양성이 5%인 2,000건에서 평가 데이터 300건에 양성이 5건만 들어가면 재현율이 한 건마다 20%p씩 흔들립니다. 층화 분할은 클래스 비율을 유지한 채 나눕니다 — 양성 100건이 70:15:15로 들어가 1,400·300·300건 모두 양성이 5%가 됩니다.
시간에 따라 쌓인 데이터는 섞지 않고 시간순으로 자릅니다. 과거로 학습해 미래를 맞히는 것이 실제 쓰임인데, 무작위로 섞으면 미래의 거래로 학습해 과거를 맞히는 셈이 되어 성능이 부풉니다. 19월로 학습하고 10월로 검증하고 1112월로 평가하는 식으로 나눕니다.
처리 순서
데이터 누수
데이터 누수는 평가 시점에 알 수 없어야 할 정보가 학습에 섞여 들어가는 일입니다. 누수가 있으면 평가 점수는 높은데 실제 운영에서는 성능이 무너집니다. 분할 전에 전체 데이터로 표준화하면 평가 데이터의 평균과 표준편차가 훈련에 스며들고, 분할 전에 SMOTE를 걸면 평가 데이터의 점을 재료로 만든 합성 점이 훈련 데이터에 들어가거나, 합성 점이 평가 데이터에 섞여 실제로는 없는 사례로 채점하게 됩니다.
분할 뒤 맞추기
그래서 순서는 하나입니다 — 먼저 나누고, 스케일러와 리샘플링은 훈련 데이터에만 맞춘(fit) 뒤 그 기준을 검증·평가 데이터에 적용만 합니다. 리샘플링은 평가 데이터에 아예 걸지 않습니다. 평가 데이터는 실제 세상처럼 불균형한 그대로 두어야 실제 성능이 보입니다.
import numpy as np
from imblearn.over_sampling import SMOTE
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
X, y = make_classification(n_samples=2000, weights=[0.95], flip_y=0, random_state=0)
print(np.bincount(y)) # [1900 100] — 양성 5%
X_tr, X_te, y_tr, y_te = train_test_split(X, y, test_size=0.3, stratify=y, random_state=0)
print(np.bincount(y_tr), np.bincount(y_te)) # [1330 70] [570 30] — 두 쪽 모두 5%
scaler = StandardScaler().fit(X_tr) # 평균·표준편차는 훈련 데이터에서만
X_tr_s, X_te_s = scaler.transform(X_tr), scaler.transform(X_te)
X_res, y_res = SMOTE(random_state=0).fit_resample(X_tr_s, y_tr) # 훈련 데이터에만
print(np.bincount(y_res)) # [1330 1330] — 평가 데이터는 그대로
stratify=y가 층화 분할이고, 스케일러의 fit과 SMOTE의 fit_resample이 모두 X_tr 쪽에만 걸려 있다는 것이 이 코드의 요점입니다. 교차 검증을 할 때도 같은 원리라, 겹마다 그 겹의 훈련 부분에만 리샘플링을 겁니다.
연습 문제
정상 980건, 사기 20건인 데이터에서 모든 거래를 정상으로 예측했을 때의 정확도와 사기 재현율은?
① 98%, 0%
② 98%, 100%
③ 2%, 0%
④ 50%, 50%①. 정확도는 이고, 사기를 하나도 잡지 못했으므로 재현율은 입니다.실제 양성 40건 중 모형이 30건을 양성으로 잡았고, 모형이 양성이라 한 것은 모두 50건이었다. 재현율과 정밀도는?
① 0.75, 0.6
② 0.6, 0.75
③ 0.75, 0.8
④ 0.8, 0.6①. 재현율은 , 정밀도는 입니다.소수 클래스 점 (1, 2)와 그 이웃 (5, 10) 사이에서 SMOTE가 u = 0.5를 뽑았을 때 만들어지는 점은?
① (2, 4)
② (3, 6)
③ (4, 8)
④ (6, 12)②. 으로 두 점의 가운데입니다.서로 다른 클래스이면서 서로의 최근접 이웃인 두 점의 쌍을 찾아 다수 클래스 쪽을 지우는 방법은?
① SMOTE
② ADASYN
③ 토멕링크
④ 층화 분할③. SMOTE와 ADASYN은 소수 클래스를 늘리는 오버샘플링이고, 층화 분할은 나누는 방법입니다.다음 중 데이터 누수가 일어나는 순서는?
① 분할 → 훈련 데이터로 스케일러 맞춤 → 평가 데이터에 적용
② 분할 → 훈련 데이터에만 SMOTE
③ 전체 데이터에 SMOTE → 분할
④ 시간순으로 분할 → 훈련 데이터로 학습③. 분할 전에 합성하면 평가 데이터의 점이 합성의 재료가 되고 합성 점이 평가 데이터에 섞입니다.양성 비율이 4%인 5,000건을 층화 분할로 80:20으로 나눌 때 평가 데이터에 드는 양성 건수는?
① 20건
② 40건
③ 160건
④ 200건②. 평가 데이터는 건이고 그중 4%인 건이 양성입니다.놓친 사기의 손해가 잘못 짚은 정상 거래의 손해보다 훨씬 클 때, 학습이 끝난 모형에서 취할 조치로 알맞은 것은?
① 판정 임곗값을 높인다
② 판정 임곗값을 낮춘다
③ 평가 데이터에 SMOTE를 건다
④ 층화 분할을 무작위 분할로 바꾼다②. 임곗값을 낮추면 더 많이 양성으로 짚어 재현율이 오릅니다. 평가 데이터에는 리샘플링을 걸지 않습니다.
이 단원은 처리 방법을 「데이터를 바꾸는가, 모형을 바꾸는가」로 먼저 가르면 정리됩니다. 데이터 쪽은 다수를 줄이는 언더샘플링(무작위·토멕링크·ENN)과 소수를 늘리는 오버샘플링(SMOTE·ADASYN)이고, 모형 쪽은 임곗값 이동과 비용 민감 학습입니다. 분할은 세 묶음의 쓰임과 층화·시간순을, 순서는 「나누고 나서 훈련 데이터에만 맞춘다」 한 줄을 잡아 둡니다.

