비전·음성·추천

DOMAIN / 30번째 글

행렬 분해(MF): SVD·ALS·FunkSVD 추천 알고리즘 완전 해설

잠재 요인 모델·행렬 분해 원리, SVD·FunkSVD·ALS·BPR 알고리즘, SGD 최적화, Python Surprise 라이브러리 실전 코드까지 완전 해설합니다.

PALDYN Team39 MIN READ

지난 글에서 아이템의 특성을 벡터로 표현해 유사한 콘텐츠를 추천하는 콘텐츠 기반 필터링을 살펴봤다. 이번에는 2006년에 시작해 2009년에 끝난 Netflix Prize를 거치며 추천 시스템의 판도를 바꾼 기법인 행렬 분해(Matrix Factorization, MF)를 다룬다. 협업 필터링이 「비슷한 사람」이나 「비슷한 아이템」을 직접 찾아 평점을 빌려 왔다면, 행렬 분해는 사용자와 아이템을 같은 좌표 공간에 놓고 그 좌표끼리의 계산으로 평점을 예측한다. 이웃을 찾는 대신 좌표를 학습하는 쪽으로 옮겨 간 이 전환이 정확도를 끌어올렸고, 지금도 많은 추천 시스템의 기준선이 이 모델이다.

이 글은 그 좌표가 무엇을 뜻하는지에서 출발해, 비어 있는 행렬을 어떻게 다루는지, 학습을 어떤 절차로 돌리는지, 평점이 없는 데이터에서는 무엇이 바뀌는지, 그리고 결과를 어떤 지표로 재야 하는지를 차례로 따라간다.

잠재 요인 모델

내적 근사

영화 평점 데이터를 보면 흥미로운 패턴이 숨어 있다. SF 영화를 좋아하는 사람들은 서로 모르는 사이여도 비슷한 영화에 높은 점수를 준다. 이 패턴을 만드는 관찰되지 않은 특성을 잠재 요인(latent factor)이라 부른다. 「잠재」는 데이터 어디에도 그 이름의 열이 없다는 뜻이다.

잠재 요인 모델은 이렇게 가정한다. 사용자마다 kk 개의 숫자로 된 벡터가 있고, 아이템마다도 같은 kk 개 숫자의 벡터가 있다. 사용자 벡터의 숫자는 각 요인을 얼마나 좋아하는지, 아이템 벡터의 숫자는 그 아이템이 각 요인을 얼마나 띠는지를 나타낸다. 그리고 사용자가 아이템에 줄 평점은 두 벡터의 내적, 곧 같은 자리끼리 곱해 모두 더한 값으로 근사한다. 좋아하는 요인과 아이템이 강하게 띠는 요인이 겹칠수록 곱이 커지고 평점 예측도 올라간다.

사용자-아이템 평점 행렬 RR 을 두 개의 작은 행렬로 나누어 쓰면 이 가정이 그대로 식이 된다.

행렬 분해(Matrix Factorization) 개념

Rm×n≈Pm×k Qk×nTR_{m \times n} \approx P_{m \times k} \, Q^T_{k \times n}

여기서 mm 은 사용자 수, nn 은 아이템 수다. PP 의 uu 번째 행 PuP_u 가 사용자 uu 의 벡터이고, QQ 의 ii 번째 행 QiQ_i 가 아이템 ii 의 벡터다. 사용자 uu 가 아이템 ii 에 줄 것으로 예측되는 평점은 다음과 같다.

r^ui=Pu⋅Qi=∑f=1kPuf Qif\hat{r}_{ui} = P_u \cdot Q_i = \sum_{f=1}^{k} P_{uf} \, Q_{if}

이 식에서 PP 와 QQ 의 숫자 전부가 모델의 파라미터다 — 학습이 정해야 하는 값이다. 사용자 10만 명, 아이템 1만 개에 k=50k=50 이면 파라미터는 (100000+10000)×50=5,500,000(100000 + 10000) \times 50 = 5{,}500{,}000 개다. 원래 행렬의 칸 수 10억 개와 견주면 수백 분의 일로 줄어든 표현이고, 이 압축이 곧 일반화의 근원이다. 칸을 하나하나 외울 자리가 없으니 여러 칸에 공통으로 걸리는 규칙만 남는다.

이름 없는 요인

예를 들어 k=3k=3 이라고 하면 세 요인이 「SF 선호도」, 「로맨스 선호도」, 「액션 선호도」처럼 해석될 수 있다. 위 그림의 요인 이름도 그런 식으로 붙여 본 것이다. 하지만 이 이름들은 학습 결과를 보고 사람이 붙인 것이지 모델이 알고 있는 것이 아니다. 모델에게 요인은 1번 칸, 2번 칸일 뿐이고, 평점을 잘 맞히기만 하면 그 칸이 무엇을 담든 상관하지 않는다.

이름이 사후 해석에만 머무는 데는 구조적인 이유가 있다. 요인 공간을 회전시켜도 예측값이 하나도 안 바뀐다. 아무 회전 행렬 MM 을 골라 PP 에 MM 을, QQ 에 MM 을 곱하면 내적은 그대로다. 그러니 같은 품질의 해가 무한히 많고, 학습을 다시 돌리면 1번 칸이 「SF」가 아니라 「SF 절반 + 액션 절반」 같은 섞인 축으로 나오기도 한다. 요인 하나를 들여다보며 「이건 SF 축이다」라고 말할 수 있는 경우는 드물다. 대신 아이템 벡터끼리의 거리, 즉 어떤 영화들이 서로 가까이 놓였는지는 회전과 무관하게 남는다. 실무에서 요인을 해석할 때 축 하나보다 이웃을 보는 이유다.

요인 수 k

kk 는 학습이 정하는 값이 아니라 학습 전에 사람이 정하는 하이퍼파라미터다. kk 가 작으면 표현할 수 있는 취향의 갈래가 적어 여러 취향이 한 축에 뭉개지고, 훈련 데이터의 오차부터 줄지 않는다. 이것이 언더피팅이다. kk 를 키우면 훈련 오차는 계속 내려가지만, 평점이 몇 개뿐인 사용자의 벡터에도 50개, 100개의 숫자가 생기고 그 숫자들이 몇 안 되는 평점을 외우는 쪽으로 맞춰진다. 그러면 검증 데이터의 오차가 어느 지점부터 다시 오른다.

보통 10에서 200 사이를 교차 검증으로 훑는다. 평점 10만 개 규모의 데이터에서는 kk 를 20 근처에서 100으로 올려도 검증 오차가 거의 안 움직이는 일이 흔하고, 평점이 수억 개인 데이터에서는 100을 넘겨도 이득이 이어진다. 데이터가 감당할 수 있는 요인 수는 데이터의 양이 정한다는 뜻이다. 그리고 kk 는 혼자 움직이지 않는다 — 아래에서 볼 정규화 계수를 함께 키우면 큰 kk 에서도 과적합이 늦게 온다.

희소 행렬

빈칸의 두 뜻

수학의 SVD(특이값 분해)는 칸이 다 채워진 행렬을 정확히 분해하는 방법이다. 하지만 실제 평점 행렬은 99% 이상이 비어 있다. 사용자 한 명이 아이템 1만 개 중 수십 개에만 평점을 남기기 때문이다. 이 빈칸을 0으로 채우고 SVD를 돌리면 「관심이 없다」와 「아직 평가하지 않았다」가 같은 값이 된다. 모델은 빈칸 수백만 개를 「0점을 받은 칸」으로 맞히려 애쓰고, 그 결과 모든 예측이 0 쪽으로 끌려 내려간다. 5점 만점에 4점을 줄 사람의 예측이 0.3점으로 나오는 식이다.

평균값으로 채우는 방법도 있지만 마찬가지로 실제로 관찰하지 않은 값을 관찰한 값처럼 학습에 넣는다는 문제는 그대로다. 그리고 채운 순간 행렬이 빽빽해져 메모리가 칸 수만큼 든다. 희소 행렬의 문제는 계산량이 아니라 빈칸의 뜻에 있다.

FunkSVD

2006년 Netflix Prize 경진대회에서 Simon Funk(본명 Brandon Webb)가 블로그에 공개한 접근이 판도를 바꿨다. 발상은 단순하다. 손실을 관찰된 평점에 대해서만 계산하고, 그 평점들 위에서 확률적 경사 하강법으로 PP 와 QQ 를 갱신한다. 빈칸은 손실에 아예 등장하지 않으므로 빈칸의 뜻을 정할 필요가 없어진다. 이름에 SVD가 붙어 있지만 특이값을 계산하지 않는다. 결과가 SVD처럼 두 행렬의 곱이라는 점에서 이름만 빌렸다. 흔히 FunkSVD라 부르고, Surprise 라이브러리의 SVD가 바로 이것이다.

손실 함수는 다음과 같다. K\mathcal{K} 는 관찰된 (사용자, 아이템) 쌍의 집합이다.

L=∑(u,i)∈K(rui−Pu⋅Qi)2+λ(∥Pu∥2+∥Qi∥2)\mathcal{L} = \sum_{(u,i) \in \mathcal{K}} \left(r_{ui} - P_u \cdot Q_i\right)^2 + \lambda\left(\|P_u\|^2 + \|Q_i\|^2\right)
def funk_svd_update(r_ui, p_u, q_i, lr=0.005, reg=0.02):
    """관찰된 평점 하나로 두 벡터를 갱신"""
    err = r_ui - np.dot(p_u, q_i)  # 예측 오차
    p_u_new = p_u + lr * (err * q_i - reg * p_u)
    q_i_new = q_i + lr * (err * p_u - reg * q_i)
    return p_u_new, q_i_new

갱신 식을 말로 풀면 이렇다. 예측이 실제보다 낮으면(오차가 양수면) 사용자 벡터를 아이템 벡터 쪽으로, 아이템 벡터를 사용자 벡터 쪽으로 조금씩 당긴다. 그러면 내적이 커져 다음번 예측이 올라간다. 관찰된 평점 하나하나가 두 벡터를 서로 끌어당기거나 밀어내고, 이것을 수백만 번 되풀이한 뒤 남은 배치가 학습된 좌표다.

정규화 계수

손실의 둘째 항 λ(∥Pu∥2+∥Qi∥2)\lambda(\|P_u\|^2 + \|Q_i\|^2) 가 정규화다. 벡터의 숫자가 커질수록 벌점을 매겨 숫자들을 0 쪽으로 붙잡는다. 이 항이 왜 필요한지는 평점이 셋뿐인 사용자를 생각하면 보인다. 그 사용자의 벡터에 숫자가 50개 있으면 평점 셋을 오차 0으로 맞추는 해는 얼마든지 있고, 그중 상당수는 숫자가 터무니없이 큰 해다. 그 큰 숫자로 처음 보는 아이템을 예측하면 7점이나 −2점 같은 값이 나온다.

정규화는 이 사용자에게 「확실한 근거가 없으면 0 근처에 있어라」라고 말한다. 평점이 수백 개인 사용자는 데이터 쪽 항이 정규화 항을 압도해 벡터가 제자리를 찾고, 평점이 몇 개뿐인 사용자는 정규화에 붙잡혀 0 근처, 곧 「평범한 사용자」로 남는다. 데이터의 양에 따라 믿음의 정도가 저절로 조절되는 셈이다. Surprise의 기본값은 λ=0.02\lambda = 0.02 이고, 데이터가 희소할수록 0.05~0.1로 올려 보는 것이 출발점이다.

바이어스 항

기준선 예측

평점 데이터에는 취향과 무관한 치우침이 섞여 있다. 어떤 사용자는 무엇을 봐도 2~3점을 주고, 어떤 사용자는 웬만하면 5점을 준다. 어떤 영화는 누가 보든 평균이 높다. 이 치우침을 잠재 요인에게 맡기면 요인 하나가 통째로 「이 사람은 후하다」를 표현하는 데 쓰인다. 그래서 치우침을 따로 떼어 모델에 넣는다.

r^ui=μ+bu+bi+Pu⋅Qi\hat{r}_{ui} = \mu + b_u + b_i + P_u \cdot Q_i

μ\mu 는 전체 평균 평점, bub_u 는 사용자 uu 가 평균보다 얼마나 후하거나 짠지, bib_i 는 아이템 ii 가 평균보다 얼마나 높게 평가받는지를 나타내는 바이어스 항이다. 예를 들어 전체 평균이 3.6점이고, 사용자 A가 평균보다 0.4점 짜게 주며, 영화 X가 평균보다 0.5점 높게 평가받는다면, 요인 부분을 빼고도 예측은 3.6−0.4+0.5=3.73.6 - 0.4 + 0.5 = 3.7 점이다. 이 앞 세 항만으로 된 예측을 기준선 예측이라 부른다.

def predict(mu, b_u, b_i, p_u, q_i):
    return mu + b_u + b_i + np.dot(p_u, q_i)

요인이 남는 몫

기준선 예측만으로도 놀라울 만큼 많은 것이 맞는다. Surprise가 공개하는 벤치마크로 보면, MovieLens 100K에서 바이어스만 쓰는 모델의 RMSE가 약 0.944이고 잠재 요인을 더한 SVD가 약 0.934다. 무작위 예측은 약 1.51이다. 무작위에서 기준선까지 0.57을 줄였고, 잠재 요인이 더한 몫은 0.01이다. 데이터가 열 배인 MovieLens 1M에서는 기준선이 약 0.909, SVD가 약 0.873으로 요인의 몫이 0.036으로 커진다.

이 숫자가 말하는 것이 둘이다. 하나는 평점 예측 오차의 대부분이 취향이 아니라 치우침이라는 것이다. 다른 하나는 요인이 일을 하려면 데이터가 충분해야 한다는 것이다. 사용자 943명, 평점 10만 개로는 요인이 잡아낼 공통 규칙이 많지 않고, 데이터가 늘어야 요인의 몫이 커진다.

그리고 치우침을 빼고 나서야 요인이 뜻을 갖는다. 바이어스 항이 없으면 「모든 영화를 좋게 보는 사람」과 「SF를 좋아하는 사람」이 같은 축 위에서 섞인다. 바이어스가 「얼마나 후한가」를 가져가면 요인은 남은 것, 곧 「무엇을 상대적으로 더 좋아하는가」만 표현하게 된다. 사용자 벡터끼리의 거리가 취향의 거리가 되는 것은 이 분리 덕이다.

편향 정규화

바이어스 항도 정규화한다. 평점을 하나만 남긴 사용자가 5점을 줬다고 그 사용자의 bub_u 를 +1.4로 잡으면, 그 사람이 앞으로 볼 모든 영화가 1.4점씩 올라간다. 그 평점 하나가 후한 성격 때문인지 그 영화가 정말 좋아서인지 가를 근거가 없기 때문이다.

관례는 바이어스와 요인 벡터의 정규화 계수를 따로 두는 것이다. 바이어스는 숫자 하나라 과적합의 여지가 작고, 요인 벡터는 숫자가 kk 개라 여지가 크다. 그래서 바이어스는 약하게, 요인은 강하게 묶는 조합이 흔하다. Surprise의 SVD도 reg_bu, reg_bi, reg_pu, reg_qi를 따로 받는다. 하나의 reg_all로 시작하고, 평점이 극히 적은 사용자가 많은 데이터라면 바이어스 쪽을 따로 올려 본다.

SGD와 ALS

샘플 단위 갱신

앞에서 본 FunkSVD의 갱신 방식이 확률적 경사 하강법(SGD)이다. 관찰된 평점을 하나씩 꺼내 그 평점에 걸린 두 벡터만 조금 움직인다. 전체 평점을 한 번 다 훑는 것을 에폭이라 하고, 보통 20~50 에폭을 돈다. 구현이 짧고 메모리를 적게 쓰며 바이어스 항이나 다른 항을 손실에 더하기도 쉽다.

대신 순서에 의존한다. 평점 A를 처리해 사용자 벡터를 움직인 뒤에 평점 B를 처리해야 B가 움직인 벡터를 보고 갱신된다. 여러 기계에 나눠 동시에 돌리면 같은 벡터를 여러 곳에서 동시에 고치게 되어, 서로의 갱신을 덮어쓰거나 오래된 값으로 계산하게 된다. 이것을 감수하고 병렬로 돌리는 기법도 있지만 단순하지 않다.

번갈아 푸는 최소제곱

ALS(Alternating Least Squares)는 다른 길을 간다. 아이템 벡터 QQ 를 전부 고정하면, 사용자 uu 의 벡터 PuP_u 를 구하는 문제는 평범한 선형 회귀가 된다. 사용자 uu 가 평가한 아이템들의 벡터가 입력이고 그 평점들이 정답이다. 선형 회귀에는 닫힌 형태의 해가 있으니 반복 없이 한 번에 풀린다. 그다음 PP 를 고정하고 같은 방식으로 QQ 를 푼다. 이 둘을 번갈아 되풀이하는 것이 ALS다.

ALS의 번갈아 푸는 두 단계

def als_update_user(R, Q, lambda_reg):
    """Q 고정 상태에서 P 최적화 (닫힌 형태 해)"""
    k = Q.shape[1]
    P = np.zeros((R.shape[0], k))
    for u in range(R.shape[0]):
        rated = R[u, :].nonzero()[0]  # 유저 u가 평가한 아이템
        if len(rated) == 0:
            continue
        Q_u = Q[rated, :]
        r_u = R[u, rated]
        # 최적 P_u: (Q_u^T Q_u + λI)^-1 Q_u^T r_u
        A = Q_u.T @ Q_u + lambda_reg * np.eye(k)
        b = Q_u.T @ r_u
        P[u, :] = np.linalg.solve(A, b)
    return P

위 반복문을 보면 사용자 uu 의 계산에 다른 사용자의 벡터가 하나도 안 쓰인다. QQ 가 고정이므로 사용자마다 독립인 문제 수백만 개가 있는 것이다. 이 사용자들을 기계 100대에 나눠 동시에 풀어도 결과가 순서대로 푼 것과 똑같다. Apache Spark의 MLlib가 추천 알고리즘으로 ALS를 내장한 이유가 이것이고, 사용자·아이템이 수억 규모인 서비스에서 ALS가 기본 선택이 되는 이유도 이것이다.

손잡이의 차이

두 방법은 조정하는 값도 다르다. SGD에서는 학습률과 에폭 수가 결과를 크게 좌우한다. 학습률이 크면 손실이 출렁이다 발산하고, 작으면 50 에폭을 돌아도 덜 수렴한다. 둘 사이의 좋은 자리를 찾는 데 실험이 여러 번 든다. ALS에는 학습률이 없다. 각 단계가 그 단계의 최적해를 바로 구하므로 손실이 매 반복마다 줄어들고, 보통 10~20번 반복이면 충분하다. 손댈 것은 반복 횟수와 정규화 계수 정도다.

대가도 있다. ALS 한 단계는 사용자마다 k×kk \times k 행렬의 역을 구하므로 kk 가 커지면 비용이 k3k^3 로 늘어난다. k=50k=50 이면 문제가 안 되지만 k=500k=500 이면 한 단계가 천 배 무거워진다. 그리고 손실에 새로운 항을 더하면 닫힌 형태의 해가 사라지는 일이 많아 SGD보다 덜 유연하다. 정리하면, 데이터가 한 기계에 들어가고 모델을 이리저리 바꿔 볼 단계라면 SGD가, 데이터가 크고 모델이 정해진 단계라면 ALS가 편하다.

암묵적 피드백

신뢰도 가중치

현실의 서비스 대부분에는 15점 평점이 없다. 남는 것은 클릭, 구매, 재생 횟수, 체류 시간 같은 행동 기록이다. 사용자가 일부러 남긴 평가가 아니라 행동에서 추정하는 신호라 이것을 암묵적 피드백(implicit feedback)이라 부르고, 15점처럼 사용자가 직접 남긴 것을 명시적 피드백이라 부른다.

암묵적 피드백에는 「싫다」에 해당하는 값이 없다. 그리고 횟수가 크다고 더 좋아한다는 보장도 없다. 배경 음악으로 틀어 둔 노래가 재생 횟수 1위일 수 있다. Hu, Koren, Volinsky가 2008년에 낸 방식은 이 신호를 두 가지로 나눈다. 하나는 선호 여부 puip_{ui} 로, 한 번이라도 행동이 있으면 1, 없으면 0이다. 다른 하나는 그 선호를 얼마나 믿을지를 나타내는 신뢰도 cuic_{ui} 다.

def confidence(count, alpha=40):
    """구매/클릭 횟수를 신뢰도로 변환"""
    return 1 + alpha * count
# count=0: confidence=1   (관찰 안 됨, 약한 부정)
# count=5: confidence=201 (5번 구매, 강한 긍정)

모델은 puip_{ui} 를 내적으로 맞히되, 칸마다 오차에 cuic_{ui} 를 곱해 가중치를 준다. 다섯 번 산 아이템을 틀리면 큰 벌점이고, 한 번도 안 본 아이템을 틀리면 작은 벌점이다. α\alpha 는 횟수를 신뢰도로 바꾸는 비율로, 논문에서는 40이 잘 맞았다고 보고했다. 횟수의 편차가 큰 데이터에서는 횟수에 로그를 씌워 넣기도 한다.

모름과 싫음

이 방식에서 행동이 없는 칸은 손실에서 빠지지 않는다. 명시적 평점의 FunkSVD는 빈칸을 손실에서 뺐지만, 암묵적 피드백에서 빈칸을 빼면 남는 칸이 전부 1이라 모델이 모든 예측을 1로 내놓는 것으로 끝난다. 그래서 빈칸을 0으로 넣되 신뢰도를 가장 낮게 준다. 「안 봤다」는 「싫다」가 아니라 「모른다」에 가깝지만, 그래도 수많은 빈칸 전체로 보면 약하게나마 「관심이 덜하다」는 신호라는 판단이다.

문제는 칸 수다. 사용자 100만, 아이템 10만이면 칸이 1,000억 개이고 그 전부가 손실에 들어간다. SGD로 하나씩 돌 수 있는 크기가 아니다. 여기서 ALS가 다시 쓸모를 보인다. 빈칸의 신뢰도가 모두 1로 같다는 점을 이용하면, 사용자 하나를 풀 때 「모든 아이템에 대한 공통 부분」을 한 번만 계산해 두고 그 사용자가 실제로 행동한 아이템 몫만 더하면 된다. 그래서 계산량이 전체 칸 수가 아니라 관찰된 행동 수에 비례한다. 파이썬의 implicit 라이브러리가 이 방식을 구현한 대표다.

BPR

BPR(Bayesian Personalized Ranking)은 질문 자체를 바꾼다. 「이 칸의 값이 얼마인가」를 맞히는 대신 「이 사용자가 둘 중 어느 쪽을 더 좋아하는가」를 맞힌다. 사용자 uu 가 아이템 ii 를 샀고 jj 는 사지 않았다면, uu 는 ii 를 jj 보다 선호할 가능성이 높다고 보고, 이 짝의 순서를 맞히도록 학습한다.

BPR-OPT=∑(u,i,j)∈DSln⁡σ(r^ui−r^uj)−λΘ∥Θ∥2\text{BPR-OPT} = \sum_{(u,i,j) \in D_S} \ln \sigma(\hat{r}_{ui} - \hat{r}_{uj}) - \lambda_\Theta \|\Theta\|^2

σ\sigma 는 시그모이드 함수이고, r^ui−r^uj\hat{r}_{ui} - \hat{r}_{uj} 가 클수록 순서를 확신한다는 뜻이다.

def bpr_update(p_u, q_i, q_j, lr=0.01, reg=0.01):
    """BPR 쌍별 업데이트 (i: 구매, j: 미구매)"""
    x_uij = np.dot(p_u, q_i) - np.dot(p_u, q_j)
    sigmoid = 1 / (1 + np.exp(x_uij))  # ∂σ/∂x_uij

    p_u  += lr * (sigmoid * (q_i - q_j) - reg * p_u)
    q_i  += lr * (sigmoid * p_u - reg * q_i)
    q_j  += lr * (-sigmoid * p_u - reg * q_j)
    return p_u, q_i, q_j

BPR이 전자상거래에서 강한 이유는 추천이 실제로 하는 일과 손실이 같은 모양이기 때문이다. 추천 화면은 점수의 절댓값을 보여 주지 않고 순서만 보여 준다. 「이 상품에 0.83점」을 정확히 맞히는 것보다 「산 것이 안 산 것보다 위에 온다」를 맞히는 편이 목록 품질과 곧바로 이어진다. 그리고 jj 를 매번 무작위로 뽑으므로 칸 전체를 돌지 않고도 학습이 된다. 다만 무작위로 뽑은 jj 는 대개 너무 쉬운 상대라, 학습 후반에는 모델이 이미 높게 점수를 주는 안 산 아이템을 일부러 뽑아 어려운 짝을 만드는 기법을 함께 쓴다.

평가 지표

RMSE의 한계

RMSE(평균 제곱근 오차)는 예측 평점과 실제 평점의 차이를 제곱해 평균 내고 제곱근을 씌운 값이다. 평점 예측의 정확도를 한 숫자로 보여 준다.

RMSE=1∣T∣∑(u,i)∈T(rui−r^ui)2\text{RMSE} = \sqrt{\frac{1}{|\mathcal{T}|}\sum_{(u,i) \in \mathcal{T}} (r_{ui} - \hat{r}_{ui})^2}

Python의 Surprise 라이브러리로 FunkSVD를 돌리면 이 값을 교차 검증으로 바로 얻는다.

Surprise SVD 라이브러리 실전 코드

앞에서 본 대로 MovieLens 1M에서 SVD는 약 0.87, 무작위 예측은 약 1.5다. 그런데 RMSE가 낮다고 추천 목록이 좋다는 보장은 없다. RMSE는 사용자가 이미 평가한 칸만 채점한다. 사용자는 대개 볼 만하다고 생각한 영화를 골라 보고 평가하므로, 그 칸들은 3~5점에 몰려 있다. 모델은 「본 영화 중에서 몇 점을 줄까」를 잘 맞히도록 학습되지만, 추천 목록이 묻는 것은 「안 본 영화 1만 개 중 무엇을 위에 놓을까」다. 앞의 질문을 잘 푸는 모델이 뒤의 질문도 잘 푼다는 연결 고리가 약하다. 그리고 RMSE는 1점짜리 영화를 2점으로 예측한 오차와 5점짜리를 4점으로 예측한 오차를 똑같이 센다. 추천에서 중요한 것은 뒤쪽뿐이다.

순위 지표

그래서 실제 서비스에서는 「상위 K개 목록에 사용자가 실제로 좋아한 아이템이 몇 개 들어 있는가」를 잰다. Precision@K는 추천한 K개 중 맞은 비율이고, Recall@K는 사용자가 좋아한 것 중 K개 안에 들어온 비율이다.

def precision_at_k(recommended, relevant, k=10):
    """추천 상위 K개 중 실제 좋아한 비율"""
    hits = len(set(recommended[:k]) & set(relevant))
    return hits / k

def recall_at_k(recommended, relevant, k=10):
    """실제 좋아한 아이템 중 추천된 비율"""
    hits = len(set(recommended[:k]) & set(relevant))
    return hits / len(relevant) if relevant else 0

두 지표는 목록 안의 순서를 보지 않는다. 맞은 아이템이 1등이든 10등이든 같은 점수다. 사용자는 위에서부터 보고 대개 위쪽 몇 개만 누르므로 순서가 중요하다. NDCG@K는 맞은 아이템이 아래에 있을수록 점수를 로그로 깎고, 가능한 최고 점수로 나눠 0에서 1 사이 값으로 만든다.

def ndcg_at_k(recommended, relevant, k=10):
    """순위 가중 추천 품질 지표"""
    dcg = sum(1 / np.log2(rank + 2)
              for rank, item in enumerate(recommended[:k])
              if item in relevant)
    ideal = sum(1 / np.log2(i + 2) for i in range(min(len(relevant), k)))
    return dcg / ideal if ideal > 0 else 0

계산을 한 번 따라가 보자. 좋아한 아이템이 둘이고, 목록 1등과 3등에 걸렸다면 DCG는 1/log⁡22+1/log⁡24=1+0.5=1.51/\log_2 2 + 1/\log_2 4 = 1 + 0.5 = 1.5 다. 이상적인 경우는 1등과 2등에 걸리는 것이라 1+1/log⁡23≈1.631 + 1/\log_2 3 \approx 1.63 이고, NDCG는 1.5/1.63≈0.921.5 / 1.63 \approx 0.92 다. 같은 둘이 9등과 10등에 걸렸다면 DCG는 약 0.59, NDCG는 약 0.36이다. Precision@10은 두 경우 모두 0.2로 같다.

데이터 분할

같은 모델과 같은 지표로도 데이터를 어떻게 나누느냐에 따라 답이 달라진다. 평점을 무작위로 섞어 80%를 학습, 20%를 평가에 쓰면, 평가 세트에 있는 3월의 평점을 예측하면서 학습 세트에 있는 5월의 평점을 참고하게 된다. 미래를 보고 과거를 맞히는 셈이다. 그 사이에 유행한 영화, 그 사용자의 취향 변화가 학습에 이미 들어 있어 점수가 실제보다 좋게 나온다.

실제 서비스의 상황은 「어제까지의 기록으로 내일을 맞힌다」이므로, 시점 하나를 정해 그 이전으로 학습하고 이후로 평가하는 시간 기준 분할이 더 정직한 답을 준다. 두 방식으로 재면 모델 간의 순위가 뒤바뀌기도 한다. 인기 아이템만 추천하는 단순한 기준선이 무작위 분할에서는 하위권이었다가 시간 기준 분할에서는 상위권으로 올라오는 일이 흔하다. 최근에 뜬 것이 다음 주에도 많이 소비되기 때문이다. 모델을 비교하기 전에 이 기준선을 먼저 세워 두는 것이 좋다. 그리고 최종 판단은 오프라인 지표가 아니라 온라인 A/B 테스트의 클릭률과 전환율이 내린다. 오프라인 지표는 그 실험에 올릴 후보를 고르는 데 쓴다.

행렬 분해의 자리

데이터가 적을 때

딥러닝 추천 모델이 나온 지 10년이 넘었지만 행렬 분해는 사라지지 않았다. 데이터가 적을수록 그 이유가 분명해진다. 사용자 수천, 상호작용 수십만 정도의 규모에서는 신경망이 배울 수 있는 패턴보다 파라미터가 많아 과적합이 먼저 온다. 행렬 분해는 파라미터가 적고 구조가 단순해 이 규모에서 잘 버틴다. 2019년 이후 여러 재현 연구가 「신경망 추천 모델이 잘 조정한 행렬 분해 기준선을 실제로는 못 이긴다」는 결과를 냈고, 많은 경우 비교 대상의 기준선이 제대로 조정되지 않았던 것이 원인이었다.

실무의 교훈은 단순하다. 새 모델을 들이기 전에, 정규화와 요인 수를 제대로 찾은 행렬 분해의 점수를 먼저 적어 둔다. 그 점수를 넘지 못하는 복잡한 모델은 들일 이유가 없다.

후보 생성 기준선

규모가 큰 서비스에서도 행렬 분해는 다른 자리를 맡는다. 큰 추천 시스템은 보통 두 단계로 돈다. 수백만 아이템에서 수백 개를 값싸게 추리는 후보 생성 단계와, 그 수백 개를 무거운 모델로 정밀하게 줄 세우는 랭킹 단계다. 행렬 분해가 만든 아이템 벡터는 내적 하나로 점수가 나오므로 근사 최근접 이웃 검색에 그대로 넣을 수 있고, 수백만 개 중 상위 수백 개를 밀리초 단위로 뽑는다. 후보 생성의 일과 정확히 맞는다.

도구도 갈린다. 한 기계에서 명시적 평점을 실험할 때는 Surprise, 암묵적 피드백을 빠르게 학습할 때는 implicit, 데이터가 클러스터에 있을 때는 Spark MLlib의 ALS가 흔한 선택이다. 학습된 아이템 벡터는 다른 모델의 입력 특성으로 재사용되기도 한다.

콜드 스타트와 인기 편향

행렬 분해만으로는 못 푸는 문제가 둘 있다. 첫째는 콜드 스타트다. 새 사용자나 새 아이템은 관찰된 평점이 없으니 벡터를 학습할 근거가 없다. 정규화가 0 근처로 붙잡아 두므로 새 아이템의 점수는 바이어스만으로 정해지고, 바이어스도 0이니 사실상 전체 평균이 된다. 그러면 추천 목록 위로 올라올 길이 없다. 아이템의 장르·설명 같은 내용 정보를 함께 쓰는 콘텐츠 기반 방법이나 둘을 섞은 하이브리드가 이 빈자리를 메운다.

둘째는 인기 편향이다. 인기 아이템은 평점이 많아 벡터가 크고 확실하게 학습되고, 롱테일 아이템은 평점이 적어 정규화에 붙잡혀 작게 남는다. 그 결과 추천이 인기 아이템 쪽으로 기울고, 추천된 인기 아이템이 다시 클릭을 받아 더 인기해진다. 모델이 정확해질수록 오히려 다양성이 줄어드는 순환이다. 랭킹 단계에서 다양성을 따로 넣거나, 노출 횟수로 점수를 보정하는 방법이 쓰인다.

행렬 분해의 또 다른 한계는 사용자 벡터와 아이템 벡터가 내적 하나로만 만난다는 점이다. 「액션을 좋아하지만 늦은 밤에는 잔잔한 것을 본다」 같은 조건부 취향이나, 시간·기기 같은 맥락 정보는 이 구조에 넣을 자리가 없다. 다음 글에서는 이 자리를 신경망으로 채우는 딥러닝 추천 모델, NCF·Wide&Deep·DIN을 다룬다.


읽어주셔서 감사합니다. 😊

LATEST

비전·음성·추천의 최신 글

비전·음성·추천2026.09.07

오프라인 강화학습 — 쌓인 로그만으로 정책을 배우기

실제 서비스에서 탐색은 곧 사용자에게 나쁜 행동을 해 보는 일입니다. 이미 쌓인 로그만으로 정책을 배우려 할 때 왜 Q값이 혼자 부풀어 오르는지, 그 부풀음을 누르는 세 갈래 대응, 행동 복제라는 기준선의 무게, 그리고 배포 전에 성능을 재는 일이 왜 가장 어려운지를 정리합니다.

30 MIN
비전·음성·추천2026.09.07

다국어 전이 — 라벨 없는 언어에서 모델이 동작하는 이유

영어 라벨만으로 학습한 분류기가 한국어 문장을 그대로 처리하는 일이 실제로 일어납니다. 여러 언어가 한 표현 공간에 겹쳐 놓이는 원리, 그 겹침이 무너지는 조건, 번역해서 학습할지 번역해서 추론할지 고르는 기준, 그리고 언어별로 나눠 재야 하는 이유를 정리합니다.

29 MIN
비전·음성·추천2026.09.07

정보 추출 — 글 한 덩이를 표 한 줄로 바꾸는 일

계약서와 이메일을 데이터베이스에 넣으려면 글에서 값을 뽑아 칸에 채워야 합니다. 개체명·관계·사건의 세 층위, 값을 정규화하는 일이 왜 절반인지, 근거 위치를 함께 남겨야 하는 이유, 규칙·전용 모델·언어 모델의 갈림길, 그리고 필드별로 재는 평가법을 정리합니다.

31 MIN