지난 글에서 프롬프트를 버전으로 박아 두고 평가로 재는 한 바퀴를 만들었다. 그런데 그 순환을 아무리 잘 돌려도 모델이 모르는 것은 나오지 않는다 — 사내 규정도 어제 바뀐 가격표도 프롬프트를 어떻게 고쳐서 얻을 수 있는 것이 아니고, 필요한 문서를 밖에서 찾아 넣어 주는 수밖에 없다. LLM이 답하기 전에 관련 문서를 찾아 프롬프트에 넣어 주는 이 방식을 RAG라 부른다. 문제는 그 찾는 방식이다. 낱말이 겹치는 문서를 고르는 식으로는 「환불 규정」과 「돈을 돌려받으려면」이 같은 것을 묻는다는 사실을 놓친다. 이 글은 문장을 벡터로 바꿔 뜻이 가까운 것끼리 모으는 벡터 검색을 다룬다. 키워드 검색이 막히는 자리에서 출발해, 뜻을 거리로 옮기는 발상과 그 발상이 깨지는 자리, 색인과 질의의 두 단계, 전부 비교하지 않는 이유, 벡터가 못 하는 일, 그리고 도입을 판단하는 기준까지 차례로 본다.
어휘 불일치
역색인
전통적인 검색 엔진은 역색인을 쓴다. 책 뒤의 찾아보기처럼, 낱말마다 그 낱말이 든 문서 번호를 적어 둔 표다. 「강아지 음식」을 검색하면 「강아지」 칸과 「음식」 칸에 적힌 문서 번호를 꺼내 겹치는 것을 앞에 세운다. 문서가 수억 건이어도 찾는 낱말의 칸 두 개만 열면 되므로 빠르고, 왜 그 문서가 나왔는지도 분명하다 — 그 낱말이 들어 있기 때문이다.
이 장점이 곧 한계다. 역색인은 낱말이 같은지만 본다. 「반려견 사료」나 「펫 푸드」는 뜻이 같아도 「강아지」 칸에도 「음식」 칸에도 없으므로 결과에 서지 않는다. 묻는 사람의 낱말과 쓴 사람의 낱말이 달라서 찾지 못하는 이 현상을 어휘 불일치라 한다. 사용자는 자기 말로 묻고 문서는 작성자의 말로 쓰이므로, 이 어긋남은 예외가 아니라 기본값이다.
세 가지 실패
어휘 불일치는 세 모양으로 나타난다.
- 동의어 — 「자동차」와 「차량」이 같은 문맥에서 쓰여도 서로를 찾지 못한다.
- 의도 — 「나 배고파」라는 질의는 「음식점 추천」이라는 문서와 낱말이 하나도 안 겹친다. 질의가 원하는 것을 직접 말하지 않고 상황만 말하는 경우다.
- 언어 — 「dog food」로는 「강아지 음식」을 찾을 수 없다. 사내 문서가 한국어와 영어로 섞여 있으면 같은 내용의 절반이 늘 빠진다.
셋 중 첫째는 사람이 손으로 메울 수 있어 보이고, 둘째와 셋째는 낱말 단위로는 아예 손이 닿지 않는다. 의도는 낱말이 아니라 문장 전체에 있고, 언어가 다르면 겹칠 낱말 자체가 없다.
동의어 사전
첫째를 메우는 오래된 방법이 동의어 사전이다. 「자동차 = 차량 = 승용차」를 적어 두고 질의를 넓혀 함께 찾는다. 몇십 쌍이면 잘 듣는다. 그런데 사전은 누군가 계속 써야 하고, 문맥을 모른다. 「배」를 「선박」으로 넓히면 과일 이야기와 신체 이야기가 함께 딸려 오고, 넓힐수록 엉뚱한 문서도 늘어난다. 고객 문의가 하루 수천 건 들어오는 서비스에서 새로 생기는 표현을 사람이 따라 적는 것은 이기지 못하는 경주다. 그래서 낱말의 짝을 사람이 적는 대신, 문장의 뜻을 기계가 직접 재게 하자는 발상이 나온다.
의미의 거리
임베딩 공간
벡터는 수를 정해진 개수만큼 늘어놓은 목록이고, 그 개수가 차원이다. 문장 하나를 수백에서 수천 개의 수로 된 벡터로 바꾼 결과를 임베딩, 그 바꾸는 일을 하는 신경망을 임베딩 모델이라 부른다. 임베딩 모델은 뜻이 비슷한 문장 쌍의 벡터는 가깝게, 다른 쌍은 멀게 놓이도록 학습한다. 그래서 학습이 끝나면 「강아지 음식」과 「반려견 사료」는 글자가 하나도 안 겹쳐도 같은 동네에 놓인다.
이제 검색은 낱말을 맞춰 보는 일이 아니라 거리를 재는 일이 된다. 질의도 같은 모델로 벡터로 바꾸고, 그 벡터와 가장 가까운 문서 벡터들을 찾는다. 가장 가까운 것을 찾는 이 문제를 최근접 이웃 탐색이라 한다. 「의미가 비슷하다」를 「벡터 공간에서 가깝다」로 바꿔 놓는 것, 벡터 검색의 발상은 이 한 줄이 전부다. 무엇을 「가깝다」로 칠지는 지표가 정하는데, 흔히 쓰는 코사인 유사도는 두 벡터의 방향이 얼마나 같은지를 −1에서 1 사이 수로 잰다. 지표끼리의 차이는 다음 글에서 따로 다룬다.
반의어와 부정문
그런데 「가깝다」가 「같은 뜻」은 아니다. 임베딩 모델은 대개 비슷한 문맥에 나오는 표현을 가깝게 놓도록 배우는데, 반의어는 바로 그런 표현이다. 「뜨거운 물」과 「차가운 물」은 같은 문장 틀에 번갈아 들어가므로 둘의 벡터가 꽤 가깝다. 부정문은 더 위험하다. 「환불이 되는 경우」와 「환불이 안 되는 경우」는 낱말이 거의 다 같고 다른 것은 「안」 한 글자라, 많은 모델이 두 문장을 거의 같은 벡터로 놓는다. 「취소 수수료가 없는 요금제」를 물었는데 「취소 수수료가 있는 요금제」 문서가 맨 위에 서는 일이 실제로 생긴다.
숫자와 고유명사도 같은 구멍에 빠진다. 「2025년 매출」과 「2024년 매출」, 「A 제품 설명서」와 「B 제품 설명서」는 뜻의 틀이 같으므로 가깝다. 벡터는 문서가 무엇에 관한 것인지는 잘 잡지만, 그 안의 한 글자가 뒤집는 사실은 잘 못 잡는다.
유사성과 정답
그래서 벡터 검색이 돌려주는 것은 「비슷한 것」이지 「맞는 것」이 아니다. 점수가 높다는 말은 질의와 같은 주제를 다룬다는 뜻이고, 질의에 답이 된다는 뜻이 아니다. RAG에서 이 차이는 그대로 답의 품질로 넘어간다. 검색이 「안 되는 경우」 문서를 넘겨주면 LLM은 그것을 근거 삼아 자신 있게 틀린다. 이 간극을 메우는 장치가 뒤에서 볼 하이브리드 검색과, 상위 후보를 질의와 한 쌍씩 다시 읽어 순서를 고치는 재순위다. 어느 쪽이든 출발점은 벡터 검색이 무엇을 보장하지 않는지를 아는 것이다.
색인 단계
벡터 검색 시스템은 미리 해 두는 색인 단계와 질의가 올 때마다 도는 질의 단계로 나뉜다. 그림의 위쪽 줄이 앞의 것, 아래에서 올라오는 줄이 뒤의 것이다.
네 걸음
색인은 네 걸음이다.
- 수집 — 텍스트, PDF, 웹 페이지 같은 원본을 모아 글자로 꺼낸다.
- 청킹 — 긴 문서를 검색 단위로 자른다. 잘린 한 조각을 청크라 한다.
- 임베딩 — 임베딩 모델로 청크마다 벡터를 만든다.
- 저장 — 벡터를 벡터 DB, 곧 벡터를 저장하고 가까운 것을 찾아 주는 데이터베이스에 넣고 탐색용 인덱스를 짓는다.
각 걸음에 정할 값이 하나씩 붙는다. 수집은 표와 머리말을 어떻게 글자로 펼칠지, 청킹은 크기와 겹침, 임베딩은 어느 모델, 저장은 어떤 지표와 인덱스다. 넷 중 하나만 바꿔도 대개 처음부터 다시 돌려야 하므로, 이 값들은 질의 단계의 손잡이가 아니라 설계 결정이다.
청크 크기와 겹침
문서를 통째로 벡터 하나로 만들지 않는 이유는 벡터 하나가 담을 수 있는 뜻이 하나에 가깝기 때문이다. 30쪽짜리 약관을 벡터 하나로 만들면 그 벡터는 「약관 전반」쯤을 가리키고, 그 안의 환불 조항 한 문단을 묻는 질의와는 어중간하게 멀다. 그래서 자른다. 흔히 수백 토큰 단위로 자르고, 경계에서 문장이 끊기는 것을 막으려고 앞 청크의 끝 일부를 다음 청크 머리에 겹쳐 둔다.
크기를 잘못 잡으면 증상이 반대 방향으로 나타난다. 너무 크면 한 청크에 주제가 여럿 섞여 어느 질의에도 확실히 가깝지 않고, 찾아도 LLM에 넣을 글이 길어진다. 너무 작으면 「이 경우」·「위 조건」처럼 앞 문장에 기대는 표현만 남아 청크 혼자서는 뜻이 안 선다. 겹침이 없으면 답이 두 청크의 경계에 걸쳤을 때 어느 쪽도 답을 온전히 갖지 못한다. 정답은 문서의 모양마다 다르므로 처음 값은 어림으로 두고, 뒤에서 볼 골든셋으로 재서 고친다. 자르는 방법 자체는 청킹 전략에서 따로 다룬다.
원문과 메타데이터
벡터는 원문으로 되돌릴 수 없다. 1536개의 수에서 원래 문장을 그대로 되살릴 수는 없으므로, 검색이 벡터를 찾아도 정작 LLM에 넣을 글이 없다. 그래서 벡터 옆에 원문 청크를 함께 저장한다. 그리고 출처 문서, 쪽 번호, 작성일, 접근 권한 같은 메타데이터를 함께 붙인다. 메타데이터는 두 번 쓰인다. 답에 출처를 달 때, 그리고 「2025년 이후 문서만」·「이 사용자가 볼 수 있는 문서만」처럼 거리로는 표현할 수 없는 조건으로 후보를 거를 때다. 앞 절에서 본 숫자와 고유명사의 구멍도 상당 부분 이 필터가 메운다 — 연도를 벡터에 맡기지 말고 필드로 거르는 것이다.
질의 단계
모델과 전처리의 짝
질의 단계는 짧다. 질의를 벡터로 바꾸고, 벡터 DB에서 가장 가까운 것들을 찾고, 점수 순으로 돌려준다. 여기서 지킬 규칙은 하나다 — 질의는 문서를 색인할 때와 같은 모델, 같은 전처리로 벡터를 만든다. 모델이 다르면 두 벡터는 다른 좌표계에 있다. 차원 수가 같아 오류 없이 점수가 나오더라도 그 점수는 아무 뜻이 없다.
이 규칙을 어기면 시스템이 멈추지 않고 조용히 나빠진다. 그래서 더 위험하다. 모델 버전이 바뀌었는데 질의 쪽만 새 버전을 부르는 경우, 문서는 소문자로 바꿔 색인했는데 질의는 그대로 넣는 경우, 질의와 문서 앞에 서로 다른 접두사를 붙이라는 모델에서 그 접두사를 빼먹은 경우가 다 그렇다. 결과는 여전히 나오고 그럴듯해 보이며, 찾아야 할 문서를 놓치는 비율만 몇 할씩 는다. 막는 방법은 문서와 질의가 같은 함수 하나를 지나게 짜고, 색인에 쓴 모델 이름을 메타데이터로 남겨 질의 때 대조하는 것이다.
상위 k와 점수 임계
가장 가까운 것 몇 개를 돌려줄지가 상위 k다. k가 작으면 답이 든 청크를 놓치고, 크면 관계없는 청크까지 LLM에 들어가 답이 흐려지고 비용도 는다. RAG에서는 흔히 다섯에서 스무 개 사이로 시작한다.
상위 k만 쓰면 생기는 문제가 있다. 벡터 검색은 질의와 아무 상관없는 문서만 있어도 늘 k개를 채워 돌려준다. 가장 가까운 것은 언제나 있기 때문이다. 사내 규정 검색에 「오늘 날씨」를 물어도 상위 다섯이 선다. 그래서 점수가 일정 값 아래면 버리는 점수 임계를 함께 둔다. 다만 임계값은 모델마다 점수의 분포가 달라서 다른 모델에서 옮겨 올 수 없다. 어떤 모델은 관계없는 쌍도 0.7을 넘기고, 어떤 모델은 꼭 맞는 쌍도 0.6에 머문다. 임계값은 쓰는 모델로 정답 쌍과 오답 쌍의 점수를 직접 찍어 보고 정한다.
모델 선택과 재색인
임베딩 모델은 검색 품질을 정하는 가장 큰 값이다. 몇 가지 선택지를 놓으면 다음과 같다.
| 모델 | 차원 | 언어 | 특징 |
|---|---|---|---|
| text-embedding-3-small | 1536 | 다국어 | OpenAI API. 출력 차원을 줄여 받을 수 있다 |
| text-embedding-3-large | 3072 | 다국어 | 같은 계열의 큰 모델. 저장 공간이 두 배 든다 |
| BGE-M3 | 1024 | 다국어 | 오픈 웨이트. 밀집 벡터와 희소 가중치를 함께 낸다 |
| multilingual-e5-large | 1024 | 다국어 | 오픈 웨이트. 질의·문서 앞에 정해진 접두사를 붙인다 |
| KoSimCSE | 768 | 한국어 | 한국어 문장 쌍으로 학습한 오픈 모델 |
표에서 고르기보다 우리 문서로 재서 고른다. 공개 벤치마크는 대개 영어 위키백과나 웹 문서로 재므로, 한국어 사내 문서나 특정 업계 용어에서는 순위가 바뀌기 일쑤다. 차원도 함께 본다. 차원이 두 배면 저장과 비교 비용도 두 배다.
그리고 모델을 고르는 것은 한 번 정하면 쉽게 못 무르는 결정이다. 앞 절의 규칙 때문에, 모델을 바꾸면 질의만이 아니라 저장된 문서 벡터 전부를 새 모델로 다시 만들어야 한다. 청크 100만 개를 다시 임베딩하고 인덱스를 새로 짓는 동안에는 옛 색인과 새 색인을 나란히 두고 질의를 옮겨야 한다. 이 재색인 비용이 처음 모델을 신중하게 고르는 이유다.
최소 구현
여기까지를 NumPy만으로 줄이면 다음과 같다. 저장할 때 벡터를 길이 1로 맞춰 두고, 질의가 오면 저장된 벡터 전부와 코사인 유사도를 재서 높은 순으로 자른다.
import numpy as np
from typing import List, Tuple
def cosine_similarity(a: np.ndarray, b: np.ndarray) -> float:
"""두 벡터 간 코사인 유사도 계산"""
return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))
class SimpleVectorStore:
"""단순 선형 탐색 벡터 저장소"""
def __init__(self):
self.vectors: List[np.ndarray] = []
self.documents: List[str] = []
def add(self, text: str, vector: np.ndarray):
self.documents.append(text)
self.vectors.append(vector / np.linalg.norm(vector)) # 정규화
def search(
self,
query_vector: np.ndarray,
top_k: int = 5,
) -> List[Tuple[str, float]]:
"""선형 탐색으로 상위 k개 결과 반환"""
query_norm = query_vector / np.linalg.norm(query_vector)
scores = [
cosine_similarity(query_norm, vec)
for vec in self.vectors
]
# 유사도 내림차순 정렬
ranked = sorted(
zip(self.documents, scores),
key=lambda x: x[1],
reverse=True,
)
return ranked[:top_k]
벡터는 임베딩 API에서 받는다. 아래에서 embed_text 하나를 색인과 질의가 함께 지나는 것이 앞 절의 짝 규칙을 지키는 방법이다.
import openai
client = openai.OpenAI()
def embed_text(text: str) -> np.ndarray:
"""OpenAI text-embedding-3-small로 임베딩 생성"""
response = client.embeddings.create(
model="text-embedding-3-small",
input=text,
)
return np.array(response.data[0].embedding)
def build_index(documents: List[str]) -> SimpleVectorStore:
"""문서 리스트로 벡터 인덱스 구축"""
store = SimpleVectorStore()
for doc in documents:
vec = embed_text(doc)
store.add(doc, vec)
return store
# 사용 예시
docs = [
"강아지 음식 추천 가이드",
"반려견 사료 선택 방법",
"펫 푸드 영양 성분 분석",
"고양이 간식 종류",
"Python 프로그래밍 기초",
]
store = build_index(docs)
query = "강아지한테 뭘 먹여야 하나요?"
results = store.search(embed_text(query), top_k=3)
for doc, score in results:
print(f"[{score:.3f}] {doc}")
# 기대하는 결과: 강아지·반려견·펫 푸드 세 문서가 위 셋에 선다
# (점수 값 자체는 모델마다 다르다)
질의 「강아지한테 뭘 먹여야 하나요?」에는 「사료」도 「푸드」도 없다. 그래도 그 낱말을 쓴 문서가 위에 서고 「고양이 간식」이 그 아래로 밀리는 것, 역색인으로는 못 하던 일이 이것이다. 다만 「고양이 간식」은 「Python 프로그래밍 기초」보다는 훨씬 가깝게 나올 것이다 — 같은 주제의 이웃이기 때문이고, 앞에서 본 「비슷한 것」과 「맞는 것」의 간격이 여기서도 보인다.
탐색 비용
완전 탐색의 셈
위 구현은 질의마다 저장된 벡터 전부와 점수를 잰다. 이것을 완전 탐색이라 한다. 문서 다섯 개면 문제가 없지만, 청크 100만 개에 1536차원이면 셈이 달라진다. 코사인 유사도 한 번에 곱셈과 덧셈이 1536번씩이므로 질의 하나에
번의 곱셈-덧셈이 든다. 저장 공간도 크다. 수 하나가 4바이트이면 벡터 하나가 약 6KB, 100만 개면 약 6GB를 질의마다 한 번씩 처음부터 끝까지 읽어야 한다.
이 셈을 시간으로 옮기면 구현에 따라 크게 갈린다. 위 코드처럼 파이썬 반복문으로 한 벡터씩 부르면 질의 하나에 몇 초가 걸린다. 벡터를 한 행렬로 묶어 행렬 곱 한 번으로 계산하면 메모리를 한 번 훑는 시간까지 줄어 대략 수십에서 수백 밀리초다. 질의 하나만 보면 견딜 만하지만, 초당 질의가 100개 들어오면 초당 1,500억 번의 곱셈-덧셈과 600GB의 메모리 읽기가 필요하다. 문서가 1,000만 개로 늘면 이 수가 다시 열 배가 된다. 완전 탐색의 비용은 문서 수에 그대로 비례하므로, 데이터가 늘수록 질의 하나가 그만큼 느려진다.
근사 탐색
그래서 실제 서비스는 근사 최근접 이웃 탐색, 줄여서 ANN을 쓴다. 미리 지어 둔 인덱스 구조를 따라가며 답이 있을 법한 후보 몇천 개만 골라 점수를 잰다. 후보가 2,000개라면 곱셈-덧셈은 약 300만 번으로, 완전 탐색의 500분의 1 정도다. 인덱스가 벡터 사이의 길을 미리 깔아 두었기 때문에 가능한 일이다.
대가는 정확성이다. 후보만 보므로 진짜 상위 k 가운데 몇 개를 놓칠 수 있다. 이 놓침을 재는 값이 재현율이다. 완전 탐색이 찾은 진짜 상위 10개 중 근사 탐색도 찾아낸 것이 9개면 재현율 0.9다. ANN 인덱스는 대개 후보를 몇 개까지 볼지를 정하는 손잡이를 주고, 그 값을 올리면 재현율이 오르는 대신 느려진다. 근사 탐색은 「틀려도 된다」가 아니라 「얼마나 놓칠지를 정해 두고 그만큼 빠르게 간다」는 거래다. 대표적인 방법이 HNSW·IVF·LSH 셋이다.
재현율 기준선
이 거래를 하려면 기준이 먼저 있어야 한다. 근사 탐색의 재현율은 완전 탐색의 결과에 대어 재므로, 질의 몇백 개를 골라 완전 탐색으로 정답 목록을 먼저 만들어 둔다. 한 번만 돌리면 되니 느려도 상관없다. 이 목록이 있으면 인덱스의 손잡이를 돌릴 때마다 「재현율 0.98에 몇 밀리초」처럼 거래의 값을 수로 읽을 수 있다.
데이터가 작으면 근사 탐색이 아예 필요 없다. 청크가 수만 개라면 행렬 곱 한 번의 완전 탐색이 수 밀리초 안에 끝나고, 재현율은 정의상 1이다. 인덱스를 짓고 손잡이를 맞추는 일은 완전 탐색이 실제로 느려졌을 때 시작해도 늦지 않다.
벡터의 빈자리
정확한 문자열
벡터 검색이 가장 약한 질의는 정확한 문자열을 찾는 질의다. 제품 코드 「SKU-12345」, 오류 코드 「E-4031」, 사람 이름, 법 조항 번호 같은 것이다. 임베딩 모델에게 「SKU-12345」와 「SKU-12346」은 거의 같은 벡터다. 한 글자 차이가 뜻을 거의 안 바꾸도록 배웠기 때문이다. 그런데 이런 질의를 하는 사람은 정확히 그 하나를 원한다. 이 자리에서는 역색인이 낫다 — 낱말이 같은지만 보는 그 성질이 여기서는 장점이 된다.
전문 도메인
검색 품질은 임베딩 모델이 무엇을 보고 배웠는지에 크게 기댄다. 범용 모델은 웹 문서에 흔한 말에 강하고, 의료·법률·사내 약어처럼 학습 데이터에 드문 말에는 약하다. 사내에서만 쓰는 약어 「PRB」와 「장애 사후 보고서」가 같은 것이라는 사실을 모델은 알 길이 없다. 이런 곳에서는 도메인 문서로 학습한 모델을 고르거나 우리 문서로 파인튜닝하는 길도 있지만, 먼저 해 볼 것은 이 낱말들을 역색인에 맡기는 것이다.
하이브리드 검색
그래서 실전에서는 두 검색을 함께 돌리는 하이브리드 검색이 흔하다. 키워드 쪽은 보통 BM25를 쓴다. 질의 낱말이 문서에 몇 번 나오는지와 그 낱말이 전체 문서에서 얼마나 드문지를 함께 따지는 점수로, 역색인 검색의 표준 점수다. 두 점수를 합치는 방법은 둘이다. 아래 코드처럼 각 점수를 정규화해 가중치로 더하거나, 점수 대신 각 목록의 순위만 써서 「1 / (상수 + 순위)」를 더하는 RRF로 합친다. RRF는 두 점수의 척도를 맞출 필요가 없어서 처음 시작할 때 다루기 쉽다.
from rank_bm25 import BM25Okapi
def hybrid_search(
query: str,
docs: List[str],
store: SimpleVectorStore,
alpha: float = 0.5, # 벡터 검색 가중치
top_k: int = 5,
) -> List[Tuple[str, float]]:
"""BM25 + 벡터 유사도 하이브리드 검색"""
# BM25 키워드 점수
tokenized = [doc.split() for doc in docs]
bm25 = BM25Okapi(tokenized)
kw_scores = bm25.get_scores(query.split())
# 벡터 유사도 점수
q_vec = embed_text(query)
vec_results = {doc: score for doc, score in store.search(q_vec, len(docs))}
# 결합 점수 (정규화 후 가중합)
kw_max = max(kw_scores) or 1
combined = []
for i, doc in enumerate(docs):
kw = kw_scores[i] / kw_max
vec = vec_results.get(doc, 0)
combined.append((doc, alpha * vec + (1 - alpha) * kw))
return sorted(combined, key=lambda x: x[1], reverse=True)[:top_k]
위 코드는 띄어쓰기로 낱말을 자르므로 한국어에서는 「강아지가」와 「강아지」가 다른 낱말이 된다. 실제로는 형태소 분석기로 조사를 떼어 낸 뒤 BM25에 넣는다. 가중치 alpha를 얼마로 둘지는 하이브리드 검색 튜닝에서 따로 다룬다.
도입 판단
맞는 자리
벡터 검색이 맞는 자리에는 공통점이 있다. 묻는 사람이 문서의 낱말을 모른다는 것이다.
- FAQ와 지식 베이스 검색 — 사용자는 자기 말로 묻고, 답은 작성자의 말로 적혀 있다.
- RAG — LLM에 넣을 근거를 질문의 뜻으로 골라야 한다.
- 추천 — 「이것과 비슷한 상품·글」은 정의상 거리 문제다.
- 중복 감지 — 같은 문의, 같은 버그 보고가 다른 말로 여러 번 들어온다.
- 다국어 검색 — 한국어로 묻고 영어 문서를 찾는다.
기존 방식의 자리
반대로 기존 방식이 나은 자리도 분명하다. 정확한 코드와 이름을 찾는 검색, 「가격이 만 원 이하이고 재고가 있는 상품」처럼 구조화된 필드로 거르는 질의, 그리고 문서가 수백 건뿐이라 사람이 동의어 몇십 쌍을 적는 편이 더 싼 경우다. 이런 곳에 벡터 검색을 들이면 임베딩 비용과 재색인 부담만 늘고 결과는 오히려 흐려진다. 관계형 DB의 필터와 키워드 검색이 여전히 기본이고, 벡터는 그 위에 얹는 것이다.
골든셋
도입을 정하기 전에 할 일이 하나 있다. 실제 질의 몇십에서 몇백 개를 모으고, 질의마다 정답 문서를 사람이 표시한 골든셋을 만드는 것이다. 그리고 지금 쓰는 검색이 상위 10개 안에 정답을 몇 개나 넣는지, 곧 검색의 재현율을 잰다. 앞에서 근사 탐색의 재현율은 완전 탐색에 대어 쟀지만, 여기서는 사람이 표시한 정답에 대어 잰다. 이 수가 이미 0.9라면 벡터 검색이 더해 줄 몫이 작고, 0.5라면 어휘 불일치가 실제로 결과를 깎고 있다는 뜻이다. 골든셋은 그 뒤로도 계속 쓰인다. 청크 크기, 모델, 상위 k, 하이브리드 가중치를 바꿀 때마다 같은 골든셋으로 재면, 지난 글에서 프롬프트에 했던 「버전을 박고 평가로 잰다」를 검색에도 그대로 할 수 있다.
다음 걸음
이 글에서 「가깝다」는 말을 여러 번 썼지만 그것을 어떻게 재는지는 미뤄 두었다. 코사인 유사도는 그중 하나일 뿐이고, 유클리드 거리와 내적도 흔히 쓰이며 같은 임베딩에서 다른 순위를 내기도 한다. 다음 글에서는 이 세 유사도 지표를 정의와 손 계산부터 다루고, 그 뒤에 이 글에서 이름만 꺼낸 ANN 알고리즘을 살펴본다.
읽어주셔서 감사합니다. 😊

