지난 글 끝에서 하나를 남겨 두었다. 글자를 다 살려 놓아도 그것만으로는 안 되는 자리, 표다.
표는 글자를 잃어서 망가지는 것이 아니라 자리를 잃어서 망가진다. 그래서 파싱이 완벽해도, OCR 정확도가 100%여도, 그다음 단계에서 여전히 무너질 수 있다. 이 글은 표 하나가 문서에서 뽑혀 나와 색인에 들어가고, 검색되어 모델에 건네지고, 마지막에 숫자가 섞인 답으로 나오기까지 어느 자리에서 뜻이 새는지를 차례로 따라간다. 예로 쓰는 표는 끝까지 하나다 — 단위가 억 원인 실적표이고, 2024년 매출 120·영업이익 8, 2025년 매출 138·영업이익 11이 들어 있다.
교차점
행과 열의 대응
실적표에서 「11」이라는 숫자 하나를 보자. 이 숫자가 무엇인지는 셀 안에 안 적혀 있다. 왼쪽으로 훑어 「영업이익」을 만나고 위로 훑어 「2025년」을 만나야 비로소 뜻이 생긴다. 값은 셀에 있지만 의미는 교차점, 곧 그 셀이 속한 행의 이름과 열의 이름이 만나는 자리에 있다.
맨 위 행에 열 이름을 늘어놓은 줄을 헤더 행이라 부르고, 맨 왼쪽 열에 행 이름을 늘어놓은 줄을 행 머리라 부른다. 표를 읽는다는 것은 셀 하나를 볼 때마다 이 두 줄을 오가며 이름 둘을 주워 오는 일이다. 사람은 눈이 2차원으로 움직이므로 이 일을 의식하지 않고 한다. 문제는 검색기와 모델이 받는 것이 2차원이 아니라 한 줄로 늘어선 글자라는 데 있다.
줄글로 편 표
표를 텍스트로 바꾸는 가장 쉬운 방법은 셀을 왼쪽 위부터 차례로 이어 붙이는 것이다. 그러면 위 표는 「구분 2024년 2025년 매출 120 138 영업이익 8 11」이 된다. 글자는 하나도 안 빠졌다. 그런데 교차 관계가 사라졌다. 남는 것은 숫자 넷이 나란히 늘어선 문자열이고, 어느 숫자가 어느 행·열의 것인지는 순서로 추측해야 한다.
추측의 근거는 하나뿐이다. 헤더에 이름이 둘 있었으니 숫자도 둘씩 끊어 읽으면 될 것이라는 셈이다. 이 셈은 행마다 값 개수가 헤더의 열 개수와 꼭 같을 때만 맞는다. 그리고 한 줄로 편 순간 그 조건을 확인할 수단도 사라진다 — 줄바꿈이 없으니 행이 어디서 끝나는지 글자로는 알 수 없다.
조용한 오류
모델은 이 추측을 꽤 잘한다. 2열짜리 작은 표라면 대개 맞힌다. 문제는 틀릴 때 조용히 틀린다는 점이다. 열이 다섯 개를 넘거나, 중간에 빈 셀이 있어 값 개수가 열 개수와 안 맞거나, 숫자 형식이 섞여 있으면 추측이 어긋난다. 그런데 결과는 「모르겠습니다」가 아니라 그냥 다른 숫자다.
빈 셀 하나로 따라가 보자. 2024년 영업이익이 아직 집계되지 않아 비어 있다면 한 줄로 편 글자는 「영업이익 11」이 된다. 숫자가 하나뿐이니 모델은 그것을 첫 열, 곧 2024년 값으로 읽기 쉽다. 「2024년 영업이익은 11억 원」이라는 답은 그럴듯하고, 표에 실제로 있는 숫자이며, 틀렸다. 답 옆에 근거 청크를 붙여 보여 줘도 읽는 사람이 오류를 못 찾는다 — 근거에 11이 정말 있기 때문이다. 표에서 생기는 오류가 무서운 이유가 이것이다. 지어낸 숫자는 대조하면 드러나지만, 자리를 바꿔 읽은 숫자는 대조해도 맞아 보인다.
표 청킹
헤더 유실
표가 청킹 단계를 지나면 문제가 하나 더 붙는다. 청킹은 검색 단위로 쓰려고 문서를 일정한 길이의 조각, 곧 청크로 자르는 일이고, 대개 글자 수나 토큰 수를 기준으로 자른다.
200행짜리 표를 800자씩 자르면 헤더 행은 첫 조각에만 들어간다. 둘째 조각부터는 숫자만 늘어선 글이 되고, 그 조각이 검색되면 열 이름이 아예 없는 근거가 모델에 간다. 앞 절의 「순서로 추측」조차 못 하는 상태다. 추측할 이름 자체가 다른 청크에 있어서, 모델은 「120 138」이 무엇인지 문맥으로 지어내거나 질문에 나온 낱말을 그대로 갖다 붙인다. 질문이 「2025년 매출」이었다면 둘째 열을 2025년이라 믿을 근거가 없는데도 그렇게 읽는다.
게다가 헤더 없는 청크는 검색에도 잘 안 걸린다. 「영업이익」이라는 낱말이 행 머리에 남아 있으면 그나마 키워드 검색이 잡지만, 「2025년」 같은 열 이름은 그 청크 어디에도 없다. 질문과 겹치는 낱말이 적으니 벡터 검색의 유사도도 낮게 나온다. 정답이 든 청크가 검색 순위 밖으로 밀리고, 대신 헤더가 든 첫 청크 — 정답 행은 없는 — 가 올라온다.
행 중간 절단
글자 수로 자르므로 행 경계를 지킬 이유가 없다. 「영업이익 8 1」에서 끊기고 다음 조각이 「1 …」로 시작하면, 11이라는 값이 두 조각으로 갈라진다. 첫 조각만 검색되면 2025년 영업이익이 1억 원인 표가 모델에 가고, 둘째 조각만 검색되면 행 이름 없는 「1」이 간다.
청킹 전략에서 말한 오버랩, 곧 이웃 청크끼리 경계 부근 글자를 겹쳐 담는 장치가 여기서는 큰 도움이 안 된다. 오버랩은 잘린 문장이 어느 한쪽에 온전히 남게 하려는 것인데, 표의 한 행은 그 행만 온전해서는 안 되고 헤더까지 함께 있어야 뜻이 선다. 오버랩 100자로 행 하나는 살려도 수십 행 위의 헤더까지는 닿지 않는다.
행 단위 분할과 헤더 반복
두 문제의 대응은 같은 방향이다. 표는 글자 수로 자르지 않는다. 경계를 행으로 잡고, 여기에 규칙이 하나 더 붙는다.
def chunk_table(header, rows, max_rows=20):
"""표는 행 단위로 자르고, 조각마다 헤더를 다시 붙인다."""
for i in range(0, len(rows), max_rows):
yield render_markdown(header, rows[i:i + max_rows])
조각마다 헤더를 다시 붙이는 것이 핵심이다. 값을 넣어 보면 비용이 얼마인지 보인다. 200행 표를 20행씩 자르면 청크가 열 개이고, 헤더는 원래 한 번에서 열 번으로 아홉 번 더 들어간다. 헤더 행이 60자이고 한 행이 평균 40자라면 표 본문이 8,000자이니 늘어나는 것은 540자, 7% 남짓이다. 그 7%로 열 개 청크가 전부 혼자서 읽히는 표가 된다. 열 이름 없는 청크가 검색되는 것보다 훨씬 낫다.
몇 행씩 자를지는 표의 폭이 정한다. 열이 셋인 표는 50행을 담아도 청크가 크지 않지만, 열이 열둘인 표는 10행만 담아도 길어진다. 행 수가 아니라 「헤더를 포함한 청크 길이」를 다른 청크와 비슷하게 맞추는 쪽으로 행 수를 고르면, 표 청크만 유난히 크거나 작아 검색 점수가 한쪽으로 쏠리는 일도 막는다. 맥락 붙이기에서 청크마다 문서 제목을 붙였던 것과 같은 발상이고, 표에서는 그 대상이 헤더 행이다. 표 제목도 함께 붙이면 「어느 표의 몇째 조각인가」까지 청크 혼자서 말한다.
색인 방식
표를 어떤 모양으로 저장하느냐에 따라 답할 수 있는 질문이 달라진다. 표를 글자로 바꾸는 모양을 흔히 직렬화라 부르는데, 고를 수 있는 것은 크게 셋이다.
마크다운 표
마크다운 표 그대로 넣는 방식이 가장 단순하다. 파이프 기호로 열을 가른 형태는 모델이 잘 읽고, 구조가 글자에 남아 있어 교차 관계가 보존된다. 줄바꿈이 행을 가르고 파이프가 열을 가르므로, 앞 절에서 본 빈 셀 문제도 「| 영업이익 | | 11 |」처럼 빈칸이 자리로 남는다. 표가 화면 한 장에 들어갈 크기라면 이것으로 충분하다.
한계는 크기다. 수백 행짜리 표는 문맥 창에 안 들어가고, 검색 단위로도 너무 크다. 표 전체가 한 청크면 벡터 하나가 수백 행의 뜻을 평균 내어 담게 되어, 「2025년 영업이익」처럼 한 칸을 묻는 질문과의 유사도가 흐려진다. 그래서 큰 표는 앞 절처럼 행 단위로 잘라 조각마다 헤더를 붙인 마크다운으로 넣는다.
행 문장
행마다 한 문장으로 펴는 방식은 검색에 유리하다. 헤더 이름과 셀 값을 문장 틀에 끼워 「2025년 영업이익은 11억 원입니다」를 만든다. 이런 문장은 사용자의 질의와 모양이 닮아 있어 벡터 검색이 잘 잡고, 키워드 검색도 「영업이익」·「2025」를 그대로 찾는다. 셀 하나 또는 행 하나가 청크 하나가 되므로 크기 문제도 없고, 교차점의 이름 둘이 문장 안에 박혀 있으니 헤더 유실도 원천적으로 없다.
한계는 행끼리의 관계다. 「매출이 가장 큰 부문」이나 「전 부문 합계」는 행 하나만 봐서는 답이 안 나온다. 부문이 열둘이면 열두 문장이 전부 검색돼야 비교가 되는데, 검색기는 상위 몇 개만 돌려주므로 하나라도 빠지면 「가장 큰」이 틀린다. 틀린 답은 역시 조용하다 — 돌아온 다섯 문장 중에서는 정말 가장 크기 때문이다.
질의 실행
표는 표로 두고 질의를 만들어 실행하는 방식은 그 한계를 넘는다. 표를 데이터베이스 테이블로 적재해 두고, 질문이 오면 모델이 SQL 같은 질의문을 짓고, 데이터베이스가 그것을 실행한 결과를 근거로 답한다. 이때 모델의 일은 숫자를 읽는 것이 아니라 질문을 질의문으로 옮기는 것이고, 숫자를 세는 일은 데이터베이스가 한다. 집계와 비교가 정확해지는 이유가 이것이다. 에이전틱 RAG에서 다룬 도구 호출이 여기에 그대로 쓰인다 — 질의 실행이 모델이 부를 수 있는 도구 하나가 된다.
한계는 준비 비용이다. 표마다 열 이름과 형식을 정한 스키마를 만들어 두어야 하고, 표가 정형이어야 한다. 「138」과 「1,380,000」과 「약 138억」이 한 열에 섞여 있으면 적재 전에 형식을 하나로 맞추는 일이 따로 든다. 모델이 지은 질의문이 틀릴 수도 있다 — 열 이름을 잘못 짚으면 실행은 성공하고 다른 값이 돌아온다. 그래서 질의문과 그 결과를 답과 함께 남겨 두어야 나중에 따라갈 수 있다.
방식의 병용
셋 중 하나를 고르는 것이 아니다. 같은 표를 마크다운으로도, 행 문장으로도 색인해 두면 색인이 두 배가 될 뿐 서로 방해하지 않는다. 행 문장이 한 칸 찾기 질문을 잡고, 마크다운 조각이 「이 표가 무엇을 보여 주나」 같은 질문을 잡는다. 두 벌이 같은 질문에 함께 걸려 상위 결과를 나눠 먹는 일이 생기면, 같은 표에서 온 청크끼리는 하나로 묶어 모델에 넘기면 된다. 자주 물어보는 큰 표만 데이터베이스에 추가로 적재하는 식으로 섞어 쓰는 것이 보통이다.
질문 유형
다섯 유형과 맞는 방식
어떤 질문이 오느냐를 먼저 세어 보면 무엇을 만들지가 정해진다.
| 질문 유형 | 예 | 맞는 방식 |
|---|---|---|
| 한 칸 찾기 | 2025년 영업이익은 | 행 문장 |
| 행 사이 비교 | 매출이 가장 큰 부문은 | 질의 실행 |
| 집계 | 전 부문 합계는 | 질의 실행 |
| 여러 해 추이 | 3년간 어떻게 변했나 | 질의 실행 또는 표 통째 |
| 표 자체의 해석 | 이 표가 말하는 것은 | 마크다운 표 통째 |
갈림은 「답에 필요한 셀이 몇 개인가」로 읽으면 된다. 한 칸 찾기는 셀 하나라 행 문장 하나로 끝난다. 여러 해 추이는 셀이 서넛이라 한 행을 담은 마크다운 조각으로도 되지만, 열 해를 넘기면 질의가 낫다. 비교와 집계는 표의 한 열 전체가 필요하므로 검색으로 모으는 방식이 구조적으로 불리하다 — 검색은 상위 몇 개만 돌려주고, 한 열 전체가 그 몇 개 안에 들어온다는 보장이 없다. 해석 질문은 셀이 아니라 표의 모양을 묻는 것이라 표를 통째로 보여 주는 것이 맞다.
질의 로그 세기
한 칸 찾기가 대부분이면 행 문장만으로 끝난다. 실제 서비스에서 이 비율이 높은 경우가 많으니, 사용자가 실제로 던진 질문을 쌓아 둔 질의 로그를 먼저 세어 보는 것이 순서다. 로그에서 표를 근거로 답한 질문을 백 개쯤 뽑아 위 다섯 유형으로 손으로 나눠 보면 하루면 된다. 비교·집계가 열에 하나 이하라면 데이터베이스 적재 파이프라인은 미뤄도 된다. 집계 질문이 몇 건 안 되는데 스키마를 짜고 적재와 형식 정리를 유지하는 것은 낭비다.
반대로 비교·집계가 셋에 하나를 넘는데 행 문장만 두고 있다면, 그 질문들은 지금 조용히 틀리고 있을 가능성이 높다. 서비스가 막 열려 로그가 없으면 표가 많은 문서의 성격으로 어림한다 — 재무·통계 보고서는 집계가 많고, 제품 사양서나 규정 문서는 한 칸 찾기가 많다.
병합 셀과 다단 헤더
여기까지는 표가 반듯한 격자라는 전제였다. 실제 문서의 표는 그렇지 않다. 셀 여러 칸을 하나로 합쳐 그린 것을 병합 셀이라 하고, 헤더가 그렇게 두 줄 이상으로 겹쳐 선 것을 다단 헤더라 한다.
다단 헤더
| 구분 | 2025년 || 2024년 ||
| | 상반기 | 하반기 | 상반기 | 하반기 |
| 매출 | 66 | 72 | 58 | 62 |
헤더가 두 줄이고 위 줄의 「2025년」이 두 칸에 걸쳐 있다. 앞에서 본 실적표의 매출을 반기로 나눈 것이다 — 66과 72를 더하면 2025년 매출 138이 된다. 이 표에서 「72」의 뜻은 「매출 · 2025년 · 하반기」인데, 그러려면 헤더 두 줄을 합쳐 읽어야 한다. 아래 줄 「하반기」는 넷째 칸에도 있으므로, 아래 줄만 보면 72와 62가 둘 다 「하반기 매출」이 된다.
대응은 헤더를 미리 펴 두는 것이다. 파싱 단계에서 위 줄의 이름을 그 아래 칸마다 물려 붙여 열 이름을 「2025년 하반기」처럼 하나로 합치고, 격자를 반듯하게 만든 뒤에 색인한다. 그러면 「색인 방식」에서 본 세 방식이 전부 그대로 돌아간다 — 마크다운 조각의 헤더가 한 줄이 되고, 행 문장이 「2025년 하반기 매출은 72억 원입니다」로 나오고, 데이터베이스의 열 이름이 겹치지 않는다. 나중에 모델이 알아서 합쳐 읽기를 기대하지 말고, 색인에 들어가기 전에 해결한다.
세로 병합
세로 방향 병합도 같다. 「구분」 열에서 「매출」이 세 행에 걸쳐 있고 오른쪽에 상반기·하반기·연간이 한 행씩 있으면, 아래 두 행의 「구분」 칸에는 아무것도 안 적혀 있다. 행 문장을 만들 때 그 빈칸을 위 행에서 물려받아 채워야 한다 — 안 채우면 「상반기는 72억 원입니다」처럼 주어 없는 문장이 나온다. 그 문장은 매출의 것인지 영업이익의 것인지 문장 혼자서는 말하지 못하고, 검색에서도 「매출」로는 걸리지 않는다.
물려받기에는 함정이 하나 있다. 병합 셀이 아니라 정말로 비어 있는 셀 — 값이 없다는 뜻의 빈칸 — 도 파서 출력에서는 똑같이 빈칸으로 보인다. 행 머리 열의 빈칸은 대개 병합이고, 값 열의 빈칸은 대개 결측이다. 이 기준으로 행 머리만 물려받고 값 칸은 비워 두면 「교차점」 절에서 본 빈 셀 사고를 다시 만들지 않는다.
파서와의 관계
이런 표는 문서 파싱에서 다룬 파서 선택과도 맞물린다. 병합 정보를 살려 주는 파서를 써야 이 작업이 가능하다. 어떤 파서는 「2025년」이 두 칸에 걸쳐 있다는 사실을 출력에 남기고, 어떤 파서는 첫 칸에만 「2025년」을 적고 둘째 칸을 빈칸으로 내보내며, 어떤 파서는 표를 아예 한 줄 글자로 뭉갠다. 앞의 둘은 위의 물려받기로 펼 수 있지만, 격자를 이미 뭉갠 뒤에 받으면 되살릴 방법이 없다. 그래서 표가 많은 문서는 파서를 고를 때 다단 헤더가 있는 표 몇 장을 넣어 출력을 직접 본다.
숫자 답변
단위와 주석
표에서 뽑은 숫자로 답할 때 가장 먼저 새는 것은 표 밖의 글자다. 표 제목에 「단위: 억 원」이 적혀 있고 셀에는 「11」만 있는 경우가 흔하다. 행 문장을 만들 때 그 단위를 문장에 넣지 않으면 11이 무엇인지 알 수 없게 된다 — 11원인지 11억 원인지 11%인지 문장 혼자서는 모른다. 모델은 모를 때 문맥에서 그럴듯한 단위를 고르므로, 이 역시 조용히 틀린다.
표 위아래의 주석 줄 — 단위, 기준일, 「잠정치」, 「연결 기준」 같은 말 — 은 표와 같은 청크에 담는다. 파서가 이 줄들을 표가 아니라 일반 문단으로 내보내는 일이 많아서, 청킹이 표와 그 바로 위의 「단위: 억 원」을 서로 다른 청크로 갈라놓기 쉽다. 표 바로 위아래 두세 줄은 표의 일부로 취급하는 규칙을 파싱 뒤에 따로 둔다. 행 문장에도 「2025년 영업이익은 11억 원입니다(잠정치)」처럼 꼬리를 붙여 두면 그 단서가 답까지 따라간다.
계산의 위임
모델에게 계산을 시키지 않는다. 「합계는 얼마인가」에 근거 표만 주고 더하게 하면 대개 맞지만 가끔 틀린다. 그리고 틀린 합계는 근거 표를 봐도 안 보인다 — 표에 없는 숫자라서 대조할 자리가 없기 때문이다. 2024년과 2025년 매출을 더해 258이라고 답하면 맞는지 보려고 다시 더해야 하고, 다시 더하는 사람이 없으면 아무도 모른다.
계산은 코드나 데이터베이스가 하고 모델은 그 결과를 옮긴다. 「질의 실행」 방식이면 이미 그렇게 되어 있고, 행 문장만 둔 서비스라면 덧셈·평균·증감률 같은 간단한 계산을 도구로 하나 열어 두기만 해도 된다. 모델이 할 일은 어떤 셀을 더할지 고르는 것이고, 고른 셀의 위치는 기록에 남으므로 틀리면 따라갈 수 있다. 증감률도 같다 — 영업이익이 8에서 11로 늘었으니 37.5% 증가인데, 이 숫자는 표 어디에도 없으므로 모델이 만들면 확인할 길이 없다.
셀 출처 표기
어느 셀에서 왔는지 함께 낸다. 「11억 원(실적표 · 영업이익 · 2025년)」처럼 행과 열 이름을 붙이면, 읽는 사람이 그 자리를 원문에서 확인할 수 있다. 숫자만 있는 답은 확인할 방법이 없다. 이 표기는 교차점을 답에 그대로 옮겨 적는 일이다 — 이 글 처음에 본 「행 이름과 열 이름이 만나는 자리」를 독자에게 돌려주는 것이다.
계산한 값이면 계산에 쓴 셀을 함께 적는다. 「37.5% 증가(영업이익 2024년 8 → 2025년 11)」처럼 적으면 두 셀을 원문에서 찾아 직접 셈을 확인할 수 있다. 출처 표기를 답의 서식으로 못 박아 두면 덤이 하나 생긴다 — 모델이 셀 이름을 못 붙이는 숫자는 근거에서 온 것이 아니라는 신호가 되어, 지어낸 숫자를 답이 나가기 전에 코드로 걸러 낼 수 있다.
정리
- 표의 뜻은 셀이 아니라 행과 열이 만나는 자리에 있다. 펴면 그 대응이 사라지고, 틀린 읽기는 조용하다
- 표는 글자 수가 아니라 행 단위로 자르고, 조각마다 헤더를 다시 붙인다
- 색인 방식은 셋이고 답할 수 있는 질문이 다르다. 함께 두어도 서로 방해하지 않는다
- 질의 로그를 세어 보고 정한다. 한 칸 찾기가 대부분이면 행 문장으로 끝난다
- 병합 셀과 다단 헤더는 색인 전에 펴 둔다. 행 머리의 빈칸은 물려받고 값 칸의 빈칸은 비워 둔다
- 단위와 주석은 표와 같은 청크에 담고, 계산은 코드가 하며, 답에는 셀 위치를 함께 적는다
여기까지는 문서를 어떻게 읽어 색인에 넣을 것인가였다. 다음 글은 방향을 바꿔, 넣어 둔 것 가운데 어느 범위만 보게 할 것인가 — 문서 종류나 작성 월 같은 메타데이터에 거는 필터를 다룬다.
읽어주셔서 감사합니다. 😊

