지난 글에서 Mistral과 Qwen, DeepSeek이 가중치를 열고 아키텍처 효율로 프런티어를 쫓는 것을 봤다. 셋 다 여러 언어를 한꺼번에 덮는 쪽을 골랐지, 언어 하나에 모든 것을 걸지는 않았다. 그 반대편에 한국어를 사전학습의 중심에 놓고 만든 모델들이 있다.
먼저 솔직한 사실부터 적는다. 지금의 글로벌 프런티어 모델은 한국어도 매우 잘한다. 그래서 "굳이 한국 LLM이 필요한가"라는 질문은 품질만으로는 답이 안 나온다. 답은 토큰 수, 라이선스, 데이터를 어디서 처리해야 하는가 같은 다른 축에서 나온다. 이 글은 그 축들을 하나씩 재 보고, 마지막에 글로벌 모델로 충분한 작업과 그렇지 않은 작업의 경계를 긋는다.
한국어 토큰 효율
교착어와 BPE
한국어는 교착어다. 어근에 조사와 어미가 차례로 붙어 낱말 하나가 여러 뜻 조각을 싣는다 — 「갱신되었습니다」에는 갱신·피동·과거·높임이 함께 들어 있다. 대부분의 LLM은 BPE 방식으로 어휘를 만든다. BPE는 학습 말뭉치에서 자주 붙어 나오는 글자 쌍을 하나로 합치는 일을 되풀이해 어휘를 키우는 방법이다. 말뭉치가 영어 위주이면 영어 낱말은 통째로 어휘에 들어가지만 한국어는 합칠 만큼 자주 나오지 않아 글자 단위나 그보다 잘게 쪼개진다.
여기서 「그보다 잘게」가 중요하다. 바이트 단위 BPE에서 한글 한 글자는 UTF-8로 3바이트다. 어휘에 그 글자가 없으면 바이트 셋이 각각 토큰이 된다. 그래서 한국어가 잘 안 담긴 토크나이저에서는 글자 수보다 토큰 수가 더 많아지는 일이 생긴다.
모델별 토큰 수 실측
같은 한국어 문단(공백을 뺀 139자, 임대차 묵시적 갱신을 설명하는 네 문장)과 그 영어 번역을 공개된 토크나이저 파일로 직접 셌다. 토크나이저는 각 모델의 허깅페이스 저장소에서 받았고, GPT 계열은 공개된 cl100k·o200k 어휘를 옮긴 파일을 썼다.
| 토크나이저 | 어휘 크기 | 한국어 | 영어 | 한국어 ÷ 영어 |
|---|---|---|---|---|
| SKT A.X 4.0 | 102,400 | 61 | 78 | 0.78 |
| Upstage Solar Open 100B | 196,608 | 63 | 75 | 0.84 |
| LG EXAONE 4.0 | 102,400 | 86 | 75 | 1.15 |
| NAVER HyperCLOVA X SEED Think 14B | 110,524 | 89 | 77 | 1.16 |
| Gemma 3 | 262,145 | 99 | 75 | 1.32 |
| GPT-4o 이후(o200k) | 200,000 | 105 | 78 | 1.35 |
| Llama 3.1 | 128,256 | 106 | 77 | 1.38 |
| Qwen3 | 151,669 | 121 | 77 | 1.57 |
| GPT-4(cl100k) | 100,263 | 175 | 77 | 2.27 |
| Upstage SOLAR 10.7B(2023) | 32,000 | 198 | 85 | 2.33 |
같은 내용이 61토큰에서 198토큰까지 세 배 넘게 갈린다. 국내 모델 넷은 한국어를 영어와 비슷하거나 더 적은 토큰으로 담고, 글로벌 모델은 1.3~1.6배를 쓴다. 눈여겨볼 줄은 맨 아래다. 같은 Upstage라도 2023년의 SOLAR 10.7B는 Llama 2의 3만 2천 어휘를 물려받아 한국어 효율이 가장 나빴고, 2025년 말의 Solar Open은 어휘를 새로 짜서 가장 좋은 쪽에 섰다. 한국어 효율은 회사가 아니라 그 모델의 어휘가 정한다.
짧은 인사말 하나로 재면 차이가 덜 보인다. 「안녕하세요, 반갑습니다」는 GPT-4o 어휘로 6토큰, HyperCLOVA X SEED로 5토큰, Solar Open으로 4토큰이다. GPT-4의 cl100k에서는 10토큰인데, 「안」과 「녕」이 어휘에 없어 바이트 넷으로 쪼개진 탓이다. 차이는 흔한 인사말보다 법률·의료 문서처럼 드문 낱말이 많은 글에서 커진다.
비용과 컨텍스트 환산
토큰 수는 세 곳에 곧바로 번진다. API 요금은 토큰당 매기므로 한국어 ÷ 영어 비율이 1.35면 같은 내용을 한국어로 처리할 때 1.35배를 낸다. 컨텍스트 창도 토큰으로 세므로 128K 창에 들어가는 한국어 문서의 양이 그만큼 줄어든다. 그리고 생성 속도는 초당 토큰으로 나오므로 같은 글자 수를 내보내는 데 걸리는 시간이 늘어난다.
다만 이 비율을 모델 선택의 근거로 바로 쓰면 안 된다. 토큰당 단가가 모델마다 다르므로 비교할 값은 토큰 수가 아니라 「한국어 1,000자당 요금」이다. 토큰이 1.5배라도 단가가 절반이면 더 싸다. 자기 서비스의 실제 문서 몇십 건을 각 토크나이저로 세고, 거기에 단가를 곱해 1,000자당 값으로 바꾼 뒤 견주는 것이 맞는 순서다.
국내 모델의 계보
HyperCLOVA X
HyperCLOVA X는 네이버가 2023년에 공개한 모델로, 2021년의 HyperCLOVA를 잇는다. 뉴스·블로그·지식iN 같은 네이버 서비스의 한국어 텍스트를 대규모로 사전학습에 넣은 것이 출발점이다. 처음에는 CLOVA X 서비스와 기업용 CLOVA Studio API로만 쓸 수 있었는데, 2025년에 가중치를 연 SEED 라인을 내놓았다. 2025년 7월에 공개한 HyperCLOVA X SEED Think 14B는 추론 모드를 갖춘 14B 모델이다.
API로 쓸 때는 CLOVA Studio의 문서를 따른다. 엔드포인트와 모델 이름이 판마다 바뀌어 왔으므로 예전 글의 호출 예시를 그대로 옮기지 말고 그 시점의 문서를 본다.
EXAONE
EXAONE은 LG AI연구원의 모델이다. 2024년 EXAONE 3.0 7.8B를 연구용으로 공개한 것을 시작으로, 3.5에서 2.4B·7.8B·32B 세 크기를 냈고, 2025년 7월의 EXAONE 4.0에서는 32B와 1.2B 두 크기에 추론 모드와 일반 모드를 한 모델에 담았다. 한국어와 영어에 더해 판에 따라 다른 언어를 넓혀 왔다.
EXAONE의 특징은 성능보다 라이선스에서 먼저 드러난다. 가중치는 열려 있지만 쓰임은 연구와 교육으로 묶여 있다. 이 차이는 아래 라이선스 절에서 따로 본다.
Solar
Solar는 Upstage의 모델이다. 2023년 말 SOLAR 10.7B로 허깅페이스 Open LLM 리더보드 1위에 올라 이름을 알렸다. 그때 쓴 방법이 깊이 확장(Depth-Up Scaling)이다. Llama 2 계열 7B 모델 하나를 두 벌로 복제해 이어 붙이되, 맞닿는 자리의 층 일부를 잘라 내고 이어서 추가 학습을 하는 방식으로, 처음부터 10.7B를 학습하는 것보다 훨씬 적은 연산으로 큰 모델을 얻었다.
이후 Upstage는 상업 API인 Solar Pro 라인과 문서 파싱(Document AI) 제품을 묶어 기업 문서 처리 쪽으로 자리를 잡았고, 2025년 12월에는 처음부터 새로 학습한 Solar Open 100B를 공개했다. 앞의 표에서 본 것처럼 이 모델은 어휘를 새로 짜서 한국어 효율이 크게 달라졌다.
한국어 벤치마크
KMMLU와 HAE-RAE
국내 모델의 발표 자료에는 한국어 벤치마크 점수가 빠지지 않는다. 각 벤치마크가 무엇을 재는지를 알아야 그 점수를 읽을 수 있다.
KMMLU는 이름 때문에 MMLU를 번역한 것으로 오해받기 쉽지만, 한국의 각종 자격·전문 시험에서 모은 객관식 문항 3만 5천여 개로 만든 벤치마크다. 법·의학·공학·회계 같은 45개 분야를 덮는다. 번역 문항이 아니라서 한국 제도에 매인 지식을 묻는 문항이 섞여 있고, 그래서 영어 MMLU 점수가 높은 모델도 여기서는 낮게 나오곤 한다.
HAE-RAE Bench는 지식의 넓이보다 한국 문화와 언어에 대한 이해를 겨냥한다. 어휘의 뜻, 한국사, 일반 상식, 고유어와 한자어, 읽기 이해처럼 한국어 화자가 아니면 맞히기 어려운 문항을 모았다. KMMLU가 「한국 시험을 통과하는가」라면 HAE-RAE는 「한국어 화자처럼 아는가」에 가깝다.
KoBEST
KoBEST는 문장 수준의 언어 이해를 재는 다섯 과제다. 예·아니오 질문에 답하기(BoolQ), 원인과 결과 고르기(COPA), 두 문장에서 같은 낱말이 같은 뜻으로 쓰였는지 가리기(WiC), 이어질 문장 고르기(HellaSwag), 부정 표현이 섞인 문장의 감성 판단(SentiNeg)이다. 지식이 아니라 문장을 정확히 읽는 능력을 보므로 작은 모델의 기본기를 견줄 때 쓸모가 있다.
이 밖에 MT-Bench를 한국어로 옮긴 KoMT-Bench처럼 LLM 심사를 쓰는 대화 평가도 있다. 이런 평가는 심사 모델의 취향을 함께 재므로 객관식 벤치마크와 같은 줄에 놓고 비교하지 않는다.
점수 읽는 법
벤치마크 점수를 볼 때 확인할 것은 셋이다. 첫째, 같은 조건인가. 몇 개의 예시를 프롬프트에 넣었는지(0-shot·5-shot), 추론 모드를 켰는지에 따라 같은 모델의 KMMLU가 10점 넘게 움직인다. 발표 자료끼리 견줄 때 이 조건이 다르면 비교가 성립하지 않는다.
둘째, 문항이 학습 데이터에 섞였을 가능성이다. 공개된 지 오래된 벤치마크일수록 문항과 해설이 웹에 퍼져 있고, 웹을 긁어 학습한 모델은 문항을 이미 봤을 수 있다. 셋째, 벤치마크가 내 일과 닮았는가다. KMMLU가 높다고 상담 챗봇의 말씨가 자연스럽지는 않다. 결국 벤치마크는 후보를 줄이는 데 쓰고, 고르는 것은 자기 데이터로 한다. 그 방법은 벤치마크를 다루는 글에서 자세히 본다.
라이선스와 상업 이용
라이선스 비교
가중치를 열었다는 말은 「마음대로 써도 된다」는 뜻이 아니다. 아래는 각 모델의 허깅페이스 저장소에 실린 라이선스 원문을 읽고 상업 이용 조건만 추린 것이다(2026년 10월 확인).
| 모델 | 라이선스 | 상업 이용 | 붙는 조건 |
|---|---|---|---|
| EXAONE 4.0 | EXAONE 전용 | 불가(별도 계약) | 연구·교육 목적으로만 |
| HyperCLOVA X SEED Think 14B | 네이버 전용 | 가능 | 월간 사용자 1천만 초과 시 별도 허가, 「Powered by HyperCLOVA X」 표시, 파생 모델 이름 앞에 「HyperCLOVA X」 |
| Solar Open 100B | Upstage Solar | 가능 | Apache 2.0 바탕, 파생 모델 이름이 「Solar」로 시작 |
| A.X 4.0 | Qwen | 가능 | Qwen2.5 기반이라 그 라이선스를 따름, 월간 사용자 1억 초과 시 별도 허가 |
| Kanana 1.5 8B | Apache 2.0 | 가능 | 고지 유지 |
같은 「오픈 웨이트」인데 조건은 이렇게 다르다. EXAONE은 성능이 아무리 좋아도 계약 없이는 상용 서비스에 넣을 수 없다. HyperCLOVA X SEED는 상용을 허락하되 네이버와 경쟁하는 서비스이면 따로 허가를 받으라는 조항이 있다. 국내 모델을 고를 때는 벤치마크 표보다 이 표를 먼저 본다.
확인 순서
라이선스 확인은 세 걸음이다. 먼저 저장소의 LICENSE 파일 원문을 읽는다. 모델 카드의 요약 한 줄이나 블로그 글은 판이 바뀐 뒤에도 옛 조건을 적고 있는 일이 많다. 다음으로 파생 모델을 만들 계획이면 이름·표시 조항을 본다 — 파인튜닝한 모델을 사내에서만 쓰면 걸리지 않는 조항도, 고객에게 배포하는 순간 걸린다. 마지막으로 모델의 출력을 다른 모델 학습에 쓰는 것을 제한하는지 본다. 위 라이선스 중에는 출력으로 만든 모델에도 이름 조항을 거는 것이 있다.
온프렘과 주권 AI
데이터 반출 요구
한국 LLM을 찾는 가장 현실적인 이유는 성능보다 데이터가 나갈 수 있는가다. 금융·공공·의료 쪽은 개인정보와 내부 자료를 해외 사업자의 API로 보내는 것을 꺼리거나 내부 규정으로 막는 곳이 많다. 이런 곳에서는 「가장 똑똑한 모델」이 후보에서 아예 빠지고, 내 서버나 국내 클라우드 안에서 돌릴 수 있는 모델 중에서 고르게 된다.
여기서 흔한 오해 하나는 「국내 회사의 모델이면 된다」는 생각이다. 요구 조건은 대개 데이터가 어디서 처리되는가이지 모델을 누가 만들었는가가 아니다. 국내 회사의 API라도 처리 위치와 보관 기간을 확인해야 하고, 해외 모델이라도 가중치를 받아 내 서버에서 돌리면 데이터는 밖으로 안 나간다. 그래서 이 축에서 실제로 가르는 것은 「가중치를 받아 내 서버에서 돌릴 수 있는가」와 「그 라이선스가 내 용도를 허락하는가」의 두 가지다.
독자 AI 파운데이션 모델 사업
정부도 이 축에 돈을 걸었다. 과학기술정보통신부의 독자 AI 파운데이션 모델 사업은 2025년 8월 다섯 컨소시엄(네이버클라우드·SK텔레콤·NC AI·LG AI연구원·업스테이지)을 골라 국산 프런티어급 모델 개발을 지원하기 시작했다. 2026년 1월 1차 단계평가에서 LG AI연구원·SK텔레콤·업스테이지가 통과했고 네이버클라우드와 NC AI는 탈락했다.
이 평가에서 눈에 띈 기준이 독자성이다. 해외 모델을 받아 파인튜닝한 파생 모델이 아니라, 가중치를 초기화하고 사전학습부터 직접 했는지를 본다. 공공 조달에서 「국산 모델」을 요구하는 흐름이 생기면 이 기준이 그대로 조건이 될 수 있다. 앞 표의 A.X 4.0처럼 해외 모델을 바탕으로 한국어를 강화한 모델과, Solar Open처럼 처음부터 학습한 모델이 이 자리에서 갈린다. 사업은 단계평가를 거듭하며 진행 중이므로 지금 어느 모델이 남아 있는지는 그때의 발표를 확인한다.
글로벌 모델과의 경계
글로벌 모델로 충분한 작업
데이터 반출에 제약이 없고 API를 쓸 수 있다면, 대부분의 한국어 작업은 글로벌 프런티어 모델로 충분하다. 일반 대화, 요약, 번역, 코드 작성, 근거 문서를 준 질의응답이 그렇다. 이런 작업은 언어 실력보다 추론과 지시 따르기가 품질을 정하고, 그 축에서는 프런티어 모델이 여전히 앞선다. 토큰이 1.3~1.6배 더 드는 것은 단가 차이로 상쇄되는 경우가 많다.
근거 문서를 주는 구성이면 한국 제도에 대한 지식 차이도 줄어든다. 모델이 공정거래법을 외우고 있을 필요 없이 넣어 준 조문을 읽으면 되기 때문이다. 지식이 모자란 자리를 검색으로 메우는 것은 모델을 바꾸는 것보다 대개 싸다.
국내 모델이 나은 작업
반대로 국내 모델이 유리한 자리도 분명하다. 하나는 앞 절의 온프렘 요구다. 둘째는 한국어 토큰이 대량으로 오가는 작업이다. 긴 한국어 문서를 대량으로 처리하는 배치 작업에서는 토큰 효율 차이가 그대로 비용과 처리 시간이 된다. 셋째는 한국어의 결이 품질을 정하는 작업이다 — 존댓말 수준을 정확히 맞춰야 하는 고객 응대, 한국 문화 맥락이 깊은 콘텐츠 생성, 고유어와 한자어의 미묘한 차이가 드러나는 글쓰기가 그렇다.
이 경계도 고정된 것이 아니다. 글로벌 모델의 한국어는 판마다 좋아지고, 국내 모델의 추론 능력도 따라붙는다. 그래서 한 번 정한 선택을 반년쯤마다 같은 평가 묶음으로 다시 재 보는 것이 맞다.
한국어 어휘 확장
필요한 경우
글로벌 오픈 웨이트 모델을 한국어 작업에 파인튜닝할 때 어휘 확장을 검토하게 된다. 토크나이저에 한국어 토큰을 새로 더하고 그 토큰의 임베딩을 학습시키는 일이다. 앞의 표에서 Qwen3가 한국어를 영어의 1.57배로 쪼갰는데, 어휘를 늘리면 이 비율을 1 가까이로 낮출 수 있다.
필요한 경우는 좁다. 한국어 토큰을 대량으로 처리해 토큰 효율이 곧 비용인 경우, 그리고 긴 한국어 문서를 컨텍스트 창에 더 많이 넣어야 하는 경우다. 품질을 올리려는 목적이라면 어휘 확장은 효과가 불분명하다 — 바이트 조각으로 쪼개져도 모델은 그 조합을 읽는 법을 이미 배웠기 때문이다. 이미 어휘가 좋은 모델이 있으면 그 모델을 고르는 편이 확장보다 훨씬 싸다.
비용
어휘를 늘리면 새 토큰의 임베딩은 의미 없는 값에서 시작한다. 이것을 쓸 만하게 만들려면 한국어 말뭉치로 수십억 토큰 규모의 추가 사전학습이 필요하고, 그동안 원래 모델이 가진 영어·코드 능력이 깎이지 않게 영어 데이터를 섞어 줘야 한다. 일반 파인튜닝과는 규모가 다른 일이다.
그리고 모델이 기존 생태계에서 떨어져 나간다. 토크나이저가 바뀌면 원래 모델용 어댑터를 그대로 못 쓰고, 추론 서버의 설정과 토큰 수 기반 요금 견적도 다시 잡아야 한다. 그래서 어휘 확장은 「글로벌 모델을 계속 써야 하는데 한국어 토큰 비용이 감당이 안 될 때」 마지막으로 꺼내는 수단이다. 대부분은 앞의 표에서 한국어 효율이 좋은 모델을 고르는 것으로 끝난다.
이제 주요 LLM 패밀리를 모두 살펴봤다. 다음 글에서는 이 모델들을 어떻게 객관적으로 비교할 수 있는지, LLM 벤치마크와 평가 방법론을 깊이 파헤친다.
읽어주셔서 감사합니다. 😊

