에이전트·RAG

AGENT / 62번째 글

에이전트를 여럿으로 나눌 때와 나누지 말아야 할 때

에이전트를 여럿 세우면 그럴듯해 보이지만 대부분은 하나로 두는 편이 낫습니다. 나누는 방식 네 가지의 모양과 값, 나눌 이유가 있는지 판단하는 세 질문, 그리고 나눈 뒤에 생기는 새로운 실패를 정리합니다.

PALDYN Team28 MIN READ

지난 글까지는 에이전트 하나가 무엇을 어떻게 하는지를 봤다. 이 글은 그 위의 질문이다 — 에이전트를 여럿 세우는 것이 언제 이득인가. 여기서 에이전트는 모델이 도구를 고르고 부르고 결과를 보고 다음 걸음을 정하는 반복 하나를 말한다. 여럿으로 나눈다는 것은 그 반복을 둘 이상 세우고 서로 일을 주고받게 한다는 뜻이다.

먼저 결론부터 적어 두는 편이 낫겠다. 대부분의 경우 하나로 두는 것이 낫다. 도구 여섯 개를 든 에이전트 하나가 잘 도는 자리를 「기획 에이전트·조사 에이전트·작성 에이전트·검토 에이전트」로 나누면 토큰은 두세 배가 되고 지연은 두 배가 되며 고장 날 수 있는 자리가 넷으로 는다. 그렇게 해서 결과가 나아지는 경우가 생각보다 드물다.

그렇다고 언제나 하나가 옳은 것도 아니다. 나누면 확실히 이기는 자리가 있고, 그 자리를 알아보는 것이 이 글의 목적이다.

하나로 두는 기본값

나누는 구조가 끌리는 이유는 그림이 깔끔해서다. 역할마다 상자가 하나씩 있고 화살표가 이어지면 사람 조직도처럼 보인다. 그런데 사람 조직이 나뉘는 이유 — 한 사람이 모든 것을 기억할 수 없고, 동시에 두 곳에 있을 수 없다는 것 — 가 모델에게는 절반만 맞는다.

나눌 때의 비용

비용이 어디서 늘어나는지 숫자로 따라가 보자. 에이전트 하나가 열 걸음에 일을 끝내고 걸음마다 평균 1만 토큰을 읽는다면 입력은 10만 토큰이다. 이것을 관리자 하나와 일꾼 셋으로 나눈다. 여기서 관리자는 일을 쪼개 나눠 주고 결과를 모으는 에이전트이고, 일꾼은 쪼갠 조각 하나를 받아 처리하는 에이전트다. 관리자가 여섯 걸음에 평균 8천 토큰이면 4만 8천, 일꾼이 각각 여섯 걸음에 평균 1만 1천 토큰이면 셋이 합쳐 19만 8천이다. 합계 24만 6천 토큰, 원래의 두 배 반이다.

늘어난 자리가 셋이다. 일꾼마다 시스템 프롬프트와 배경 설명을 따로 읽는다. 일꾼마다 「무엇을 할지」 처음부터 판단하는 걸음이 붙는다. 관리자가 일꾼 셋의 결과를 다시 읽는다. 셋 다 하나였을 때는 없던 일이다. 출력 토큰도 비슷하게 늘고, 걸음 하나하나가 모델 호출이니 지연도 그만큼 붙는다.

나누면 토큰은 늘고 지연은 일에 따라 갈린다

다만 지연은 토큰과 같은 방향으로만 움직이지 않는다. 일꾼 셋이 서로 기다리지 않고 동시에 돌 수 있으면, 토큰은 두 배 반이 되면서도 끝까지 걸리는 시간은 오히려 준다. 반대로 일꾼이 차례로 돌아야 하는 일이면 토큰도 지연도 함께 는다. 회사 하나 조사에 40초가 걸리는 일을 셋으로 나눠 동시에 던지면 쪼개고 모으는 걸음을 더해 60초 안팎이지만, 둘째 일꾼이 첫째의 결과를 받아야 시작할 수 있다면 120초에 쪼개고 모으는 20초가 그대로 얹혀 140초가 된다. 하나로 두었을 때보다 느리다. 그래서 「나누면 비싸다」는 반만 맞는 말이다. 정확히는 나누면 늘 비싸지고, 가끔 빨라진다. 어느 쪽인지는 일이 서로 얽혀 있는지가 정하고, 그 판단을 아래 「나눌 이유」의 둘째 질문이 맡는다.

한 문장 테스트

그래서 나누기 전에 지금 하나로 안 되는 이유를 한 문장으로 적어 본다. 「도구가 스물세 개라 주문 조회와 배송 조회를 계속 헷갈린다」, 「세 회사 조사를 차례로 하느라 3분이 걸리는데 서로 기다릴 이유가 없다」처럼 관찰한 문제가 들어간 문장이어야 한다. 「역할을 나누면 더 체계적이다」, 「확장성이 좋아진다」는 이유가 아니라 기대다. 문장이 안 써지면 아직 하나로 두는 단계다.

이 문장은 나눈 뒤에도 쓸모가 있다. 나눈 구조가 그 문장의 문제를 실제로 풀었는지 재는 기준이 되기 때문이다. 헷갈림이 이유였으면 도구 선택 오류율을, 지연이 이유였으면 끝까지 걸린 시간을 나누기 전후로 잰다.

나눠서 나빠지는 자리

나눴더니 오히려 나빠지는 흔한 자리가 있다. 하나는 일이 서로 얽혀 있을 때다. 보고서의 「시장 분석」 절과 「경쟁사 비교」 절을 각자 쓰게 하면, 둘이 같은 숫자를 다르게 적거나 같은 내용을 두 번 쓴다. 하나였으면 앞에서 쓴 것을 보고 맞췄을 일이다. 다른 하나는 판단이 한 사람의 취향이어야 할 때다. 글의 말투, 코드의 설계 방향처럼 일관성이 품질인 일을 여럿이 나눠 하면 각 조각은 괜찮은데 합친 것이 어색하다. 마지막은 일이 원래 짧을 때다. 다섯 걸음이면 끝날 일에 관리자를 세우면 쪼개고 모으는 걸음이 일 자체보다 길다.

네 가지 배치

프레임워크마다 이름이 다르고 그림이 화려하지만, 실제 배치는 넷 중 하나이거나 그 조합이다.

나누는 방식은 넷뿐이다

모양 무엇이 좋은가 무엇을 대가로 내는가
① 하나로 둔다 문맥이 하나라 아는 것이 새지 않는다. 가장 싸고 빠르다 도구가 너무 많아지면 고르기를 틀린다
② 관리자와 일꾼 일꾼마다 도구가 적어 정확해지고, 동시에 돌릴 수 있다 관리자가 일을 잘 쪼개야 하고, 쪼갠 만큼 문맥이 갈린다
③ 줄지어 넘긴다 단계마다 다른 모델·다른 설정을 쓸 수 있다 앞 단계의 실수가 뒤로 그대로 흘러간다
④ 서로 검토한다 혼자서는 못 보는 실수를 잡는다 값이 몇 배로 뛴다. 그리고 서로 동의만 하고 끝나기도 한다

①이 기본값이라는 것은 앞 절에서 말했다. 나머지 셋을 하나씩 본다.

관리자와 일꾼

②는 실무에서 가장 자주 이득을 보는 모양이다. 일꾼마다 도구를 서너 개만 쥐여 주므로 고르기가 정확해지고, 서로 기다리지 않아도 되는 일은 동시에 던질 수 있다. 세 회사의 최근 실적을 각각 조사하는 일이 그렇다. 병렬 함수 호출에서 도구 하나짜리로 다룬 것을 에이전트 단위로 키운 셈이다.

이 모양의 품질은 거의 전부 관리자가 일을 어떻게 쪼개느냐에 달려 있다. 겹치게 쪼개면 일꾼 둘이 같은 것을 조사하고, 빈틈 있게 쪼개면 아무도 안 맡은 조각이 생긴다. 그래서 관리자에게는 가장 좋은 모델을, 일꾼에게는 더 싸고 빠른 모델을 쓰는 구성이 흔하다. 생각하는 일과 손을 움직이는 일의 값이 다르기 때문이다.

줄지어 넘기기

③은 순서가 이미 정해져 있을 때 쓴다. 조사 → 작성 → 교정처럼 앞 단계의 결과가 다음 단계의 입력이 된다. 단계마다 다른 모델과 설정을 쓸 수 있다는 것이 장점이다. 조사는 검색 도구를 든 모델이, 교정은 도구 없는 작은 모델이 하면 된다.

그런데 순서가 정해져 있다면 그것을 굳이 에이전트로 둘 이유도 없는 경우가 많다. 정해진 순서로 흐르는 것은 파이프라인이지 에이전트가 아니다. 모델을 부르는 함수 셋을 순서대로 부르면 된다. 에이전트라는 이름을 붙이면 단계마다 「무엇을 할지 고르는」 판단이 끼어들고, 이미 순서를 아는 자리에서 그 판단은 비용이기만 하다. 그리고 앞 단계의 실수가 뒤로 그대로 흐른다는 대가는 파이프라인이든 에이전트든 같다. 단계 사이에 형식 검사 하나를 두는 것이 그 대가를 줄이는 가장 싼 방법이다.

서로 검토하기

④는 값이 가장 비싸고 효과가 가장 들쭉날쭉하다. 한 에이전트가 만든 것을 다른 에이전트가 보고 고칠 점을 적거나, 여럿이 각자 안을 내고 하나가 고른다. 잘 쓰이는 자리는 틀렸을 때 비싼 일이다. 계약서 검토, 데이터베이스 마이그레이션 계획, 보안 설정 변경처럼 한 번 틀리면 되돌리기 어려운 것.

반대로 「글을 더 잘 써 줘」류의 일에서는 두 에이전트가 서로 칭찬만 하고 끝나기 쉽다. 같은 계열 모델은 같은 것을 좋다고 보는 경향이 있어서, 검토자가 작성자의 실수를 실수로 못 알아본다. 검토가 값을 하려면 검토자에게 다른 정보를 주어야 한다. 원문 계약서, 실행 결과, 점검 목록처럼 작성자가 보지 않은 것을 쥐여 줄 때 다른 눈이 된다. 에이전트 자기 검토에서 다룬 문제가 여럿으로 늘어난 형태다.

조합

실제 구성은 넷 중 하나가 아니라 둘셋의 조합이다. 관리자가 조사를 일꾼 셋에게 동시에 나눠 주고(②), 모은 결과를 작성 → 교정 순서로 넘기고(③), 마지막 결과물만 검토자가 본다(④). 이때도 판단 기준은 같다. 조합의 각 마디마다 「여기를 하나로 두면 안 되는 이유」를 한 문장으로 적을 수 있어야 한다. 적을 수 없는 마디는 합친다.

나눌 이유

구조를 고르기 전에 나눌 이유부터 확인한다. 질문은 셋이고, 위에서부터 묻는다.

나눌 이유가 있는가

도구 혼동

첫째, 도구가 너무 많은가. 도구 목록이 스물을 넘어가면 모델이 비슷한 것 사이에서 헷갈리기 시작한다. 「주문 조회」와 「배송 조회」와 「결제 조회」가 나란히 있으면 셋 중 아무거나 부른다. 도구 설명이 모두 문맥에 들어가니 목록이 길어질수록 입력도 늘어난다. 이때 나누는 것은 진짜 이득이다. 각 일꾼이 서너 개만 들면 고르기가 쉬워진다. 다만 다음 절에서 보듯 그보다 먼저 할 일이 있다.

병렬 실행

둘째, 서로 기다리지 않아도 되는 일이 여럿인가. 이건 가장 정직한 이유다. 줄어드는 양을 미리 계산할 수 있기 때문이다. 앞에서 본 세 회사 조사가 120초에서 60초 안팎으로 줄었다. 이론상 3분의 1이지만 실제로는 절반쯤인 것은 쪼개고 모으는 값이 붙고, 셋 중 가장 느린 일꾼을 기다려야 하기 때문이다. 그래도 미리 잴 수 있는 이득이라 논쟁의 여지가 없다.

계산할 때 하나 더 넣을 것이 사용 한도다. 일꾼 셋이 동시에 모델을 부르면 분당 요청 수와 분당 토큰 수가 순간적으로 세 배가 된다. 한도에 걸려 일꾼 하나가 재시도로 30초를 기다리면 병렬로 번 시간이 그대로 사라진다. 일꾼 수를 정할 때 한도 안에 드는지를 같이 본다.

틀렸을 때의 값

셋째, 다른 눈으로 다시 봐야 하는가. 검토를 따로 세우는 것은 비용을 내고 정확도를 사는 거래다. 그 거래가 남는지는 틀렸을 때의 값이 정한다. 틀려도 사람이 금방 알아채고 고치면 되는 일이면 안 남는다. 사내 문서 요약이 조금 어긋나면 읽는 사람이 원문을 열어 보면 된다. 틀린 채로 나가면 큰일 나는 일이면 남는다. 고객에게 보내는 견적서의 금액, 운영 DB에 돌릴 스키마 변경이 그렇다. 검토 에이전트 한 번의 비용과 틀린 견적서 한 장의 비용을 나란히 놓으면 답이 나온다.

셋 다 「아니오」인데 나눈 구조라면, 얻는 것 없이 비용과 실패 지점만 늘린 것이다.

스키마 정리

첫째 질문에 「예」가 나왔을 때도 곧바로 나누지 않는다. 도구 혼동은 대개 구조가 아니라 도구를 적은 방식의 문제이기 때문이다.

이름·설명·인자

모델이 도구를 고를 때 보는 것은 이름과 설명과 인자 목록이 전부다. 「주문 조회」·「배송 조회」·「결제 조회」가 헷갈린다면, 셋의 설명이 「주문 정보를 조회합니다」·「배송 정보를 조회합니다」처럼 비슷하게 적혀 있을 가능성이 높다. 설명에 언제 쓰는지를 적으면 갈린다. 「고객이 무엇을 샀는지·언제 샀는지를 물을 때」, 「물건이 지금 어디 있는지·언제 도착하는지를 물을 때」처럼. 인자도 마찬가지다. 셋 다 id 하나를 받으면 모델이 어느 id인지 모른다. order_id·tracking_number·payment_id로 이름을 가르면 질문에 든 값의 모양만 보고도 도구가 정해진다. 자주 같이 불리는 도구 둘은 하나로 합치는 것도 방법이다. 도구 스키마 설계에서 이 이야기를 길게 했다.

구조 변경의 값

스키마로 풀리는 혼동을 구조 변경으로 푸는 것은 비싸다. 스키마 정리는 설명 몇 줄과 인자 이름을 고치는 일이고 비용이 늘지 않는다. 구조 변경은 앞 절에서 본 두 배 반의 토큰과 쪼개고 모으는 지연, 그리고 다음 절의 새 문제들을 함께 들여온다. 게다가 나눈 뒤에도 각 일꾼 안에서 도구가 헷갈릴 수 있다. 설명이 엉성한 도구는 넷으로 나눈 일꾼 안에서도 엉성하다.

나누는 시점

그래서 순서는 이렇다. 도구 선택 오류를 기록해 어느 도구 짝이 헷갈리는지 센다. 그 짝의 이름·설명·인자를 고친다. 다시 잰다. 그래도 남는 혼동이 있고 도구가 여전히 스물을 넘는다면 그때 비로소 나눈다. 나눌 때도 헷갈리는 도구 짝이 서로 다른 일꾼에게 가도록 가른다. 같은 일꾼 안에 두면 나눈 의미가 없다.

나눈 뒤의 문제

나누기로 정했다면, 하나였을 때는 없던 문제 셋이 따라온다.

갈린 문맥

하나였을 때는 앞에서 알아낸 것이 그냥 문맥에 남아 있었다. 나누면 일꾼 B는 일꾼 A가 무엇을 알아냈는지 모른다. A가 「이 회사는 작년에 회계 기준을 바꿨다」를 발견해도 B가 쓰는 비교표에는 그 사실이 안 들어간다. 그래서 넘겨줄 것을 골라 정리해 넘겨야 하고, 여기서 새는 것이 결과 품질을 그대로 깎는다. 다음 글에서 이 주제를 따로 다룬다.

복사되는 배경

일꾼 셋에게 각각 배경을 설명하면 그 배경이 세 번 입력 토큰이 된다. 일꾼이 늘수록 곱해진다. 앞에서 계산한 두 배 반의 상당 부분이 여기서 나온다. 프롬프트 캐싱으로 공통 앞부분을 재사용하면 이 곱셈을 상당히 눌러 둘 수 있다. 캐싱은 앞부분이 글자까지 같아야 맞으므로, 일꾼마다 다른 지시는 뒤에 두고 공통 시스템 프롬프트와 배경을 앞에 같은 순서로 둔다. 일꾼 이름 하나를 맨 앞에 끼워 넣으면 그 뒤가 전부 캐시를 놓친다.

추적

하나짜리는 대화 기록 하나만 보면 됐다. 넷이면 네 갈래를 맞춰 봐야 하고, 「관리자가 일을 잘못 쪼갠 것」과 「일꾼이 잘못한 것」을 구분하는 데 시간이 든다. 결과 보고서에 숫자가 틀렸을 때, 일꾼이 잘못 읽었는지 관리자가 합치다 섞었는지를 기록 없이 가르는 것은 거의 불가능하다. 나누기로 했다면 각 호출에 같은 작업 아이디를 붙여 한 줄로 따라갈 수 있게 해 두는 일이 선택이 아니라 필수가 된다. 관리자가 일꾼을 부를 때 어떤 일감을 줬는지, 일꾼이 무엇을 돌려줬는지가 그 아이디 아래 나란히 남아야 한다. LLM 운영 관측 쪽 이야기다.

관리자 구조의 실무

②를 고른 경우에 가장 자주 어긋나는 자리를 적어 둔다.

일감

일꾼에게 목표가 아니라 일감을 준다. 「이 주제를 알아봐 줘」가 아니라 「이 회사의 2025년 매출과 영업이익을 사업보고서에서 찾아 숫자와 출처를 함께 돌려줘」. 목표를 주면 일꾼이 다시 계획을 세우고 그만큼 흔들린다. 일꾼 셋이 같은 목표를 받으면 셋이 각자 다른 계획을 세워, 관리자가 받는 결과의 범위와 깊이가 제각각이 된다. 일감에는 무엇을 찾을지, 어디서 찾을지, 어디까지 하면 끝인지가 들어간다.

돌려받는 모양

일꾼의 출력이 자유 서술이면 관리자가 그것을 다시 해석해야 하고, 해석하는 걸음에서 또 틀린다. 구조화 출력으로 모양을 고정해 두면 합치는 쪽이 훨씬 조용해진다. 매출·영업이익·출처 URL·찾았는지 여부를 칸으로 정해 두면 관리자는 칸을 읽기만 한다. 일꾼 셋의 결과가 같은 모양이면 표로 합치는 일은 모델 없이 코드로도 된다.

상태 없는 일꾼

일꾼은 한 번 부르고 결과를 받고 끝나는 형태가 다루기 쉽다. 일꾼이 여러 턴을 살면서 관리자와 대화를 주고받으면, 관리자가 일꾼 셋의 진행 상태까지 따로 기억해야 한다. 그러면 관리자의 문맥이 일꾼들의 사정으로 차고, 관리자 자신의 일인 쪼개기와 모으기가 흐려진다. 일꾼에게 더 할 일이 생기면 같은 일꾼을 이어 부르기보다 앞 결과를 일감에 담아 새로 부른다.

상한과 실패 보고

관리자가 일감을 스스로 쪼개게 두면 열두 개를 만들어 내는 날이 온다. 「꼼꼼하게」라는 말 하나에 일꾼 수가 늘어난다. 상한을 코드로 걸고, 넘으면 관리자에게 다시 추리게 한다. 프롬프트로 「다섯 개 이하」라고 적는 것만으로는 안 지켜지는 날이 있다.

그리고 실패를 관리자가 알게 한다. 일꾼 하나가 못 찾았을 때 그것을 「없음」으로 조용히 처리하면 관리자는 다 찾은 줄 알고 빈칸이 든 보고서를 완성본으로 낸다. 돌려받는 모양에 「찾았는가」 칸을 두고, 못 찾은 것은 못 찾았다고, 이유와 함께 돌려받는다. 관리자는 그 칸을 보고 다시 시킬지, 빈칸이라고 밝히고 낼지를 정한다.

정리

  • 기본값은 에이전트 하나다. 나누면 일꾼마다 배경을 다시 읽고 관리자가 결과를 다시 읽어 토큰이 두세 배가 된다
  • 나누기 전에 하나로 안 되는 이유를 관찰한 문제가 든 한 문장으로 적고, 나눈 뒤 그 문제가 풀렸는지 잰다
  • 배치는 넷이다 — 하나로 두기, 관리자와 일꾼, 줄지어 넘기기, 서로 검토하기. 실제로는 그 조합이다
  • 순서가 정해진 일은 에이전트가 아니라 파이프라인으로 짠다. 검토는 검토자에게 다른 정보를 줄 때 값을 한다
  • 나눌 이유는 셋이다. 도구가 너무 많거나, 동시에 돌 일이 있거나, 틀렸을 때의 값이 크거나
  • 도구 혼동은 이름·설명·인자부터 고친다. 그래도 남으면 헷갈리는 짝을 다른 일꾼으로 갈라 나눈다
  • 나누면 문맥이 갈리고, 배경이 복사되고, 추적이 어려워진다. 넘길 것을 고르고, 공통 앞부분을 캐싱하고, 작업 아이디를 붙인다
  • 일꾼에게는 일감을 주고, 돌려받을 모양을 정하고, 상태 없이 부르고, 수에 상한을 걸고, 실패를 실패로 돌려받는다

읽어주셔서 감사합니다. 😊

LATEST

에이전트·RAG의 최신 글

에이전트·RAG2026.08.23

에이전트는 어디서 어긋나기 시작하는가

에이전트가 이상한 답을 낼 때 증상은 마지막에 보이지만 어긋난 자리는 그보다 앞입니다. 한 걸음이 무너지는 여섯 자리를 나누고, 증상에서 원인을 거슬러 찾는 방법과 자리별 처방을 정리합니다.

29 MIN
에이전트·RAG2026.08.23

에이전트가 무엇을 했는지 나중에 알 수 있게 만들기

에이전트는 같은 입력에도 다른 경로로 갑니다. 그래서 로그 몇 줄로는 왜 그렇게 됐는지 복원이 안 됩니다. 트레이스를 어떻게 나누고 구간마다 무엇을 붙이며 어떤 지표를 볼지 정리합니다.

29 MIN
에이전트·RAG2026.08.23

에이전트 비용은 걸음 수보다 빨리 늘어난다

걸음이 두 배면 비용은 두 배가 아니라 서너 배입니다. 왜 그렇게 되는지, 어디서 새는지, 상한을 몇 겹으로 어떻게 거는지와 실제로 효과가 큰 순서대로의 대응을 정리합니다.

13 MIN