Databricks Context Engineer Associate

Databricks Context Engineer Associate 시험 노트개념 정리16 MIN

메모리 원천 고르기와 Delta 상태 객체

세션 안에서만 쓰는 정보와 세션을 넘어 남겨야 하는 정보를 가르고, 컨텍스트 안 스크래치패드·세션 이력·장기 저장소·Delta 상태 객체 가운데 정보 요구에 맞는 메모리 원천을 고르는 법을 정리합니다.

여기서부터 시험 가이드의 넷째 영역(비중 18%)인 메모리 설계로 넘어갑니다. 08~11번 노트의 검색은 에이전트 바깥에 이미 있는 지식을 꺼내 오는 일이었습니다. 메모리는 에이전트가 일하면서 스스로 만든 정보, 곧 사용자가 말한 선호, 지금까지 한 단계, 중간 결과를 어디에 두었다가 언제 다시 꺼내는가의 문제입니다. 이 노트는 그 첫 갈림길인 「어느 원천에 둘 것인가」를 다룹니다. Lakebase로 영속 메모리를 실제로 구성하는 코드는 13번 노트의 몫입니다.

세션 안과 세션 밖

세션의 경계

세션은 사용자와 에이전트가 하나의 대화나 과제를 이어 가는 단위입니다. 사용자가 창을 닫거나 과제가 끝나면 세션도 끝납니다. 정보를 가르는 첫 질문은 「이 정보가 세션이 끝난 뒤에도 필요한가」입니다. 「방금 고른 배송지」는 이 주문을 마칠 때까지만 필요하고, 「이 사용자는 영어 답변을 원한다」는 다음 주에 돌아와도 필요합니다. 같은 사용자라도 정보마다 수명이 다르므로, 이 질문은 사용자 단위가 아니라 정보 단위로 묻습니다.

두 갈래의 정보

세션 안 정보는 대화가 이어지는 동안 컨텍스트 창이나 그 대화의 이력에 있으면 충분합니다. 세션을 넘는 정보는 창 밖의 영속 저장소에 써 두었다가 다음 세션이 시작될 때 읽어 와야 합니다. 01번 노트에서 「다음 세션에도 기억한다」는 요구를 Lakebase에 짝지은 것이 이 갈래입니다.

세션 안 정보 세션을 넘는 정보
예 이번 주문의 배송지, 방금 실행한 질의 결과 답변 언어 선호, 지난 상담의 결론
수명 세션이 끝나면 버린다 다음 세션에 다시 읽는다
두는 곳 컨텍스트 창, 세션 이력 장기 저장소

메모리 유형

네 가지 원천

에이전트가 쓸 수 있는 메모리 원천은 넷으로 나눌 수 있습니다. 스크래치패드는 에이전트가 과제를 하는 동안 계획과 중간 메모를 컨텍스트 안에 적어 두는 자리입니다. 세션 이력은 한 대화 스레드의 메시지와 상태를 순서대로 남긴 것으로, 같은 스레드를 이어 갈 때 다시 읽습니다. 장기 저장소는 세션을 넘어 사용자나 업무에 대한 사실을 남기는 곳으로, Databricks에서는 Lakebase가 이 자리입니다. 마지막으로 Delta 상태 객체는 여러 단계에 걸친 작업의 진행 상태를 Delta 테이블의 행으로 남기는 것입니다.

고르는 축

넷을 가르는 축은 둘입니다. 하나는 수명 — 과제 하나, 스레드 하나, 사용자 평생 가운데 어디까지 살아야 하는가. 다른 하나는 양과 읽는 방식 — 한 사용자의 몇 줄을 빠르게 읽고 쓰는가, 수천 행을 모아 집계하고 감사하는가. 몇 줄을 빠르게 읽고 쓰면 Lakebase, 수천 행을 모아 보고 되짚으면 Delta입니다.

원천 수명 맞는 정보
스크래치패드 과제 하나 지금의 계획, 다음 할 일
세션 이력 스레드 하나 이 대화에서 오간 것
장기 저장소 세션을 넘는다 사용자 선호, 지난 결론
Delta 상태 객체 작업이 끝날 때까지, 그 뒤 감사 수천 항목의 처리 상태

잘못 고른 메모리

두 방향의 실수

메모리 유형과 정보 요구가 어긋나는 실수는 두 방향으로 납니다. 하나는 세션을 넘어야 할 정보를 세션 이력에만 두는 것입니다. 사용자가 「앞으로 답은 영어로」라고 말했는데 그것이 그 스레드의 메시지로만 남으면, 다음 날 새 스레드에서는 에이전트가 모릅니다. 다른 하나는 세션 안에서 끝날 정보를 장기 저장소에 쓰는 것입니다. 「이번엔 빠른 배송으로」를 영구 선호로 저장하면 다음 주문에도 빠른 배송이 적용되고, 장기 저장소에 일회성 메모가 쌓여 매 세션 읽어 오는 양이 불어납니다. 앞쪽은 기억 상실, 뒤쪽은 15번 노트에서 다룰 과잉 검색으로 이어집니다.

어긋남 찾기

어긋남은 트레이스에서 증상으로 먼저 보입니다. 「지난번에 말했는데 또 묻는다」는 세션을 넘는 정보가 세션 이력에만 있었다는 신호이고, 「한 번 한 말이 계속 적용된다」는 일회성 정보가 장기 저장소에 들어갔다는 신호입니다. 고칠 때는 정보 하나하나에 「이것이 다음 세션에도 참인가」를 물어 쓰는 곳을 다시 정합니다. 장기 저장소에 쓰는 단계에 그 판단을 넣어 두면, 일회성 요청이 영구 선호로 굳는 일을 쓰는 순간에 막을 수 있습니다.

컨텍스트 안 스크래치패드

쓰는 법

스크래치패드는 저장소가 아니라 창 안의 한 구역입니다. 에이전트가 「해야 할 일: 1) 주문 조회 2) 환불 규정 확인 3) 답변 작성 — 1 완료」처럼 계획과 진행을 적어 두고, 단계마다 고쳐 씁니다. 긴 도구 결과를 통째로 창에 두는 대신 필요한 값만 스크래치패드에 옮겨 적고 원래 결과를 빼면, 03번 노트의 주의 예산을 아끼면서 02번 노트의 distraction도 줄어듭니다.

한계

스크래치패드는 세션과 함께 사라지고, 창의 일부라 길어질수록 그 자체가 주의를 먹습니다. 단계가 수십 개이거나 처리할 항목이 수천 개라면 진행 상태를 창 안에 다 적을 수 없고, 중간에 에이전트가 멈추면 어디까지 했는지도 함께 사라집니다. 그 경계를 넘는 순간이 Delta 상태 객체가 필요한 자리입니다.

Delta 상태 객체

다단계 작업

계약서 5,000건에서 해지 조항을 뽑아 분류하는 작업을 생각해 봅시다. 한 세션에 끝나지 않고, 중간에 실패한 항목을 다시 돌려야 하며, 끝난 뒤에는 어떤 문서가 어떤 결과를 받았는지 감사해야 합니다. 이런 작업은 항목마다 상태를 한 행으로 남기는 Delta 테이블을 둡니다. 에이전트는 한 묶음을 처리할 때마다 그 행들을 MERGE로 고치고, 다시 시작할 때는 아직 done이 아닌 행만 읽어 이어 갑니다.

CREATE TABLE IF NOT EXISTS main.agent.contract_jobs (
  doc_id STRING, status STRING, result STRING, updated_at TIMESTAMP
);

MERGE INTO main.agent.contract_jobs AS t
USING batch_results AS s
ON t.doc_id = s.doc_id
WHEN MATCHED THEN UPDATE SET status = s.status, result = s.result, updated_at = current_timestamp()
WHEN NOT MATCHED THEN INSERT (doc_id, status, result, updated_at)
  VALUES (s.doc_id, s.status, s.result, current_timestamp());

다시 시작하는 쪽은 끝나지 않은 행만 읽습니다. 실패한 항목에 failed를 남겨 두면 재시도 대상과 처음 하는 대상을 가를 수 있고, 같은 테이블로 진행률도 셉니다.

pending = spark.sql(
    "SELECT doc_id FROM main.agent.contract_jobs WHERE status <> 'done'"
).collect()
progress = spark.sql(
    "SELECT status, count(*) AS n FROM main.agent.contract_jobs GROUP BY status"
)

이 테이블은 에이전트의 컨텍스트에 통째로 실리지 않습니다. 에이전트는 이번 묶음의 항목과 진행률 한 줄만 받고, 나머지는 테이블에 남깁니다. 창 밖에 상태를 두고 필요한 만큼만 읽어 오는 02번 노트의 컨텍스트 오프로딩이 여기서 테이블 하나로 구현됩니다.

Lakebase와 가르기

Delta 상태 객체와 Lakebase는 둘 다 창 밖에 상태를 남기지만 쓰임이 다릅니다. Lakebase는 한 사용자·한 스레드의 상태를 턴마다 빠르게 읽고 쓰는 운영 저장소이고, Delta 상태 객체는 많은 항목의 진행을 모아 두고 집계·재실행·감사를 하는 분석 테이블입니다. Delta는 테이블의 지난 판을 시점별로 읽는 시간 여행을 지원해, 「어제 이 시점에 몇 건이 끝나 있었나」를 되짚을 수 있습니다. 시나리오가 「대화가 끊겨도 이어 간다」를 말하면 Lakebase를, 「수천 건을 여러 번에 나눠 처리하고 결과를 감사한다」를 말하면 Delta 상태 객체를 봅니다. 시험 가이드가 이 목표를 「Delta 기반 상태 객체가 필요한 다단계 작업」으로 적고 있으므로, 보기에서 스크래치패드나 세션 이력만으로 버티려는 구성을 가려내는 꼴로 물을 수 있습니다.

연습 문제

  1. 사용자가 「앞으로 모든 답변은 영어로 해 줘」라고 했는데, 다음 날 새 대화에서 에이전트가 한국어로 답합니다. 원인으로 가장 알맞은 것은?
    ① 선호가 그 스레드의 세션 이력에만 남았다
    ② 스크래치패드가 너무 길다
    ③ 검색 인덱스가 TRIGGERED다
    ④ Delta 상태 객체가 없다
    ①. 세션을 넘어야 할 정보를 세션 이력에만 두면 새 스레드에서는 읽히지 않습니다. 장기 저장소에 써야 합니다.
  2. 사용자가 「이번 주문만 빠른 배송으로」라고 했는데, 그 뒤 모든 주문에 빠른 배송이 적용됩니다. 어긋난 곳은?
    ① 일회성 요청을 장기 저장소에 영구 선호로 썼다
    ② 세션 이력을 지웠다
    ③ 스크래치패드를 쓰지 않았다
    ④ 원본 테이블에 CDF가 꺼져 있다
    ①. 세션 안에서 끝날 정보를 세션을 넘는 저장소에 쓴 실수입니다.
  3. 계약서 5,000건을 200건씩 묶어 처리합니다. 14번째 묶음을 처리하던 중 작업이 멈췄고, 13번째 묶음까지의 상태는 Delta 상태 테이블에 done으로 남아 있습니다. 다시 시작할 때 처리할 항목은 몇 건이며, 몇 번째 항목부터입니까?
    2,400건, 2,601번째 항목부터. 끝난 것은 200×13=2,600200 \times 13 = 2{,}600 건이므로 5,000−2,600=2,4005{,}000 - 2{,}600 = 2{,}400 건이 남고, 2,601번째부터 이어 갑니다. done이 아닌 행만 읽으면 이 범위가 저절로 나옵니다.
  4. 다단계 작업에 Delta 상태 객체가 알맞은 이유를 둘 고르시오.
    ① 중단 뒤 끝나지 않은 항목만 골라 이어 갈 수 있다
    ② 처리 결과를 나중에 집계하고 감사할 수 있다
    ③ 한 사용자의 상태를 턴마다 가장 빠르게 읽고 쓴다
    ④ 컨텍스트 창 안에 있어 모델이 늘 본다
    ⑤ 세션이 끝나면 저절로 지워진다
    ①과 ②. ③은 Lakebase의 쓰임이고 ④·⑤는 스크래치패드의 성질입니다.
  5. 에이전트가 단계마다 받은 2,000토큰짜리 도구 결과를 창에 그대로 쌓습니다. 각 결과에서 필요한 값만 150토큰으로 스크래치패드에 옮기고 원래 결과를 뺀다면, 8단계를 마친 시점에 창에서 줄어드는 토큰은?
    14,800토큰. 그대로 쌓으면 2,000×8=16,0002{,}000 \times 8 = 16{,}000 토큰, 옮겨 적으면 150×8=1,200150 \times 8 = 1{,}200 토큰이므로 16,000−1,200=14,80016{,}000 - 1{,}200 = 14{,}800 토큰이 줄어듭니다.
  6. 컨텍스트 안 스크래치패드에 대한 설명으로 옳지 않은 것은?
    ① 계획과 진행을 단계마다 고쳐 쓴다
    ② 긴 도구 결과에서 필요한 값만 옮겨 적는 데 쓴다
    ③ 세션이 끝난 뒤에도 다음 세션에서 읽힌다
    ④ 길어질수록 그 자체가 주의 예산을 쓴다
    ③. 스크래치패드는 창 안의 한 구역이라 세션과 함께 사라집니다. 세션을 넘길 정보는 장기 저장소에 씁니다.
Databricks Context Engineer Associate 시험 노트 전체 보기