계획, 도구 사용, 관찰, 수정으로 이어지는 Agent loop를 실제 의사결정 관점에서 봅니다.
핵심 요약
- Agent는 모델보다 제어 루프의 설계가 중요합니다.
- 도구 권한과 종료 조건은 처음부터 명시해야 합니다.
- 실패를 관찰 가능한 상태로 남겨야 개선할 수 있습니다.
Agent를 구성하는 최소 요소
가장 단순한 Agent는 목표, 현재 상태, 사용할 수 있는 도구, 다음 행동을 고르는 모델로 구성됩니다. 행동 결과를 다시 관찰하고 목표가 끝날 때까지 반복합니다.
여기서 자율성은 무제한 행동을 뜻하지 않습니다. 허용된 도구와 예산, 종료 규칙 안에서 다음 단계를 선택하는 능력에 가깝습니다.
좋은 루프에는 경계가 있다
반복 횟수, 비용, 시간, 도구별 권한을 명시하지 않으면 같은 행동을 계속하거나 필요 이상의 작업을 수행할 수 있습니다. 성공 조건뿐 아니라 중단 조건과 사람에게 넘길 조건이 필요합니다.
- 최대 반복 횟수
- 도구별 읽기와 쓰기 권한
- 비용과 시간 예산
- 사람의 확인이 필요한 단계
평가는 최종 결과만 보면 부족하다
Agent가 정답에 도달했더라도 불필요한 도구를 반복했다면 좋은 실행이라고 보기 어렵습니다. 경로의 효율성, 도구 선택의 적절성, 복구 능력을 함께 평가해야 합니다.