추론 흔적과 도구 사용을 하나의 궤적으로 묶었을 때 무엇이 달라지는지 봅니다.
핵심 요약
- 추론과 행동을 섞으면 외부 정보로 계획을 수정할 수 있습니다.
- 관찰 결과가 다음 추론의 입력이 됩니다.
- 운영 환경에서는 추론 노출과 안전한 도구 실행을 별도로 설계해야 합니다.
정적인 추론의 한계
모델 내부 지식만으로 긴 추론을 이어가면 잘못된 가정이 뒤 단계까지 누적될 수 있습니다. 반대로 도구 호출만 나열하면 왜 그 행동을 선택했는지 맥락이 부족합니다.
Thought, Action, Observation
ReAct는 현재 판단을 기록하고, 필요한 행동을 선택하고, 환경에서 받은 관찰을 다음 판단에 반영합니다. 이 구조는 질문 응답뿐 아니라 웹 탐색과 상호작용 작업에도 적용됩니다.
논문에서 제품으로 갈 때
실제 제품에서는 모든 내부 추론을 사용자에게 보여주지 않아도 됩니다. 대신 도구 호출 이유, 입력, 결과, 오류를 감사 가능한 이벤트로 남기는 편이 실용적입니다.
또한 도구 실행 전 검증, 민감 작업의 승인, 반복 제한 같은 제어 장치가 필요합니다.