사람은 비상 브레이크만이 아니야
human-in-the-loop는 보통 safety approval로만 생각하지만, 판단, 취향, 빠진 맥락을 넣는 장치이기도 해. 좋은 agent는 사람에게 한 번 묻는 게 tool call 다섯 번보다 싼 순간을 안다.
checkpoint는 구체적이어야 해. 한 번에 하나의 결정을 묻고, 결과를 설명하고, 답을 state에 이어가야 한다.
checkpoint 설계
되돌릴 수 없는 행동 전에는 물어. requirement가 충돌할 때 물어. 사용자만 아는 private context가 있을 때 물어. 다음 step이 돈을 쓰거나 외부 상태를 바꿀 때 물어.
“뭘 할까요?” 같은 흐릿한 질문은 하지 마. “생성된 파일 3개를 삭제할까요, 아니면 검토용으로 남길까요?”처럼 물어야 해.