생각을 사용자에게 보여 주는 세 방식
생각의 사슬을 그대로 보여 주기
사용자가 모든 중간 토큰을 읽는 방식이야. DeepSeek-R1은 최종 답 앞에 <think>...</think> 블록을 내보내고, 초기 Claude 확장 사고도 생각 내용을 직접 보여 줬어. 투명해 보이지만 긴 독백이 화면을 가득 채울 수 있어.
생각을 숨기기
모델은 내부 생각 토큰을 만들지만 사용자는 최종 답만 봐. OpenAI o1과 o3가 대표적이야. 생각 토큰은 과금되더라도 API 사용자에게 원문이 공개되지 않을 수 있어. 화면은 깔끔해지지만 풀이 과정을 확인하기는 어려워져.
생각을 요약해서 보여 주기
최종 답과 함께 사람이 읽기 쉬운 풀이 개요를 제공해. Claude의 일부 설정은 토큰 단위 기록 대신 모델이 문제에 접근한 큰 흐름을 요약해 줘. 긴 독백과 완전한 불투명 사이의 절충이야.
표시 방식이 바꾸는 것
- 신뢰: 보이는 풀이를 검토할 수 있지만 숨은 추론은 최종 답을 더 많이 믿어야 해.
- 충실성: 생각 토큰이 실제 내부 계산의 원인을 완전히 반영하지 않을 수 있어.
- 사용 경험: 원문은 압도적일 수 있고, 요약은 부드럽고, 숨김은 깔끔하지만 불투명해.
- 비용 인식: 보이는 토큰은 비용을 체감하게 하지만 숨은 토큰은 청구서를 보고서야 알아차릴 수 있어.
보이는 설명도 증명은 아니야
모델이 제시한 생각을 실제 추론 과정의 창으로 완전히 믿으면 안 돼. 연구에서는 모델이 정답의 진짜 원인과 맞지 않는 그럴듯한 설명을 만들기도 했어. 생각의 사슬은 유용한 단서지만 정답에 도달한 원인을 보증하는 기록은 아니야.