자체 추론은 별도의 API 기능이야
Claude에는 Extended Thinking이 있고, OpenAI는 o-series와 GPT-5.5에서 reasoning_effort를 제공하며, Gemini에는 Thinking 모드가 있어. 이름은 비슷해도 서로 바꿔 끼울 수 있는 기능이 아니야. 한 제공업체에서 잘된 프롬프트가 다른 곳에서도 그대로 통한다고 기대하면 안 돼.
제공업체마다 다른 조절 방식
- Claude — 토큰 단위로 추론 예산을 명시해. 생각은 응답의 별도 부분이며 운영자에게 보일 수 있지만 사용자에게 늘 노출되지는 않아. “제약부터 요약하고…”처럼 방향을 줄 수 있어도 예산을 실제로 얼마나 쓸지는 모델이 정해.
- OpenAI o-series와 GPT-5.5 — reasoning_effort를 low, medium, high로 고른다. 추론 토큰은 요금에 들어가지만 개발자에게 그대로 돌아오지 않아. 지시를 짧게 쓰는 편이 낫고 지나친 설명은 모델의 계획을 방해할 수 있어.
- Gemini — 생성 설정에서 추론 예산을 정해. 출력 행동은 Claude와 닮은 부분이 있지만 세부 차이는 따로 확인해야 해.
쓸 만한 자리
- 일반 출력에서는 단계를 자꾸 놓치는 어려운 다단계 작업.
- 추론으로 늘어나는 지연 시간을 감당할 수 있는 작업.
- 추론 토큰의 추가 비용을 감당할 수 있는 작업.
빼는 편이 나은 자리
- 몇 초의 지연도 큰 실시간 화면.
- 단순 분류나 형식 변환.
- 토큰 예산이 빠듯한 요청.