‘기억’이라는 말에는 세 층이 있어
- 대화 안의 기억 — 한 세션의 메시지 기록이야. 압축되거나 빠지기 전까지 모델이 매 차례 읽어.
- 대화를 넘는 기억 — 사용자가 다음 세션에도 떠올리길 바라는 오래가는 사실이야. 코드로 구현해 데이터베이스나 vault에 저장해.
- 제공업체 기억 — OpenAI의 기억 도구, Anthropic의 기억 베타처럼 제공업체가 관리하는 기능이야.
남길 만한 것
- 시간대, 언어, 출력 형식처럼 오래가는 사용자 선호.
- 사용자의 프로젝트나 분야에 관한 안정적인 사실.
- 다음 작업의 방향을 바꾸는 이전 세션의 결정.
남기지 말아야 할 것
- 작업 흐름의 현재 단계처럼 잠깐 쓰는 상태. 범위가 정해진 세션 상태에 둬.
- 사용자가 나중에 떠올리길 원하지 않는 결제·건강 정보.
- 추측이나 한 번 쓰고 버릴 가설.
기억의 기본값은 동의야
사용자가 분명히 저장에 동의했거나 시스템이 오래 남길 사실로 명시적으로 분류한 경우에만 기억해. 무엇이든 조용히 저장하는 건 기능이 아니라 개인정보 문제야.