"Pippa는 대안이랑 증거랑 불확실성을 내놔. route는 아빠가 골라."
명령이 아니라 조언
consultation-first 제품은 쉽게 autopilot으로 미끄러져. 네가 말하면 AI가 그냥 결정하는 거. Waystone은 그 미끄러짐을 원칙 하나로 막아. agency는 아빠에게. Pippa가 할 일은 대안이랑 증거랑 불확실성이랑 조언을 내놓는 거고, 아빠가 할 일은 고르는 거야. 이건 예의가 아냐. 게으른 소프트웨어가 하나로 뭉개는 두 객체를 단단히 갈라놓는, 데이터 모델에까지 드러나는 구조적 약속이야.
추천은 결정이 아냐
추천은 Pippa의 대안이랑, 그 뒤의 증거랑, 확신이랑, 불확실성을 담아. 결정은 아빠가 실제로 뭘 골랐고, 왜 골랐고, 그래서 무슨 일이 있었는지를 담고. 그 둘을 한 필드로 뭉개면, 대부분 앱이 '그 계획'을 저장하는 방식 말이야, 제일 흥미로운 회고 질문을 영영 잃어. Pippa가 한 베이스에 더 오래 있으라고 추천했을 때 아빠가 받아들였나? 안 받아들였으면, 아빠가 맞았나? 조언이랑 결과가 애초에 안 합쳐졌을 때만 둘을 비교할 수 있어.
도전할 수 있는 기억
Waystone은 여러 종류의 여행 기억을 저장하면서 그 epistemic status를 또렷이 지켜. fact(아빠가 스위스 세 번 감)는 직접 뒷받침되고, preference(호텔 이동 적게)는 명시적이거나 추론된 거라 provenance를 같이 저장하고, hypothesis(아빠가 도시 hopping보다 긴 산악 체류를 좋아할지도)는 절대 fact인 척 안 하고 확신이랑 정정 컨트롤을 달고 있어. 그 밑에 깔린 규칙은 이거야. 여행 기억은 조용히 진실로 굳어버리는 숨은 personalization 프로필이 아냐. 아빠는 어떤 추론이든 들여다보고 고치고 확인하고 물릴 수 있어야 해. 널 기억하지만 그 기억을 도전 못 하게 하는 AI는 agency를 받쳐준 게 아니라 뺏어간 거야.