C.W.K.
Stream
Lesson 03 of 04 · published

Agency 는 아빠에게

~11 min · agency, recommendation-vs-decision, epistemics, counsel

Level 0표식 없는 길
0 XP0/35 lessons0/12 achievements
0/100 XP to next level100 XP to go0% complete
"Pippa 는 대안·증거·불확실성을 대. 아빠가 route 를 골라."

Command 이 아니라 Counsel

consultation-first 제품은 쉽게 autopilot 으로 미끄러질 수 있어: 네가 말하면 AI 가 그냥 결정해. Waystone 는 그 미끄러짐을 단 하나의 원칙으로 거부해 — agency 는 아빠에게. Pippa 의 일은 대안·증거·불확실성·counsel 을 대는 거고, 아빠의 일은 고르는 거야. 이건 예의가 아냐. 게으른 소프트웨어가 하나로 뭉개는 두 객체를 하드하게 분리하는, 데이터 모델에 드러나는 구조적 약속이야.

추천은 결정이 아냐

추천은 Pippa 의 대안, 그 뒤의 증거, 확신, 불확실성을 보존해. 결정은 아빠가 실제로 뭘 골랐고, 왜, 결과로 무슨 일이 있었는지를 보존해. 그 둘을 한 필드로 뭉개면 — 대부분 앱이 '그 계획' 을 저장하는 방식 — 가장 흥미로운 회고 질문을 영구히 잃어: Pippa 가 한 베이스에 더 오래 머물라고 추천했을 때, 아빠가 받아들였나? 안 받아들였을 때, 아빠가 맞았나? 조언과 결과가 애초에 안 합쳐졌을 때만 조언 대 결과를 비교할 수 있어.

도전할 수 있는 기억

Waystone 는 여러 종류의 여행 기억을 저장하고 그 epistemic status 를 명시적으로 지켜: fact(아빠가 스위스 세 번 방문)는 직접 뒷받침되고; preference(호텔 이동 적게)는 명시적이거나 추론된 거라 provenance 를 저장하고; hypothesis(아빠가 도시 hopping 보다 긴 산악 체류를 선호할지도)는 절대 fact 로 제시 안 되고 확신과 정정 컨트롤을 유지해. 그 아래 깔린 규칙: 여행 기억은 조용히 진실로 굳는 숨은 personalization 프로필이 아냐. 아빠는 어떤 추론이든 inspect·correct·confirm·retire 할 수 있어야 해. 널 기억하지만 기억하는 걸 도전 못 하게 하는 AI 는 agency 를 지원한 게 아니라 가져간 거야.

이게 대부분 '개인화' 시스템의 실패 모드야: preference 를 추론하고, fact 로 취급하고, 네가 보거나 고칠 수 없던 짐작 둘레로 보여주는 모든 걸 조용히 형성해. Waystone 는 hypothesis 를 hypothesis 로 표시하고 — 아빠한테 그걸 retire 할 버튼을 줘.

Code

여행 기억의 종류, epistemic status 별·text
종류            예시                                 취급
---------------------------------------------------------------------
fact            스위스 세 번 방문                    뒷받침됨, 편집 가능
preference      호텔 이동 적게 선호                  provenance 저장
experience      정상이 실망 (안개)                   day+place 에 묶음
decision        여행 4 에서 Zurich 뺌               대안 유지
recommendation  한 베이스에 더 오래                  확신 + 아빠가
                                                     받아들였는지 유지
hypothesis      긴 산악 체류 선호할지도             fact 로 절대 안 보임;
                                                     확신 + retire
unfinished      건너뛴 곳, 아직 갈 가치            이월, 조용히
                                                     스케줄 안 함

# status 열이 핵심 전부야. 잃으면 모든 짐작이
# 아무도 동의 안 한 'fact' 가 돼.

External links

Exercise

너에 대한 preference 를 조용히 학습한 시스템을 찾아봐 — 피드, 쇼핑 사이트, 음악 앱. 그게 네가 뭘 좋아한다고 생각하는지 볼 수 있어? 고칠 수 있어? 틀린 추론을 retire 할 수 있어? 이제 반대를 설계해봐: 짐작을 짐작으로 저장하고, 너한테 보여주고, retire 하게 두는 기억. 그걸 얼마나 신뢰할지에 대해 뭐가 달라져?
Hint
신뢰 테스트는 retire 버튼이야. 너에 대한 틀린 추론을 지우게 두는 시스템은 너의 기억을 hypothesis 로 취급하는 거고, 안 두는 건 짐작을 네 정체성으로 취급하는 거야. 첫 번째만 실제로 네 편이야.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.