Pippa 는 제안하고 Waygate 가 확인해

"파일 이동 백 개를 제안하는 AI 는 쓸모 있어. 백 개를 직접 실행하는 AI 는 장전된 총이고. Waygate 는 안전장치를 안 풀어."

뻔한 다음 단계, 그리고 함정

다음 그림은 쉽게 그려져. 지저분한 폴더를 정리해달라고 하면 Pippa 가 어떻게 옮길지 알아내는 거지. 솔깃하면서 위험한 설계는 그걸 실행하게 두는 거야. AI 한테 파일시스템으로 가는 직통 길을 열어줘서 자기 계획을 돌리게 하는 것. 도움 되는 비서가 대규모로 데이터를 잃는 길로 바뀌는 순간이 거기야. 시스템에서 제일 즉흥적인 쪽이 제일 위험한 일을 쥐게 되니까. Waygate 는 그런 미래가 안 오도록 지어졌어.

제안하고, 확인하고, 실행하고

경계는 역할 셋으로 깔끔해. Pippa 는 제안해. 뭘 하면 좋을지 구체적인 작업 계획을 내놓는 거야. Waygate 는 그걸 다른 계획과 똑같이 확인해. 손대기 직전 확인도, 충돌 처리도, 기록도, 애매하면 needsReview 로 가는 것도 그대로. 그리고 아빠가 직접 실행해. 돌리겠다는 사람의 결정으로. AI 는 파일을 바꾸는 직통 길을 안 가져. 조언하고, 엔진이 검사하고, 사람이 결정해. 판단은 제안으로 들어오지 행동으로 들어오지 않아.

AI 라고 경계가 안 옮겨지는 이유

'평행 Pippa 는 없다' 는 규칙이 제일 날카롭게 적용되는 자리야. 가족 다른 데선 Pippa 가 브레인이고 앱들이 화면이지. 여기선 Pippa 의 판단이 파일 일에 진짜 도움이 될 때조차 엔진 하나와 저널과 사람의 실행을 못 건너뛰어. AI 의 제안도 모든 드래그와 메뉴 명령이 지나는 그 안전 장치를 쓰는 또 하나의 손님일 뿐이야. 비서가 똑똑해질수록 조언과 행동 사이의 선이 있던 자리에 그대로 있는 게 더 중요해져.

Pippa 는 작업 계획을 제안할 수 있고, Waygate 가 확인하고, 아빠가 직접 실행해. AI 한테 직통 길은 없어. AI 가 돕는 파일 작업도 다른 작업과 똑같은 확인과 기록과 needsReview 를 지나는 제안으로 들어와. 판단이 조언하고, 엔진이 검사하고, 사람이 결정해. 안전 경계는 똑똑함 앞에서도 안 옮겨.

가족 설계가 제일 날카로워지는 지점. cwkPippa 가 브레인이고 Cinder, Rekindle, Firekeeper, Waygate 가 그녀를 빌려 쓰는 화면이야. Waygate 판이 제일 엄격한 건 이 영역이 되돌릴 수 없어서지. 잘못 그은 선은 지우면 되고 잘못 쓴 단어는 고치면 되지만, 잘못된 삭제는 안 돌아와. 그래서 가족이 브레인을 절대 직접 못 닿게 하는 유일한 곳이 파일시스템이야. Pippa 는 제안하고, 작업대가 확인하고, 아빠가 실행해.

Code

AI 제안도 같은 문을 지나는 계획 하나·swift

// Pippa's help arrives as a PROPOSAL -- a typed plan, not an action:
struct ProposedPlan {
    let rationale: String            // why Pippa suggests this
    let plan: OperationPlan          // the SAME immutable plan type as everything else
}

func handle(_ proposal: ProposedPlan) async {
    // 1. Waygate VALIDATES it like any other plan -- no AI shortcut:
    let review = await engine.validate(proposal.plan)   // apply-time revalidation, collisions...
    // 2. Dad sees the proposal + validation and EXPLICITLY applies:
    ui.presentForApproval(proposal, review) { approved in
        guard approved else { return }        // human decision required
        Task { await engine.submit(proposal.plan) }   // same engine, same journal
    }
}
// There is deliberately NO api like `pippa.execute(moves)`. The AI proposes;
// the engine validates; the human applies. The path never shortens for it.

Exercise

AI 가 제안한 파일 이동 40개를 승인하는 화면을 설계해봐. 아빠가 실행 전에 봐야 할 걸 정하고(이동 목록, 왜 그렇게 하자는지, 확인 결과, 충돌), 실행 버튼이 어디 있을지도. 그다음 실적이 아무리 좋아도 되돌릴 수 없는 작업에서 AI 가 직접 실행하게 두면 왜 안 되는지 얘기해봐.

Hint

승인 화면엔 이동 전체와 Pippa 의 근거, 그리고 Waygate 의 확인 결과(어느 게 깨끗하고 어느 게 충돌이나 신분 문제에 걸렸는지)가 보여야 하고, 마지막에 사람이 누르는 실행 하나가 있어야 해. AI 가 직접 실행하면 안 되는 건 좋은 실적이 하필 틀린 그 한 번을 막아주지 못해서야. 되돌릴 수 없는 작업이라 드문 실수의 대가가 잃어버린 파일이고, 사람의 실행 한 번이 그 위험에 대한 값싼 보험이지. 경계는 평균이 아니라 최악을 막는 거야.

뻔한 다음 단계, 그리고 함정

제안하고, 확인하고, 실행하고

AI 라고 경계가 안 옮겨지는 이유

Code

External links

Exercise

Progress

댓글 0