본문 바로가기
C.W.K.
Stream
Lesson 03 of 05 · published

탐지는 생성이 안 되는 자리에서 정확히 잘돼

~12 min · review, cognition, modes, evidence

Level 0젖은 흙
0 XP0/36 lessons0/12 achievements
0/100 XP to next level100 XP to go0% complete

리뷰를 작동하게 만드는 비대칭

사람들을 계속 놀라게 하는 발견이 있어. 계속 놀라는 그 사람들도 예외가 아냐. 같은 시스템이 집필 모드에선 못 막은 걸 리뷰 모드에선 유죄 판결해. 한 시간 전에 자기가 뽑은 초고를, 새 맥락에서, 뭐가 잘못됐는지 찾으라는 지시랑 같이 건네면 진짜 결함을 찾아내. 방금 자기가 쓴 바로 그것들에서도 찾아내.

역설도 아니고 불안정하다는 신호도 아냐. 쓰기랑 판정하기는 입력이 서로 다른 작업이야. 쓰기는 생성적이고 방 안의 모든 것에 조건 걸려. 기대지 말라던 그 원본까지 조건이 돼. 판정하기는 결과물에 조건 걸리고 다른 질문을 물어. 같은 능력, 다른 모드, 진짜로 다른 결과.

이게 네가 짓는 것에 왜 중요하냐면

탐지가 생성만큼 불안정했으면 이 설계 전체가 무너져. 저자랑 리뷰어를 가를 이유가 없어지거든. 리뷰어가 저자의 맹점을 재생산할 테니까. 이 설계가 되는 이유는 그게 거짓이라서야. 변수는 능력이 아니라 오염이고, 새 맥락이 표본 여러 개를 짚어내면 그것만으로 믿을 만해. 두 번째 독자는 첫 번째가 맥락 때문에 못 본 걸 재주지 않아.

이게 뭘 안 지을지를 정해주고, 그게 뭘 지을지보다 값어치 있어. 합의 패널 없음. 리뷰어 둘 평균 없음. 평가자 간 신뢰도 계수 없음. 그 계기들은 판정자에 대한 불확실성을 수량화하려고 존재하는데, 여기 불확실성은 맥락에 대한 거야. 판정자를 하나 더 붙여도 그건 안 재져. 오염 안 된 독자의 단일 읽기는 확인을 기다리는 잠정 발견이 아니라 결과야.

공학은 봉인에 들어가

읽기가 믿을 만한 절반이라는 걸 받아들이면 공학 노력을 어디 쓸지가 분명해져. 그 독자가 실제로 오염 안 됐는지를 확실히 하는 데. 세 번째 트랙 전체가 그 얘기였고. 독자들끼리 교차 검증하는 데 쓰는 건 전부 엉뚱한 변수를 재는 데 쓰는 거야.

그리고 본능이 반대로 간다는 걸 알아둘 값어치가 있어. 놀라운 점수 묶음을 봤을 때 첫 반응은 채점자를 의심하고 두 번째 의견을 찾는 거야. 그 본능은 전제가 성립 안 하는 방법론을 수입해 오는 거고, 따라가면 전체 패스 하나를 더 쓰고도 배우는 게 없고.

판정자를 하나 더 붙이기 전에, 네 불확실성이 판정자에 대한 건지 판정자가 뭘 볼 수 있었느냐에 대한 건지 물어. 합의 장치는 앞엣것에 답하고 뒤엣것엔 침묵해. 그리고 실무에서 놀라운 결과를 제일 많이 만드는 건 뒤엣것이고.

Code

같은 능력, 모드 둘, 반대 결과·text
MODE: AUTHORING
  input:   brief + source material + structural requirements
  asks:    "what should the next sentence be?"
  conditions on: everything in the room, including the source it
                 was told not to lean on
  result:  fluent output carrying the source's shape

MODE: REVIEWING
  input:   the artifact, cold, from disk
  asks:    "what is wrong with this?"
  conditions on: the artifact
  result:  correctly identifies the shape as a defect - including
           in text it produced itself an hour earlier


WHAT THIS RULES OUT BUILDING
  x  consensus panel of N readers
  x  averaging two scores
  x  inter-rater reliability coefficient
  x  "provisional pending a second reader"

  ...because all four quantify uncertainty about JUDGES, and the
  uncertainty here is about CONTEXT. a second judge in the same
  contaminated position agrees with the first, confidently.

WHAT THIS TELLS YOU TO BUILD INSTEAD
  ->  the seal. spend the engineering on making sure the reader
      cannot reach the source, and one reading is a result.

External links

Exercise

최근에 만든 걸 하나 꺼내서, 진짜로 새 맥락에서 읽어봐. 새 세션, 다른 날, 메모 없이. 지시는 "뭐가 잘못됐는지 찾아" 하나만 갖고. 찾은 걸 적어. 그다음 쓴 직후에 스스로 했던 검토랑 비교해. 두 목록의 차이가 네 절차 안에 있는 모드 간격의 크기야.
Hint
지연보다 지시가 더 중요해. "한번 훑어봐"는 집필 맥락을 도로 불러들이고 승인을 낳아. "뭐가 잘못됐는지 찾아"는 다른 작업이고 다른 목록을 낳아. 몇 분 차이여도 그래. 그래서 그 전환이 저절로 일어나길 바라는 대신 명시적으로 만들 값어치가 있는 거야.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.