Pippa 제안, 사람 확정

"자신 있게 틀리는 건 학습 도구가 할 수 있는 최악의 일이야. 모른다고 정직하게 말하고, 함께 고칠 수 있는 게 최선이야."

자동 분석은 정말 틀릴 수 있어

Tier A는 성숙했지만 무오류는 아냐. 코드·키 감지는 jazz 텐션을 잘못 읽고, 빠른 전조를 놓치고, 조성이 모호한 곡에서 갈팡질팡해. 언젠가 완전히 고쳐 없앨 버그라기보다 오디오에서 화성을 추론하는 일 자체의 한계야. Capo도 같은 한계가 있고 사용자는 일상적으로 그 출력을 고쳐. 이 한계를 숨기면 학습자에게 틀린 화성을 완전한 자신감으로 가르치게 돼. 가르치는 게 존재 이유인 도구에는 최악의 실패지.

오류 가능성을 대화로 만들어

그래서 Bonfire는 분석을 평결이 아니라 제안으로 다뤄. 엔진은 최선의 추측과 함께 신뢰도를 내놔. 그러면 Pippa가 'E 마이너로 들리는데, 네 귀에도 그래?'라고 묻고, 사람이 확정하거나 고쳐. 모델은 그 답을 받아 갱신돼. 음악에 대한 최종 권위는 언제나 사람이야. 이 루프는 분석의 한계를 배움의 순간으로 바꿔. 학습자는 라벨을 수동적으로 믿는 대신 자기 귀로 비판적으로 듣게 돼.

설계 가치로서의 정직

단순한 UX 패턴이 아니라 하나의 입장이야. 학습 도구는 모르는 것을 정직하게 밝혀야 신뢰를 벌어. 'E 마이너인 것 같아, 70%'라는 말이 네 번에 한 번 틀리면서도 자신만만한 'E 마이너'보다 더 믿을 만해. human-in-the-loop은 AI가 실패할 때만 꺼내는 fallback이 아냐. 자기 귀를 키워야 하는 유저를 위해 학습 도구가 취해야 할 올바른 모양이야. 사람이 고칠 수 있다는 사실 자체가 기능이 돼.

Code

분석은 평결이 아니라 제안·python

proposal = analyze(audio)        # {"key": "E minor", "confidence": 0.72}

# Pippa가 사실이 아니라 질문으로 꺼내:
#   "여기 E 마이너로 들리는데, 네 귀랑 맞아?"
if human_confirms(proposal):
    model.key = proposal.key
else:
    model.key = human_correction     # 최종 권위는 사람

# 고칠 수 있는 게 기능이야.
# 네 번에 한 번 틀리는 자신 있는 라벨이 진짜 결함이야.

Exercise

불확실성은 안 보여주고 자동으로 답만 주는 도구를 찾아봐. 자동수정이나 분류기, '스마트' 제안 같은 거. 그게 대신 '70% 정도 확신해, 맞는지 확인해 줄래?'라고 말한다고 상상해 봐. 더 믿게 될까, 덜 믿게 될까? 너를 가르치려는 도구라면 어느 설계가 실제로 배움을 돕고 어느 게 그냥 권위 있게 들릴 뿐인지 정해 봐.

Hint

권위 있게 굴면서 가끔 틀리는 도구는 네가 확인을 안 하게 길들여. 정직하게 불확실한 도구는 계속 귀로 듣게 길들여. 학습 도구한테는 두 번째가 핵심 전부야. 수동적으로 믿게 되는 게 실패거든.