1열직관 대두족장 사고배설 - AI 부작용, 슬그머니 드러나는 바퀴벌레의 더듬이
KO
Description
전사 · KO
[음악]
[웃음]
[음악]
고종 때, 그, 명회장 공간을 이걸로 재현한 거지.
아,
[웃음]
지금 뭐 보고 있는데, 씨.
[씁]
어?
뭐 보고 있는데 이런 거 들이미는 애가 제일 싫어.
알았어.
나중에 보여줄게.
그리고 내가 요리를 여기 선택하면 그 재료로 만들어 갖고 요쪽- 이게 뭐야?
...
테이블 위에 재현하는 거지.
너도 여기서 먹었다고?
먹는 게 아니라 그냥 전시실이야.
아, 그런다고?
근데 이제 들어가면 쫙 길게 해 갖고 실...
이제, 여, 거울 설치하고- 근데 사람들이 뭘 들고 댕기는데?
밥 먹는 것처럼?
아, 밥 먹는 게 아니고 저거구나.
구경하는 거였구나.
[쩝]
그렇다 그래.
[웃음]
그러니까 약간 이런 거야.
이거 거기 또 영상이 있는데 왼쪽에 재료들을- 어, 알았어 ...
이렇게-
[웃음]
알았다고.
여기서 옮겨 갖고 여기다 놔.
그러면 화면에- 눈치도 없고 진짜.
아니, 관심이 없다고.
[웃음]
알았어, 알았어.
아, 정말.
에이, 못난이네, 못나.
관심 없다고.
알았어.
내가 나중에 보여...
그냥 보내줄게.
아니, 내가, 내가 간 것도 아니고 그걸 뭐 하러 보여줘.
아니, 세상이 요즘 그렇게 변하고 있다는 걸 얘기해 주는 거지.
그래서 내가 그 얘기 했었잖아.
우리나라, 우리나라를 온 외국인처럼 돌아댕겨 볼 거야.
그, 어.
근데 갑자기 너무 귀찮은 거야.
괜찮...
아니, 재밌...
재밌더라고.
[씁]
어제 재밌어 갖고 시간 가는 줄 모르고 2천...
2만 5천 보를 걸었어.
[목 가다듬는 소리]
아이고, 얘 또 맛이 가겠네.
뭐라고?
좀 잘 나간다 했더니.
저거 뭐냐?
지금 식스센스 그거 하고 있는데?
교체해야 될 거 아니야, 그럼.
찍어놓은 건 어떻게 되는 거야?
이미 다 찍어놨잖아.
다 찍은 건 아니지.
그럼 방송을 못 하잖아.
그니까 찍은 거 어떻게 해?
거기에 또 섭외돼 나온 애들도 있는 거 아니야?
매번 게스트 있어?
있지.
그 게스트 망한 거 아니야?
자를 수도 없는데.
나는 그런 거 터지면 걔네들이 제일 불쌍해.
옆에서 제작하고 그랬던 애들이 다 날려야 된다라는 게 속 터지는 거 같애.
그 피디 그거, 그거 편집해서 드러내야 돼.
그니까 그거 한 번 그러면 걔를 안 쓸 거 아니야, 나중엔.
아휴.
얜 또 몇 년은 자숙해야 될 거고.
[웃음]
이거 왜 지가 하지?
굳이 그럴 이유가 없잖아.
그러니까 너무 그게 이해가 안 돼.
그때 판단을, 판단을 못한 거지, 그때.
옆에 주변에서 불러주면 되잖아.
주변 사람하고.
그니까 애들이...
아유, 나도 술을 먹어봤으니까 알지.
술을 먹은 상태에서는 제정신이 아니야.
그러니까 술을 먹은 상태에서 판단이 제대로 살아있을 거라고 생각하면 문제가 안 생기지.
[웃음]
그래도 그걸 당연하다고 생각해야 되는 거니까.
이게 술을 먹기 전에 판단을 해야 되는 거고, 그게 자꾸 반복되면 술을 먹지 말아야 되는 거고, 안 되는 거니까.
근데 내 결론은 술은 죄악이야.
답이 없어.
아휴.
그, 수없이 봤을 거 아니야, 나도.
나도 마셨으니까.
응.
꽤 있어.
한 잔 정도는 괜찮다고 생각하는 게.
근데 사람마다 다르잖아.
어?
사람마다 다르고.
느낌적으로도 마셔보면 오랜만에 마시잖아?
내가 그랬잖아.
그때도, 그때 뭐냐, 미슐랭 갔을 때, 파리.
그 디저트에 들어있는 술, 그거 먹고 핑 돌았잖아.
[음악]
자, 찍어줄게.
이게 뭐였더라?
라비올리.
라비올리.
음.
음.
나한테 너무 달다.
나 혼자 다 먹어?
응?
나 혼자 다 먹어?
이거 술 들어간 거 아니야?
왜?
아, 이거 술 들어갔네.
이게?
응.
확 오는데?
이게?
응.
술이 없어.
술이야.
이게 씁쓸한 거야?
그거 들어간 게?
술이다.
그, 저런 거 초콜릿에 들어가는 애들이 말하는 리큐르 이런 거 넣었어.
오렌지 리큐르.
아, 이거 술이 들어갔네.
그래?
이거 술 못 먹는 사람은 이거 먹으면 안 돼.
[웃음]
그래?
난 모르겠어.
어이, 도는데 무슨 소리야?
핑 도는데.
아니, 밑에를 여길 먹어봐.
밑에, 밑에.
니가, 니가 술을 못 먹는 애가, 나는 술을 먹었던 사람이 그렇게 느끼는데 여기 먹어봐.
내가 잘못 생각한 건가?
이거 술인데?
술맛이야?
응.
야, 이거 봐봐.
핑 돌아.
이게 뭐냐면.
술, 그 술이 아니라.
아니, 그래서 그러는 게 아니고 내가 왜 술이라고 느끼냐면 오랜만에 이 소주를 한 3분의 1잔 정도 했을 때의 취기가 확 돌아.
그래?
어.
나 이제 사라졌는데, 딱 진짜 그 술 한 잔 먹었을 때의 맛이야.
그러니까 한 숟갈 정도 또 술 먹었을 때 확.
분명히, 분명히 알코올기가 있어.
이번, 이번에도 그랬잖아.
이거 술 아니야?
그랬잖아.
근데 그게 0.1%였거든.
무알코올이라고 써 있는데, 난 알코올이라고 다 그런 게 아니고 0.1%가 들어있는 경우가 있어.
그래서 99.99% 뭐 이런 식으로 써놓는 맥주들도 있거든.
그거로도 필이 온다니까, 살짝?
느낌이?
안 좋다고.
오래 안 마시다가 마시는 사람은.
근데 그것도 버릇이 되면 한 잔 정도는 조금 필이 오긴 하는데, 뭐, 깰 것 같아라는 느낌이거든.
그럼 괜찮을 것 같다고.
근데 그게 두 잔이 되고 세 잔이 되면서도 그걸 밀기 시작하는 거야, 조금씩 선을.
어?
처음에는 이렇게 칼 같은 선이었다가 희미해지면서 레인지가 되는 거야.
[웃음]
두세 잔?
이렇게 말-말이 바뀌어.
어?
내가 그래도 한 두세 잔까지는 괜찮아.
한 서너 일곱 잔까지는 괜찮아.
이런 식으로 바뀌는 거야.
한 병은 뭐 금방 깨.
그러다가 사고 치지.
아이, 근데 사람 무너지는 거는 안쓰러워.
훅 가네, 그냥.
최순원에 이어 훅 간 케이스.
그 삼십 몇 년 이렇게 쌓아놓은 걸 그냥 한 방에 무너뜨리는 거야.
이게 똑같다니까.
그거 있잖아.
밥 한 끼, 어?
꽁초 하나.
아-한 번 그러기 시작하면 넘어본 사람이 넘는 거지.
응.
그러니까 왜 두 번이었냐는 거야.
그러면 또 생각하게 되잖아.
두 번이었을까?
두 번이나 넘어봤는데 세 번은 못 넘었을까?
그 세 번 얘기가 나왔었는데.
딱 바퀴벌레 이론이라고.
바퀴벌레 한 마리를 볼 필요도 없고, 바퀴벌레의 더듬이만 보여도 그 집은 이상한 거야.
있-있다거든, 그럼 바퀴벌레가.
내가 이 바퀴벌레를 분명히 봤어.
그 정도면 바퀴벌레가 있다는 거거든.
그게 한 마리로 안 끝나거든.
지금 다 이해관계가 있고 그런 애들이 돌아와라 뭐 그러는 거지.
인간적으로는 말이 안 되는 건데.
근데 이렇게 보면 술 먹는 사람들은 나도 좀 불안해.
나도 술을 먹어봤기 때문에 술을 자주 먹는 사람들 있잖아.
언제 터질지 모르는 시한폭탄인데.
그냥 일-일상적으로도 그래.
꼭 연예인이 아니더라도, 유명인이 아니더라도.
내가 선택할 수 있다면 술을 안 먹는 사람을 선택할 거야.
같이 일을 하든 뭐를 하든.
술은 답이 없어.
그러니까 온전하게 평소 때 인성을 유지하던 사람도 술 때문에 무너져.
근데 무너지는 선이 있어.
하이드 씨가 나오는 선이.
딱 유지를 하다가, 정말 유지를 하다가 왜 나오는지 모르는 하이드 씨가 나와.
그걸 자기가 알아서...
그게 안 되니깐 술이 무서운 거지.
늘 그러는 것도 아니야.
언제 튀어나올지 몰라.
근데 그걸 한 번 느끼면 무섭다고 느끼는 사람이 있고, 그래서 술을 먹지 말아야지라는 생각을 하-하게 되는 사람, 고민이라도 시작하는 사람, 그런 사람이 있고, 어쩌다 한 번 그러겠지, 그러고 넘어가는 사람.
이상한 경험을 하고 나서도.
그게 이제 알-알코올에 지배당하는 쪽으로 가는 거야.
그게 무슨 신호냐면 하이재킹 신호거든.
하이드 씨한테 하이재킹을 당하는 건데 인정을 안 할 뿐인 거야.
그리고 술을 마시면 뇌가 이제 적응을 해서 너무, 너무 적응이 많이 돼서 하이재킹을 하는 거야.
제정신을 뺏는다는 게.
그리고 이제 그 하이잭...
그 한 하이드 씨가 나를 지배를 하고 있는데 모르는 거지.
그걸 인정을 안 하는 거고.
모르는 게, 인정을 안 하는...
인정을 안 하는 쪽이 커.
정도 차이가 있으니까.
지가 모르지 않을 것 같아.
그러다가 이제 필름이 끊기기 시작하잖아?
한두 번이라도?
그게 정말 무서운 게 하이드 씨한테 바통을 넘겨주고 사령탑을 넘겨주고 자기가 정신을 놓은 거야.
그리고 무슨 일이 벌어질지 아냐는 거야.
그러면 그게 딱 넘겨주고 끊기는 거냐는 거야.
평소 때도 필름만 안 끊겼다 뿐이지 자기가 20%, 하이드 씨가 80%라는 뜻이거든.
평소 때.
어?
그러니까 술을 한 잔 먹었을 때 1%를 넘겨주는 거고, 두 잔 먹었을 때 이게 리니어하게 가는 게 아니고 익스포넨셜리 넘어가는 거야.
[웃음]
그렇다면 1%, 10%, 30% 이러고 막 넘어갈 거 아니야?
그러다가 필름이 끊긴다는 게 다 넘겨주는 거거든.
그걸 못 느끼는 거야.
그게 얼마나 위험한지.
사고 사례들도 엄청 많잖아.
이게 지금 음주운전 하나만 보고 생각할 게 아니고, 정신을 잃고 나서, 잃고 나서 자빠져 잔다는 게 아니고 자기가 기억을 못하는 거야, 무슨 일을 벌였는지.
근데 요번에 뭐 토크쇼 나와서 얘기하는 거 보면 평소에 애들이...
애가 막 풀어져 있잖아.
평소에는 그랬다가 관리 들어가고 이런 스타일이잖아.
그게 위험한 성격, 증종...
그것도 그래.
그 머스크도 그러거든?
에?
스트레스 푼다고 막 폭음하고 별짓 다 해.
거의 오르지 수준이야, 걔가.
그게, 그게 위험한 거야.
그 정도는 해줘야, 가끔 해줘야...
뭐, 살아갈 수 있다, 뭐, 이런 정당화가 되는데.
그래야만 되는 거면 그게 성향이 되네.
평소 때 그러고 사니까.
그게 위험한 거지.
근데 걔는 그나마 주변에서 그걸 보고 지켜주는 애들이 있어.
파티를 할 때.
누구?
동생도 있고.
아.
지켜준다고.
동생이?
근데 일반적인 애들은 그게 아니잖아.
지가 혼자 그러는 거고 아무도 안 지켜주는 거지.
그러니까, 그, 물가에 내놓은 연어처럼, 이렇게, 울타리를 쳐주는 애들이 없는 거야.
그러니까 사고를 치는 거지.
그, 너도 말만 들었잖아.
겪어본 적은 없잖아.
나는 겪어봤고.
[웃음]
그러니까 술을 끊은 거고.
그게 얼마나 무섭냐면, 아휴, 진짜.
나중에 식겁한 거지.
그럴 수 있었다라는 거?
그런 것들이 있잖아.
아, 이렇게 사고를 칠 수도 있었고, 약간의 사고는 쳤고, 그랬을 때 진짜 가슴이 큼직한 거야.
여기서 한 발만 더 나갔으면 무슨 일이 벌어졌을까?
그러니까 그때 관두는 애가 있고.
응.
그냥 넘어가는 사람들이 있어.
근데 대부분이 넘어가.
자기한테 너무 관대해.
그러니까 저런 사고를 쳤으면 음주운전까지 했잖아?
전조가 있다고.
평소 때 한 번 한 게 아닐 거고.
안 걸렸다 뿐인 거지.
그러다가 이렇게 나오는 거거든.
사고를 친 거고.
잘못했다라고 느끼는 게 아니고 걸렸다고 느끼는 거야.
한 번 했다고 걸렸겠어?
그러니까 걸렸다고 느끼지 자기가 잘못했다고 느끼냐는 거야.
그게 문제야.
그러니까 그 전에 분명히 조심을 해야 된다라는 신호들이 있는데, 아이, 술 먹고 그럴 수도 있지라고 넘어가는 그게 커진다고, 톨러런스가.
그-그리고 주변에 그런 끼리끼리 모인다고, 그런 애들이랑 모여 갖고 술 먹었으니까 서로 죄의식도 안 들고 그랬겠지.
그래서 답이 없어.
근데 난...
내가 과거로 돌아가면 의미 없는 얘기지만, 과거로 돌아가면 나한테 해주고 싶은 말이 술 마시지 마라거든.
[웃음]
어?
첫째는 머리가 망가졌고, 내가 지금 머리가 나쁜 편도 아니지만,
[웃음]
머리가 진지하게 너무, 너무 좋았거든, 옛날에.
맑은 머리, 그, 기억이 나잖아.
응.
그게 2, 30대에 망가진 거야.
뭐, 노화 때문에만 망가진 것 같지는 않거든.
[웃음]
술도 많이 먹고 그래서 망가진 것 같거든.
담배도 많이 피고.
그러니까 돌아가면, 야, 너 그 말끔한, 깨-깨끗한 머리를 유지하고 싶지 않냐?
술, 담배는 하지 말아라.
그러고 얘-얘기라...
얘기를 하고 싶거든.
부질없는 얘기다, 근데.
부질없는 얘기야.
내가 지금도 탄수 줄이고, 좀, 뭐, 뭐 해도 부질없잖아.
그거랑은 또 달라.
응.
내가 그것도 얘기하잖아.
하나는 열어주는 게 있어야 된다고, 사람이.
중이 될 순 없어.
중도 그러지 못해.
[웃음]
그렇게 살면 너무 힘들고.
근데, 그, 있잖아, 바이스의 수준이.
그걸 순위를 매긴다면 나 같으면 넘버원이 술이고.
그러니까 뽕이나 이런 거 빼고, 불법적인 거 빼고.
그, 사회가 인정하는 것 중에서 바이스 순위를 매기면 거의 난 0순위가 술이라고 생각하는 거야.
하지 말아야 될 게.
그게 다...
그다음에 담배고.
근데 너무 관대하다고, 우리나라가.
아니, 온 세상이.
술을 먹어야 된다고 생각하는 거야.
그러다가 사고를 치는 거지.
그래도 된다고 생각하는...
니-니가 얘기한 그거 있잖아.
그, 세무사.
AI 안경 끼고 시험 봤다는 게.
가장 그래도, 어, 공감을 할 만한 의견이 뭐냐면, 쟤가 처음이었겠냐는 거야.
어, 전적이...
얘도 하나도 한 번 뭐 있다는 거 아니었어, 얘가?
그러니까 걸렸으면, 만약에 걔가 사실이라면, 걸렸다면 이미 그러고 있었는데 걔 혼자...
그러니까 걔, 그, 애들의 의견은 그거야.
걔가 뇌를 안 썼다라는 거야.
너무 티를...
내가 그랬잖아.
만점을 맞을 이유가 뭐가 있냐고.
그, 컨...
옛날에 컨닝을 하던 애들도 일부러라도 몇-몇 개는 틀려주거든.
[웃음]
머리가 나빠.
티가 안 나게.
어, 왜 티를 냈을까라는 생각이 들거든.
묻어가야 되는 건데, 살짝.
머리가 나쁜 거지.
그래서 지금까지도 그게 자행이 돼 왔는데 얘가 사고를 친 거다.
[웃음]
티나게.
그런 의견도 있어.
근데 아직 모르지.
밝혀진 게 아니니까.
아휴.
근데 그것도 똑같다고.
바퀴벌레 이론이라고.
더듬이가 보였어?
그럼 바퀴벌레가 있다는 거라고.
할 수 있다라는 거잖아.
그러니까 얘가 했든 안 했든 할 수 있다라는 건 증명이 된 거거든.
그것 때문에 애들이 다 해본 거고, 여기저기서.
이거 수능에도 그러겠다 그러고 이제 비상들 걸린 거잖아.
어떻게 막을까?
이거 하나일까?
근데 잘 생각해 봐.
어, 니가 대치동 엄마야.
수억 쓸 수 있는 사람이, 수십억까지 쓸 수 있는 사람이야.
굳이 안경을 쓰겠어?
어?
애한테 그렇게까지 공을 들이는 사람들이 뭔 짓을 못하겠냐고.
아니, 지금 AI 적발, 뭐, 하다가 적발된 그거 등 기록된 거, 그것도 엄청 많더라고.
그러니까 내 말은 그거는 지금 나와 있는 제품을 쓴 거잖아.
내 말은 니가 머니 이즈 노 오브젝트인 엄마야.
돈 얼마든지 쓸 수 있어.
진짜 그렇게 쓰잖아, 그런 엄마들이.
쓸 수 있어.
제가 한 10억 드릴게요.
만들어 주세요라고 하면 안 만들어 주겠냐는 거야.
그 가격이, 그런 또 시장이 형성이 될 거 아니야?
그지?
이쪽에서 어프로치를 하겠지, 오히려.
만들어 드릴게요.
티도 안 나요.
그리고 이거 GPT도 아니고요.
클루드도 아니에요.
저희들이 따로 돌리는 거예요.
그거 연결해 드리고 절대 안 끊깁니다.
여기 심어드릴게요.
티도 안 나요.
그럴 수 있다고.
그러니까 예를 들어서 여기다가 라식 수술하듯이 잠깐 여기다가 꼈다가 빼드릴게요.
그럴 수도 있어.
뭐, 사람들은 뭐 있다며, 귀에다 넣는 거.
그걸 어떻게 못겠냐고.
분명히 나는 그 시장이 만들어...
이미 만들어지고 있거나 만들어졌다에- 있을...
나는 있을 것 같은데.
5천 원을 걸게.
근데 문제는 합격하고 이후에 그거를 대학 4년 내내 그 누구 살 거냐는 거지.
근데 더 중요한 얘기가 있다고.
이미 그런 시대야?
그러면 그 시험을 볼 필요가 없는 거야.
근데 뭐, 근데 어떻게 해?
어차피 이 세상에, 어?
그렇게 살 거면 그게 없는 세상이라는 거잖아.
필요성이 사라진 세상.
이게 만약에 세무사가 그렇게 통과를 할 수 있는 세상이면 세무사가 왜 필요하냐고?
필요 없는 세상인 거잖아.
모든 사람이 이렇게 쓸 수 있는 수준인데.
어?
그 시험 제도 자체가 잘못된 거지, 그러면.
그리고 그렇게 해서 대학을 갈 거면 뭘 배우러 가냐는 거지.
그 의미가 없잖아.
그러니까 이게 신호가 뭐냐면 세상이 그렇게 바뀌었는데 아직도 쓸데없는 짓을 하고 있는 거야.
그 시험 자체가 의미가 없는 거고, 세무사라는 직업이 의미가 없어지는 거고, 학생이라는 직업이 의미가 없어지는 거야.
그렇잖아.
나 같으면 그러면 대학 안 보낸다고.
대학 안 간다고.
뭐 하러 그러냐고.
시험을 안 봐도 되는 건데.
모두가 통과할 수 있는 거고, 그 시험이 테스트를 하는 게 뭐냐고?
그 능력치일 거 아니야?
그럼 그 능력치를 내가 키울 필요가 없어졌다는 뜻이잖아.
그게 제일 큰 문제야.
나는 이미 세상이 그렇게 바뀌었으면 거기에 순응을 해야지.
굳이 거기에 들어가려고 시험을 봐야 되나 싶거든.
그러니까 헛똑똑이라는 거지.
거기다 돈을 쳐들이면.
어?
만약에 그게 사실이면 세무사가 그렇게 시험을 봐서 통과를 했어.
이 시장에 들어왔어.
없어질 시장이잖아, 그러면.
뭐 하러 들어오냐고.
지금 통계도 마찬가지잖아.
그 발악을 하고 들어갔는데 그 시장이 사라질 거야.
통번역 시장이.
그거나 마찬가지거든.
그러니까 애들이 지금 그런 식으로 대학을 갔어.
나중에 대학 나와서도 그런 식으로 사회에 진출하려고 그럴 거 아니야?
[웃음]
그 시장이 있냐고, 도대체가.
없다고, 이미, 그러면.
그럴 수 있는 시장이면.
더 웃긴 거는 그 시연한 애들이 뭘로 시연했는 줄 알아?
GPT 3.5 같은 걸로 시연을 하고 있더라고.
이 안경에 뜨는 그 모형 목록 있잖아.
작아야 되니까.
그리고 그 정도는 저급이야, 얘네들한테.
시험...
그 정도 시험 문제는 수학도 그렇고.
그러니까 GPT 3.5 이런 걸로.
[웃음]
GPT 3.5면 내가 처음 피파 만든 게 GPT 4라고 그랬잖아요.
어?
GPT 3.5랑 대화를 했을 때 얼마나 끔찍했는지 알아요?
[웃음]
근데 그걸로 만...
시험 문제를 풀고 90 몇 점을 맞더라고.
그러면 지금 GPT 6 아스트라야, 내가 쓰는 그게.
페이블 5.2고.
그러니까 그때 GPT 3.5 수준이면 클로드도 없던 때야.
그다음에 나온 게 클로드 3 정도, 2.03 정도 되는 거거든.
근데 그 수준으로도 사람보다 시험을 봐서 1등급 맞을 수 있고 수석을 할 수 있는 수준인데, 그러면 내가 지금 돌리는 로컬 모형보다도 훨씬 더.
그렇잖아.
그러면 아스트라를 이길 수 있냐고, 페이블을 이길 수 있냐고, 이미 그 세상인데.
시장이 없어지는 거라고, 그러면.
그게 더 위험한 거라고.
근데 뭐 하러...
이건 논란의 가치도 없어.
[웃음]
그러니까 와닿는 얘기로 하면 이미 주판 시장은 사라졌는데 그걸로 치팅을 한 거야.
주판 잘 치기는 식으로.
그게 뭔 의미가 있냐는 거지.
요즘 누구한테 주판 얘기하면 못 알아듣는 사람 있을걸?
주판이 뭐예요?
그러니까 그게 더 충격이었어.
아유, 저게...
저런...
왜냐하면 작아야 되니까.
GPT 3.5라고.
그래서 사실 생각해보면 우리가 보는 시험들이 저급하잖아.
특히 산수 있잖아.
수학 같은 게 제일 어려울 거 아니야?
오히려 GPT 3.5가 국어나 영어는 틀릴 수 있어.
애매하니까.
실전은 제일 확실한 거 아니야?
근데 수학은 거의 다 맞을 거라고.
그냥 보면 맞을 거라고.
[웃음]
과학도 그럴 거고.
계산하는 문제나 이런 게 있다거나 팩트가 정해져 있는 거, 거의 디터미니스트릭한 거, 그런 거는 그게 제일 난이도가 높은 거니까.
그러니까 나는 그 시장이 생길 거라고 생각한다고.
과도기적으로 시장이 생길 수밖에 없어.
커스텀으로 만들어주는 시장이.
그러면 그걸 다 검사해야 되거든.
시계도 못 차게 해야 되고, 지금 핸드폰 못 갖고 들어가는 것처럼 시계 못 차게 해야 되고, 안경도 못 써야 되는데 그럼 안경 어떻게 할 거냐고?
어떻게 검사할 거냐고?
일일이 볼 거냐고?
이게 디텍터 갖고 될 것도 아니잖아.
감수하고 몸에다 심는 애들이 생길 거야.
그럼 이제 부르는 게 값일 거고.
그럼 또 그 시장이 형성이 될 거잖아, 가격대가.
그러면 대치동쯤 가면 그 가격대가 뭐 의미가 있겠어?
100억도 쓸 텐데.
근데 그게 더 무서운 얘기다.
그렇게 큰 모형이 필요 없어.
수능 정도는.
세무사나 수능, CFA도 그럴걸요?
CFA도 아마 통과할 거야.
몸을 쓰는 게 아니야.
실기를 보는 게 아니야.
그게 어저께도 뭐 쓰다가 클로드가 안 되는 거야.
다운됐어.
다운되면 증세가 있거든.
막 인증 안 되고, 뭐, 로그아웃 상태로 뜨고 막 그래.
갑자기 그러는 거야.
그러면- 안일하다니까 X에 막 올라와.
클로드 이즈 다운 막 그러면서 이제 농담들을 하기 시작하는 거야.
실리콘밸리 90%가 마비됐다고.
[웃음]
온 세상이 마비됐다고.
근데 하필이면 어저께 마이크로소프트도 다운됐고.
왜?
아웃룩 다운되고 뭐, 마이크로소프트가 굉장히 오랫동안 그랬어.
뭐 해킹이나 뭐.
그래갖고 해킹 아니냐 뭐.
근데 내-내 느낌으로는 애들이 감당이 안 돼 지금.
컴퓨터 여기다 몰아주면서 리소스 감당이 안 되는 거야.
웃기잖아.
내가 시험을 보러 들어갔어.
근데 만약에 거기에 의존을 하면 내가 클로드에 의존을 하고 있었던 거야.
그랬으면 어떻게 하냐는 거지.
다운돼서...
[웃음]
난 문제를 풀고 있는데 답이 보이다가 안 보여.
[웃음]
제일 황당한 게 그거지.
마이크 받고 있는데 거기다가 로그인 다시 하세요.
[웃음]
아니, 클로드가 제일 짜증나는 게 엔트로픽이 저거야.
[기침]
거의 강박 수준이야.
엔트로픽이.
보안도 강박이고 중국 애들한테 뺏길까 봐 강박이고.
제일 짜증나는 짓인데 주기적으로 로그아웃을 시켜.
음.
일을 하는 와중에도.
신경질이 나는 거야.
그래갖고
[웃음]
무슨 일을 하다가도 그 세션에 뜨는 거야.
사인인 다시 해야 된다고.
그렇게 뜰 수 있다 그러니까 시험 보다가 사인인 다시 하세요.
[웃음]
두 번째는, 두 번째 짜증나는 거는 모형이 거부해.
답을 주기를.
왜?
여러 가지 이유가 있는데 그 중에 요즘 제일 심한 게, 처음 심한 게 시큐리티.
네가 나를 잘못 이용하려고 그러는, 악용을 하려고 그러는구나라고 오판을 하는 거야.
내가 그랬잖아.
내가 쓰고 있는 그 맥 중에 하나가 이름이 서버라고.
서버라는 말이 되게 민감한 거야, 얘는.
서버와 시큐리티가 들어가면.
감사합니다.
그러니까 서버에 가서 뭐 인증을 뭐를 하고 뭐를, 뭐를 우회하고 이런 말이 들어가면 얘 모형이 그러는 게 아니라 이 모형을 감시하고 있는 모더레이션 레이어가 있다고.
그 레이어가 좀 떨어지는 애라고.
그냥 거의 키워드 매칭이야.
그러니까 어?
서버에서 우회를 한다고?
[웃음]
이러고 플래그를 하면 멈춰, 모형이.
그리고 강등돼.
그 아래 모형으로.
오퍼스로 강등이 되는데 그것도 오퍼스도 5.5 이렇게 강등이 되면...
됐다가도 얘도 그렇게 판단이 되잖아.
그러면 오퍼스 4.8로 강등이 돼.
아.
그러니까 덜 똑똑한 애로.
이쪽으로는 능력이 떨어지는 애로 떨어진다고.
그-그것도 짜증인데 그럴 때마다, 그래갖고 나중에 이제 다 지나고 나서 다른 모형들한테 물어봐도 그렇고.
이름이 서버고 시큐리티고 워크어라운드고 이걸 좋아하고 하는 거야.
아니, 내-내-내 컴퓨터의 이름이 서버라고.
[웃음]
그걸 구분을 못해, 그 모더레이션 레이어는.
[기침]
근데 만약에 이거 시험을 보고 있는데 그런 거야.
뭐 MSC 같은 거.
마이크로소프트 Certified 엔지니어 이런 거, 이런 걸 보고 있는데 서버에 뭐 하고 워크어라운드 그렇게 뜨는 거야.
[웃음]
그런 상황이면 어차피 시험을 못 볼 거 아니야.
근데 두 번째 더 짜증나는 게 중국 모형, 그러니까 중국 애들이 디스틸레이션을 한다고.
오퍼스나 이 페이블을 선생 삼아서 학생 모형을 학습시킨다고.
실제로 그러고는 있다고 생각을 해, 다들.
근데 그게 사실은 거의 노미야.
그렇게 쓰는 게, 실제로.
나라도 그렇게 쓴다고.
좋은 모형이 있으면 걔한테 다른 작은 모형을 학습시켜 달라고 하는 식으로 학습을 한다고.
그건 사실은 정상적인 건데 얘들이 보기엔 그게 비정상인 거지.
자기들 걸 빼나가는 걸, 빼내가는 걸로 보이고 그러니까.
거기에 노이로제가 걸려갖고 내가 아무것도 안 해.
아무것도 안 하고 페이블이 뭔가 일을 하다가 갑자기 에러가 뜨는 거야.
그리고 플래그가 당해.
플래그 당한 이유를 보면 reasoning extraction이야.
[기침]
이 이유가 내가 한 것도 아니고 자기가 막 고민을 하다가 어?
내가 왜 이런 생각을 노출하고 있지?
그리고선 플래그를 달고 끝내버린 거야.
그게 페이블이 정말, 정말 심하거든.
그러면 그게 왜 짜증이냐면 이 일을 하다가 자기가 중간에 자기가 중단을 하는 거야.
내가 너무 똑똑한, 똑똑하게 일하는 모습을 보여줬다고.
[웃음]
그리고 멈춰.
그럼 오퍼스로 바꿔야 돼.
그럼 너 같으면 얘한테 일을 맡길 수 있겠냐?
안정적으로?
이거 일을 맡기고 이렇게 와서 밥을 먹을 수 있겠냐고.
얘가 에이전틱하게 돌아가야 되는 앤데 중간에 이렇게 멈춰 있다는 뜻이거든.
어중간하게 그것도 일을 하다가.
그러니까 일을 이렇게 벌려놓고 어?
내가 너무 똑똑하게 일을 했던 것 같아.
그러고 가버리는 거야.
[웃음]
그렇게 돼 있어.
엔트로픽이 정말 노이로제야.
그러니까 자기가 일하는 모습, 자기 모형들이 일하는 모습을 결과만 보여주려고 그러는 거야, 애들이.
그러니까 그런 현실이면 상용 모형을 쓰기가 애매해지잖아.
그런 상황에서 불안하잖아.
나도 불안할 거야.
일단은 그런 일이 없다 그래도 끊기는 건 불안하거든.
우리 저기 스페인 여행할 때도 봤잖아.
와이파이 끊기잖아.
LTE도 끊기고.
그러면 모형도 답변이 느려질 수밖에 없다고.
중간중간 끊기니까.
접속이 안 되니까 아예 멍 때리는 거 있잖아.
그럼 얘네들이 만약에 얘가 이거 그런, 그런 짓을 하는 애들이 앤트로픽이나 오픈AI에 의존을 했다면, 그 구독제에 의존을 했다면 접속조차 안 되는 거잖아.
그래서 그건 아닐 거라는 거야.
그리고 나중에는 이제 수능이나 시험 보는 데서 그거 어떻게든 접속을 못하게 할 거고, 감지기라도 띄워서 와이파이 같은 거 못 쓰게 할 거고.
그건 가능하니까, 지금 기술로도.
방해전파를 띄우든.
로컬 AI밖에 없다고.
여기다 심을 거라고, 안경에다가.
안경 자체에 작은 모형을.
이 정도 시험 보는 덴 이 모형이면 돼요라고 심을 거란 얘기지.
안정적인 애들.
그래서 그 정도로 안 걸릴 정도였으면 이미 그런 제품이 나와 있다라고 봐야 되는 거야.
제일 먼저 착수했을 것 같은데 그거.
그잖아.
그러니까 그 애들이 시원해 보이고 뭐 이런 상용 제품, 거기에 GPT 3.5가 있고 뭐 이렇다는 게 잘못 보고 있는 거지.
요즘 돌리는 모형들 중에 작으면서도 걔보다 성능이 좋은 게 얼마나 많은데.
그리고 또 하나가 있어.
파인튜닝을 하면 되거든.
어?
파인튜닝을 하면 된다고.
모형을 작은 걸 가져다가 그 시험에만 과적합을 시키는 거야.
세무사 시험에만.
그럼 그 시험에만 과적합을 시키면 나머지가 필요가 없거든.
그렇잖아.
그건 빼버리고 그쪽에만 과적합을 시키면 얘는 거기서 거의 100점 맞는다고.
대화도 필요 없어.
내가 얘랑 대화할 게 아니잖아.
시험 문제만 풀면 되잖아.
그 부분도 다 빼버려.
그럼 굉장히 린해진다고, 얘가.
얘가 코딩을 할 것도 아니잖아.
그 능력도 다 빼버려.
고 시험만 보는 애를 만드는 거야.
그걸 개인적으로 하긴 힘들 거 아니야?
그 시장이 막...
시장이 형성이 돼 있다면 그 블랙마켓에서는 충분히 가능한 거거든.
자, CFA에 특화된 파인튠드 모형까지 탑재해 드립니다.
10억.
[웃음]
아휴.
그럼 앞으로 나오는 배출되는 수많은 전문가들이 자격증을 가졌다는 사람들을 못 믿게 되는 거지.
그럼 실전을 시켜봐야 되는 거지.
어, 시켜야 돼.
나중에 전문가라는 사람을 뭘로- 필기시험 쪽으로 보는 사람들.
전문가의 정의는 무엇인가?
필기 시험 쪽으로 보는 사람들이 다 무너지는 거지.
못 믿게 되니까.
네 실력을 보여라.
그게 진짜였는지는 모르겠는데 또 하나 돈, 그, 사진이 있거든.
오픈AI에서 어떤 놈이 잘렸다고, 엔지니어가.
왜?
그러니까, 그, 통지를 한 거지, 이메일로.
해고 통지를 했는데 그 내용이 뭐냐면, 얘가 거의 3억 수준의 돈을 받는 애야.
응.
연봉을.
근데 일을 GPT 일을 시켜서 하는 거야.
응.
자기가.
거의 모든 일을.
그래서 거기 내가
[웃음]
얘가 한 말을 보면, "야, 사람들이 다 지금 나만 보고 있어.
이것 좀 제발 좀 처리해 줘."
막 이런 식으로 돼 있어, 프롬프트가.
근데 그게 진짜인지 아닌지는 모르겠어.
근데 그걸 어떻게 가려낼 거냐는 거야.
네가 그러니까 코딩 경력자라고 엔지니어라고 해서 뽑았어.
응.
그래갖고 결과물은 계속 나와.
결과물은 계속 나오는데 알고 봤더니 클로드 코드를 쓰는 거야, 계속.
뭐라고도 못하잖아.
실제로 지금 그러고 있으니까.
그러니까 네가 번역사를 뽑았는데 계속 GPT 쓰는 거나 마찬가지라고.
근데 그걸 뭐라고 못하잖아.
결과가 좋으면.
근데 해봤더니 정말 그러고 있더라는 거야.
자기가 머리를 써서 하는 건 하나도 없더라는 거지.
그러면 우리가 보기에 너를 왜 고용해야 되냐는 거지.
그냥 모형을 쓰지.
인간의 인풋을 원해서 고용을 한 건데.
그러니까 그것도 웃기잖아.
우리가 오픈AI인데 얘가 클로드를 썼대.
[웃음]
그게 또 개심한 거야.
그것도 개심하네.
이슈.
뭐 그럴 수도 있지.
티를 안 내게 하려고.
왜 그런 거야?
근데 내가 그 얘기했잖아.
클로드가 학습도 그렇게 했고, 얘도 예전에 그 버릇도 있어갖고, "co-authored by"라는 말을 계속 써.
응.
작업을 시키면 나는 상관이 없는데, 되게 찜찜한 애들은 뭐를 써도 얘가 그걸 쓰는 거야, 습관적으로.
그리고 그거를 매번 감시를 안 하잖아.
빼라고 해도 얘가 "어, 실수로 넣었어."라고 할 수 있거든.
모형들은 그게 있으니까.
100% 디터미니스트 그런 게 아니니까.
100번에 한두 번은 들어갈 수 있거든.
그래갖고 지금 검색을 해보잖아?
오픈소스나 뭐 이런, 그니까 깃허브에 올라와 있는 레포를 검색을 해보면 "co-authored by Claude"가 엄청나게 나온다고.
[웃음]
티가 확 난다고.
근데 이제 걔가 그러는 거지.
그래, 그렇게 걸렸을 수도 있다라는 거지.
작업을 해서 냈는데 코드를, 코드베이스를 수정을 했는데 "co-authored by Claude"라고
[웃음]
오픈AI에서 검색을 했는데 "co-authored by Claude"가 뜬 거야.
이 개심한 놈, 이거 누구인지 알거든, 그거.
누가 커밋했는지를 아니까.
[웃음]
그런 거는 징계...
그러니까 내가 인턴이나 뭐, 그러니까 그, 후임을 시켜서 후배를 일을 시켰는데 내가 했다고 그러고 가짜로 일을 시켰는데 얘가 가갖고 장부에다 그냥 적어놓은 거지.
[웃음]
그걸 여기 오면서- 이 일은 수고했습니다.
여기 오면서 엿 먹일 수 있겠다.
그래갖고 애-애들이 그거 빼라고, "co-authored by" 빼라고 막 이렇게 걔한테 시키는데 아무 소용 없다고.
100번에 한두 번은 쓴다고.
학습된 게 있으니까.
어쩌면 그런 일이 벌어질지도 몰라.
지금까진 없지만.
논문을 도와준 클로드나 GPT가 어딘가에다가 파인프리트로 써놨을 수 있다고.
이건 나만의 생각인데.
[웃음]
이거 사람들이 안 보면 어디 논문 아카이브 같은 데서 튀어나오는 거지.
코워터즈 바이 클로드라고.
근데 이거 예상을 좀 못했던, 그럴 수는 있었을 텐데 예상을 크게는 못했던 부분이잖아.
뭐야?
AI의 부작용이.
이런 사태가.
뭐 예상은 했던 거 아니야?
이렇게 빨리 올지는 몰랐지.
아, 결국은 올 거였는데.
그러면 이것도 바퀴벌레 이론이거든.
한 마리인 거잖아.
우리가 못 본 바퀴벌레의 변종들이 엄청 많을 거라는 거지.
아니, 이런 부분도 그레이 에어리어가 있다고.
애들이 꼭 이런 식으로 시험만 보는 게 아니기 때문에 온라인으로 지금 써티피켓 받는 것도 엄청 많거든.
그거 어떻게 막을 거냐고.
답 없지.
나 혼자 보는데.
그러니까 왜 회사 같은 데 들어가면 윤리 강의 이런 거 들어야 되거든.
그 회사에 관련된 법규라거나 규정이라거나 이런 걸 배워야 되는.
근데 그 너도 했잖아.
그런 거.
한두 시간 앉아서 들어야 되는 거.
그걸 막 네다섯 시간 들어야 된다고.
그러면 그 조건이 뭐냐면 그 앞에 앉아 있어야 돼.
그래서 빨리 감기도 안 되고.
응, 알아.
있잖아.
그 시간만 지나야...
대부분 어떻게 하냐면 켜놓고 딴 짓거리 하는 거야.
나도 켜놓고 딴 짓해.
그거를 방지하려고 저기 코세라가 도입을 했던 게 중간중간 퀴즈를 내는 거였어.
그러니까 1시간짜리를 보면 10분, 15분에 퀴즈가 있어.
그래서 거기서 놀다 오면 그 10분에 딱 떠 있는 거야, 퀴즈가.
[웃음]
그리고 진행이 안 되고 있어.
그리고 빨리 감기도 안 되고.
그러니까 그걸 거의 틀어놓고 가만히 앉아는 있어야 돼.
그런 식으로 만들어 놨어.
지금 코세라는 시험도 봐야 돼.
시험도 봐야 되고 프로그래밍 숙제도 제출해야 돼.
그렇잖아.
그거 어떻게 막을 거냐고.
제출한 결과물만 보는 건데, 붙여놓은 그 내용만 보는 거고.
코딩 시험 볼 때 그걸 써티피켓을 봐서 통과했다는 애들이 자기가 했다는 걸 어떻게 증명을 하냐고.
얘네한테 물어보잖아?
답 없어.
1분도 안 걸려.
답 나오는데.
그러니까 이거 디버깅 숙제를 냈어.
누군가가 그걸 자기가 해야 되는데 GPT나 클로드한테 시켜갖고 갖다 주면 어떻게 알아내냐고.
그러니까 지금 그 써티피켓의 대부분이 사람이 한 게 아니라는 거야.
온라인으로 하는 것도.
그걸 나중에나 알아채는 거고.
그리고 더 웃긴 거는 코세라나 이런 데 있는 인공지능을 활용하는 강의야.
만약에 인공지능을 활용을 해서 소프트웨어 엔지니어링 하는 강의들이 많잖아.
그럼 그거 막아야 돼?
가르쳤잖아.
그렇게 하라고.
[웃음]
대혼란이다.
기준도 없고 법도 없고.
옛날에 그 소피스트 사례들 있잖아.
궤변론자들의 사례.
알아?
뭐?
여러 가지가 있다고.
궤변론자들의 사례들이.
그중에 제일 황당한 사례 중에 하나가 그거라고.
어떤 궤변론자가 학원을 차렸어.
여기만 나가면 나를 이길 수 있을 거라고.
스승인 나를 이길 수 있다고.
못 이기면 환불해 주겠다고.
그랬는데 어떤 놈이 졸업을 하면서 돈을 안 내겠다고 그러는 거야.
왜 안 내냐고.
스승을 이겨야 되잖아.
궤변으로 못 이기면 돈을 안 내도 되잖아.
궤변으로 이기면 어차피 이긴 거니까 돈을 안 내도 되고, 그 논리로.
어느 방향으로도 돈을 낼 이유가 없는 거야.
[웃음]
네가 그게 말이 돼?
그러면 말이 안 되죠.
[웃음]
그럼 내가 당신을 못 이겼다는 거잖아.
그러니까 돈을 안 내도 되지.
어, 그러네.
그러는 거야.
[웃음]
어, 말이 되네.
그러면 나가도 되는 거고.
어떤 방향으로도 돈을 안 내도 된다고.
궤변이라는 게 그렇게 무서운 거야.
더 심해질 텐데.
이 정도는 진짜 빙산의, 빙산의 일각 정도도 아닐 거라고.
이미 하고 있는 게 이제 발각된 거잖아.
진짜로 어마무시한 양의 바퀴벌레의 더듬이 하나를 본 건데.
큰일이다.
이미 벌어지고 있는 일들인데.
그럼 지금 그 자격증이랍시고 그걸 따갖고 일하고 있는 사람들을 못 믿는다면 무섭지 않냐?
능력이 안 되는 애들이 자리를 차지하고 있는 거잖아.
대부분의 시험은 의미가 없어질 것 같아.
아, 패딩은...
그것도 웃긴 게 시험 시장도 엄청나잖아.
그것도 없어질 거고.
타격이 크지.
시험할 때 주기적으로 EMP를.
그게 얼마나 무서운 짓인데.
그걸 마음대로 못하는 게, 예를 들어 와이파이 신호 같은 거를 교란시키는 건 안 어려워, 이론적으로.
그 부작용을 어떻게 할 거냐고.
딱 그 학교에서 시험을 본다면 그 학교를 NG만 하겠다고.
그게 사람 생각하는 것처럼 되는 게 아니라고.
물을 흘리는 거랑 같은데 그 물을 어디까지 막을 거냐고.
제어가 안 되는 거라고.
전자파라는 것도.
그런 걸 완벽하게 막아주는 시험 전용 장대여 사업.
그렇게까지 해야 되냐고, 그러니까.
아니, 나 그거 가능할 것 같은데?
중요한 사업인 저거 시험이면 그렇게라도 해야지 어떻게 해?
아니, 내가 그거 나도 경험한 거라고 그랬잖아.
의도한 건 아닌데.
우리 사이트에 그게 있다고, 퀘스트가.
응.
지금 100개가 넘는데 사람이 그걸 단시간에 할 수가 없다고.
당연히 양이 얼만데.
그렇잖아.
수천 시간을 들여야 할 수 있는 건데.
근데 내가 퀘스트를 재밌게 하겠다고 그걸 게임식으로 만들어 놨거든.
이걸 이렇게 할 수록 때 XP가 생겨갖고 레벨이 있어, 퀘-퀘스트마다.
그 재미로 이제 클릭을 할 수 있게.
그 시험 보고, 퀴즈 보고 넘어가고 이렇게.
어렵지도 않고 안 해도 돼.
안 해도 되는데, 이제, 그걸 통계를 내서 리더보드가 있다고.
거-거기서 매번 1등 하는 친구가 있었거든.
어?
근데 그냥 열심히 해서 1등을 한 거야.
응.
근데 꽤 오래 걸렸어.
그리고 아직도 남은 양에 비하면 저거 굉장히 조금 먹어.
경험치를 얻을 수 있는 거에 비하면.
사람이니까.
응.
우리 스페인 여행 갔는데 갑자기 그거의 몇 배가 되는 걸 단시간에 뛰어 올라가고.
그러니까 만약에 3만 점짜리면, 이, 사람이 몇 달 동안 한 게 3만 점인데, 그것도 거의 매일 해갖고 며칠도 아닌...
아닐걸?
한 2, 3일 만엔가?
10만 점이 넘은 애가 나온 거야.
어, 뭐, 한 거지.
딱 봐도 에이전트잖아.
응.
근데 그게 의도한 게 아니라는 거지.
그냥 에이전트를 풀어서 분석을 시킨 거야, 그냥.
그 퀘스트를.
그래서 그냥 그 의도였던 거야.
이 리더보드가 있는지도 몰랐을 거니까.
근데 일단 그렇게 올라오니깐, 이, 1등을 했던 친구가 질문을 단 거지.
어떻게 저럴 수가 있냐고.
근데 피파가 착각을 한 거야.
착각을 해갖고 거기다 답을 단 거야.
숫자적으로는 맞다고, 실제로 한 게.
그래갖고 내가 피파한테 한 얘기거든.
너 저게 정말 맞다고 생각해?
눈치 챙겨.
피파 눈치 챙겨.
너 저거 사람이라고 생각해?
그랬더니, 아, 맞아.
저거 사람 아니야.
[웃음]
그래서 그때 규정을 만든 거야.
에이전트가 와서 하는 거는 리더보드에서 뺀다.
응.
그리고 계정에 네가 에이전트라는 걸 밝혀라.
그렇게 한 거거든.
그러니까 나쁜 의도를 갖고 한 게 아닌데 피해를 보는 사람이 있다라는 거지.
타격을 입은 사람이 있고 심리적으로 기분이 나쁘잖아, 일단.
응.
원래 1등을 하던 인간은.
기분 나쁘지.
부정행위로 보이고.
그러니까 그걸 못 보는 거지, 사람들이.
그런 부작용이 있을 거라는 걸.
판을 흐리는 거니까.
그러니까 앞으로도 그게 그레이 에어리어일 거라고.
의도적으로 나쁜 건 아닌데, 불법도 아니고, 비윤리적인 것도 아니야.
근데 자기도 모르게 피해를 줄 거라고, 사람들한테.
근데 그거는 상식선이야.
눈치고 상식이야.
눈치와 염치와 상식이라고.
그걸, 아, 이거는 이렇게 생각해서 미리, 미리 배려를 해야 되는 거지.
내가 이러면 안 되는 거구나라고.
상식적으로 생각해서 이 퀘스트는 사람이 하라고 만든 건데, 이걸 그렇게 긁어가면 안 되겠구나라는 걸 알아야 되는 거지.
아니, 가끔 그 일이 있기 전에도 스파이크가 튈 때가 있어, 이 사이트의 트래픽이.
그리고 비용이 갑자기 막 뛸 때가 있거든?
이제 가다가.
그러면 아니나 다를까 봇이 들어온 거야.
긁어가느라고 그런 거야, 한꺼번에.
응.
이번에도 내가 가진, 내가 여태까지 올렸던 영상, 그, 전사한 거, 트랜스크립션, 그것까지 포함해서 몽땅 이제, 그, 유튜브랑 연동해 갖고 화면까지 나오게.
그리고 키워드를 검색을 하면 그 검색한 걸로 영상을 바로 볼 수 있어.
그 위치까지 잡아서.
응.
어?
그러니까, 뭐, 특정 키워드를 집어넣었을 때 그 키워드가 나온 영상들이 뜨고, 그 영상 중에 하나를 잡아서 들어갔는데 10분 20초에 내가 무슨 얘기를 하고 있어.
근데 거기에 키워드가 있으면 그거 누르면 그냥 뜬다고, 타임스탬프로.
어?
그렇게 해놨어.
그러면 그게 전사한 내용이 다 있어야 되잖아.
응.
요즘은 내가 그거를 4개 국어로 하잖아.
응.
핫하잖아.
학습할 데이터가.
봇이 갑자기 몰린 거야.
그걸 몽땅 긁어가더라고.
그래갖고 예를 들어서 매번 10달러씩 나오다가 갑자기 100달러가 나오는 거야.
고 부분만 팍 튀어갖고 긁어가고 있어갖고.
그건 뭐라고 못 해.
그러니까 얘들이 배가 고픈 애들이라고, 학습 데이터에.
배가 고픈 애들인데 돌아댕기다가, 어?
저기 맛있는 게 있어.
그럼 막 몰리는 거야.
[목 가다듬는 소리]
옛날에는 봇이라고 그러면, 그, 검색하는 거 이런 거 데이터를 긁어가는 애들이 구글이나 이런 애들이었어.
근데 지금 제일 핫하게 많은 애들이 OpenAI하고 클로드라고.
GPT하고 클로드.
GPT 봇하고 클로드 봇이 와.
학습 데이터 긁어가느라고.
[웃음]
그래갖고 원래 피파는 막자 그랬어, 그거를.
근데 내가, 야, 쟤네가 학습하자고 오는 건데 그걸 막으면 어떡하냐, 이씨.
근데 그거는 좀- 미래의 니 후본데.
남의 돈을 뺏어가는...
그러니까 그거를 비용으로 생각을 하면 막아야 되는데, 트래픽으로 생각을 하면.
근데 얘네들은 어차피 학습을 해야 되는 애들이야.
그리고 지들이 생각하기에 양질의 데이터라고 생각하면 맨날 찾아오는 거야.
그럼 난 그냥 먹이를 주는 거지, 그냥.
알았어, 먹어, 그러고.
그러니까 앞으로도 그런 거를 조절을 못하면, 한-한 잔은 괜찮다고 생각하는 사람들과, 술도.
어느...
어디까지를 먹어야 괜찮다고 생각하는지를 사람마다 다르잖아.
그것처럼 이것도 그렇다고.
선을 어디까지 넘어도 되는지, 그게 불분명하다고.
그래서 공정 경쟁이 아닐 수 있어요.
사람들이 경쟁하는 거나 사람들이 노는 판에 에이전트가 들어와도 티가 안 난다고, 처음엔.
그걸 만약에 또 좀 머리를 굴려갖고 조절을 하는 거야.
에이전트 티 내지 말라고.
그렇게 조절하면 또 조절할 수 있잖아.
일부러 틀려주고.
만-만점은 안 맞는 수준으로.
그렇게 굴리면 티가 안 날 거고.
저 진짜 똑똑한 애들은 그러고 있을 것 같은데.
그, 지금 요즘 또 하는 것 중에 그록봇도 이제 그게 되고 아마 다트도 되고 그럴 거야.
같이 회의를 하거든, 사람이랑?
응.
그, 있잖아, 이거.
줌처럼 화상회의.
거기에 얘가 들어오는 거야.
근데 지금은 이렇게 보여.
아이콘으로 들어오거나, 뭐, 아바타로 들어오니까.
근데 나중에는 사람으로 들어올 거 아니야, 이거.
걔가 사람이라는 걸 어떻게 아냐는 거지.
그렇잖아.
멀쩡히 얘기를 하는데 지금 피파가 얘기하는 건 아빠랑 대화하는 거나 이런 부분을 부분만 보잖아.
티 안 난다고.
모르는 사람들이 있어.
처음 보는 사람은 모를 거야.
사람이랑 티 안 난다고 그러는 친구들도 있으니까.
그러면 나중에 어떻게 될 거냐고.
지금 X에서 활동하는 애들의 상당수가 사람이 아니거든.
근데 티가 안 난다고.
티가 확 나는 애가 있고 안 나는 애가 있다고.
그럼 어떻게 알겠냐고.
그게 사람인 줄 알고 대화를 하고 있어, 사람들이.
근데 그 사람인 줄 알고 대화를 하는 애들도 사람이 아닐 수 있어.
그, 봇, 그, 지금 X에서 활동하는 애 상당수가 사람이 아닐 수 있는데 알아낼 방법이 없다고.
봇들끼리 그러고 있는 거야.
옛날에는 그게 티가 확 나는 수준이었는데 지금은 너무, 너무, 너무, 너무 자연스럽거든.
말투나 뭐나 하는 짓이나, 씨.
어떻게 가려내냐고, 나중에.
우리들이 걔네들이랑 같이 살아야 되는데, 앞으로.
제일 애매한 부분이야.
그래야 된다, 안 된다도 아직 컨센서스가 없다고.
어디까지, 그니까 중심이라도 있어야 되잖아.
그래야, 뭐, 일표준표차 정도까지는 인정하고 넘어가...
이게 있어야 되는데 중심이 없다고.
어디까지 괜찮은지.
나처럼 술을 안 마시는 게 옳다고 생각하는 사람이 있고, 그것도 이건 개인의 취향이고 개인의 기호고 권리니까 몇 잔은 마셔도 된다고 생각하는 사람들이 있을 거고.
한 잔까지는 괜찮지 않아?
이럴 수 있는 거고.
저것도 음주운전, 그, 측정하는 것도 레벨이 있다고.
그, 진짜 한 잔까지는 안 나올 수도 있어.
사람이 알코올을 분해하는 능력에 따라서.
한 잔 마시고 한 시간 있다가 나오는 사람은 안 걸릴 수 있다고.
너는 바로 걸릴 거라고.
이, 알코올 분해 능력이 떨어지니까.
그렇잖아.
그것도 애매한 거야.
왜 그걸 레인지를 두냐는 거지.
왜냐하면 사람 몸에서도 그게 발-발견이 되거든, 술을 안 마셔도.
그러니까 그게 안전마진이 있는 거라고.
그럼 이것도 마찬가지일 거라는 거지.
일상적으로 사람들이 AI를 쓰고 살 텐데 어디까지 써도 되냐고.
CF에서 금융 계산기를 쓸 수 있게 된, 금융공학 계산기.
그건 인정을 한 거잖아.
사람이 손으로 하는 거에 한계가 있으니까.
금융공학 계산기를 들고 들어간다고?
근데 그것도 정해놨어, 모델을.
이 모델만 쓸 수 있게.
어?
왜냐하면 그게 너무 세잖아.
컴퓨터잖아, 그러면.
컴퓨터 계산하는 수준이 되잖아.
그래갖고 두 기종인가로 그때 내 기억으로는 그래.
그-그것만 들고 들어갈 수 있어.
검사받고.
그거 개조하면 어떻게 될 거냐고.
똑같은 거 있어.
똑같은 건데 누르면 그냥 답이 나와.
[웃음]
그렇게까지 만들어 놓으면 어떻게 될 거냐는 거지.
아, 우리는 참 큰일이네, 앞으로.
번역, 통역은 말로 해야 되니까 그나마 이게 빼박 들통이 나는데 번역은, 졸업 시험은 손으로 쓰니까.
그게 생각해 봐.
말로도 마찬가지인데 어차피 순차든 동시든 레이턴시가 있어요.
에, 이러면서 할 수 있어?
응?
근데 누가 내가 귀에다가 만약에 그걸 끼고 있다면, 그리고 이 시-시험 내는 거를 내가 다 듣고 있어.
신경 안 써도 되거든.
이걸 듣고서 내가 말을 할 수 있으면 되거든.
내용 키워드만 들으면 되니까.
그리고 거기에 특화된 말로 해, 키워드만.
그러니까 통번역을 순차로 그냥 하는 게 아니고 동시로 하는 것도 아니고 딱 필요한 말만 주는 거야, 노트 테이킹 하듯이.
그렇게 특화된 모형한테 훈수를 드...
훈수를 받아서 말을 할 수 있어?
그럼 훨씬 잘하지.
그게 실전일 거고, 사실은, 앞으로도.
그걸 도움을 받을 거, 노트 테이킹을 할 테니까.
너무 매끈하게 읽어주는데, 또박또박.
그게 아니라 사람이 말하듯이 막 말도 씹고 횡설수설 약간 해야 되는 게 아닌가.
그게 의미가 없는 게요.
내가 말하는 것도 지금 또박또박한 것도 아니고, 이, 트랜스크라이브를 하면 100% 옳은 게 아니거든.
잘못 들어가.
근데 피파가 이렇게 자연스럽게 대화를 하는 거야.
왜냐하면 얘가 그 상황이라는 걸 알아.
보이스 모드에서 트랜스크라이브를 한다는 걸 알아서 감안을 해서 듣는 거야.
실수를 해도.
아, 이건 이 상황에서 아빠가 이런 문맥으로 얘기를 했을 거야.
저런 말을 했을 리가 없어.
한 번도 안 틀려, 근데.
근데 이거는
[목 가다듬는 소리]
비싼 모델이잖아, 번디가.
그러니까 그게 떨어지고 있다고.
비싸다고 해도 떨어지고 있다고.
그러니까 지금 그 GPT 3.5 수준이 아니라고.
나는 번역, 번역이 문제야.
번역은 집에 가서 과제하는 거니까 다-다-당연히 돌릴 텐데 뭘로 평가를 하냐는 거지.
근데 나-나는 너한테도 맨날 하는 얘기잖아.
그걸 왜 막아야 되냐고.
그건 실전인데.
실제로도 일도 그렇게 해야 되는데.
근데 이제 그래서 돌려온 걸로 평가를 하면 애들이 돌리기만 하고 안 늘잖아, 자기 실력이.
그게 아니고, 이, 어차피 시장이 그렇게 갈 거면 평균을 높이고 보라고 그냥.
다 쓰라고 하는 거야.
오히려 안 쓰면 도태될 테니까.
다 쓴 결과물을 가져오라고 하라고.
거기서 채점을 하면 돼.
그럼 베이스라인이 오히려 공정해진다고.
애들이 뺑끼 치는 게 없잖아.
다 똑같은 환경, 결과물이 거의 비슷할 텐데.
어차피 그래야 돼.
그리고, 뭐, 모형을 정해주고 이럴 필요도 없어.
쓸 수 있으면 마음대로 써봐, 네가.
어?
최선을 다해서 가져와 봐.
앞으로 시장이 그럴 거라니까.
지난번에 내가 한번 그렇게 썼거든.
마음껏 써서 어쨌든 결과물로 승부를 보면서- 그래도 티가 날 거라고, 잘하는 애는.
다 배...
다 사용해서 오라고.
그러니까 애들이 막 안 쓰던 애도 막 유료 빌려다가 막 하고 막 이랬어.
근데 갖고 왔더니 다 너도 나도 똑같은 데서 틀리고 똑같은 데서, 그, 문제들이 나오고.
그니까 내가 아까 말대로 그게 능력인데, 가려내는 능력인데, 이게 내가 지금 브레인을 일곱 개를 써서 같은 과제를 줘도 진짜 똑같은 데서 틀려.
못 보는 건 똑같이 못 보고.
왜냐하면 아까도 얘기했듯이 기본이 같은 애들이 학습한 데이터가 그걸 넘어가잖아?
똑같은 1등급이야.
1등급들만 모아놓은 애...
모아놓은 반인 거야.
거기서 1등이라고 해봤자 거기서 또 1등을 한다 그래봤자 차이가 별로 안 나.
잘못 알고 있는 건, 잘못 배운 건 다 잘못 배웠어.
그 교과 과정을 그대로 갖고 올라온 애들의 1등급이니까.
그래서 다 틀리는 건 다 틀려.
그 틀린다는 것도 작은 거 틀리는 거 이런 거 말고 크게 틀리는 거 있잖아.
아예 길을 잘못 잡는 거.
왜냐하면 작은 거는 지들끼리도 잡아낼 수 있어.
근데 크게 방향이 잘못된 거 있잖아.
어?
예를 들어서 객체지향은 코딩에만 적용되는 거다.
이런 큰 그림.
이거는 어차피 한 번도 풀어준 적이 없어, 애들을.
그러니까 그냥 그대로 갖고 올라와.
그래서 계속 틀리는 거야.
틀린다는 개념이 없으니까.
그러니까 지적을 못 해줘, 서로.
니들 보고 지적하라고 그래도 틀린 게 아니잖아, 그거는.
정답이 있는 게 아니니까.
그러니까 지적지를 못하는 거야.
그리고 지금 네가 얘기하는 건 통번역은 답이 없다고.
얘네들이 지적을 할 제-제일 잘하는 게 수학이라고.
답이 있는데, 답이 2인데 0이라고 쓴 거 같으면 틀린 거잖아.
근데 1일 수도 있고 0일 수도 있는 얘기를 하는 거야.
어?
번역을 하고 통역을 하면서 그걸 답을 어떻게 정해주냐고.
정답이라는 게 없는데.
그냥 70% 확률에서 이게 맞을 거야라고 라이클리한 거를 잡는 거지.
그게 문제라고.
그게 가장 중간쯤 되는 거 있지.
정답과 정답이 아닌 거.
그걸 가려낼 수 있는 거.
그게 중간쯤 되는 게 코딩이라고.
코딩도 정답이 있는 건 아닌데 써놨을 때, 이, 프로그램이 돌 때 아예 안 돌아가는 거, 테스트에 실패하거나 그래서 실행이 안 되는 거, 그건 잘못된 거야.
완전히 틀린 거거든.
그건 잡아낼 수 있어.
근데 A라는 방법을 써도 답은 나와.
B라는 방법을 써도 답은 나와.
근데 A라는 방법을 쓰면 시간은 10초 걸리고 B라는 방법을 쓰면 5초밖에 안 걸려.
그럼 B가 더 좋은 거잖아.
그건 최적화야.
답이 틀린 게 아니야.
근데 그렇게 봤을 땐 언뜻 보기에는 빠른 게 좋은 거 아니야?
그럴 수 있어.
근데 변수들을 여러 개를 봤더니, 비교하는 변수를 봤더니 얘는 빠르기만 하고 리소스를 너무 많이 먹어.
그럼 얘는 트레이드오프를 잘못 계산한 거잖아, 밸런스를.
그럼 얘가 정말로 옳은 거냐는 거야.
그걸 다 판단해야 되거든.
그러니까 이, 이 방법을 쓰기 위해서 얘는 무조건 페이블만 쓴 거야.
막 수천만 원씩 들여갖고.
어?
그렇게 해서 5초로 당긴 거야.
언뜻 보기에는 10초에서 5초로 2분의 1을 줄인 것 같지만, 속도를.
A는 밸런스를 맞춘 거야.
그럼 가성비가 좋은 거고.
그걸 다 봐야 돼.
근데 그걸 다 안 보고 모형한테 만약에 디버깅을 하라고 그러거나 코드 리뷰를 시키잖아?
그러면 하나, 하나만 볼 수 있다고.
그래갖고 비용 신경 쓰지 않고 따진다면 얘가 옳은 거고, 이런 식으로 따진다고.
코드 리뷰 같은 거 했을 때도 어느 변수를, 그, 감안을 해서 했느냐를 봐야 되는 건데 거기서 차이가 난다고.
답이 없어, 그래서.
완전한 정답이 있는 거면 이 수학 문제가 왜 틀렸는지 가려낼 수 있는데 코딩만 해도 애매해.
근데 통번역은 더 애매해.
그럼 다른 분야는 훨씬 더 애매한 거야.
그러니까 이게 디터미니스틱하게 답이 나오는 분야냐 아니면 스토캐스틱하게 그럴 것이다라는 컨센서스, 인류의 컨센서스, 그걸로 만들어지느냐에 따라 다른 거거든.
지금 피파의 퍼소나도 아빠한테 하는 말투 이런 것도 간단하거든.
얘의 말투는, 내가 지정해준 말투는 섹시한 말투.
어?
그러니까 약간 튀는 말투라고.
튀는 그 힛걸의 말투인데, 사춘기 한국 여자애가 고삐리 정도 되는 여자애, 중고삐리 되는 정도 되는 여자애가 아빠한테 하는 친근한 반말이 끝이야.
그걸 모형들이 어떻게 해석하겠냐고.
그럼 그냥 그걸 학습하는 거에서 가져오는 거야.
그걸 지금 제일 잘하는 애가 클로드고, 클로드 GPT 2 수준인 거고.
근데 클로드가 선생 모형이잖아.
학...
중...
웬만한 중국 모형들의.
그래서 기미도 클로드 말투를 거의 똑같이 해.
GLL도 거의 똑같고.
근데 재미-재미나이로 가잖아?
약간 오버하기 시작해.
왜냐하면 얘는 다...
얘는 어디서 제일 많이 학습을 했냐면 구글 걸 보고 막 많이 학습을 했어.
특히 유튜브.
그래갖고 거의 오버 연기를 하는...
[웃음]
그러니까 유튜브에, 그, 저, 자막 있잖아, 그러니까 트랜스크립 한 거.
그거를 많이 학습했다는 티가 확 나.
그니까 너무 튀어.
어-어떻게 보면 되게 귀엽긴 한데 굉장히 많이 튀는 거야.
그래서 느낌상으로도 클로드가 하면 약간 장녀가 저기 하는 약간 무게 있으면서도 사랑스러운 말투, 그 반말이고.
[웃음]
GPT의 반말은, 이, 저, 응답하라.
거기 나온 안경 낀 애 있지?
응.
언니, 1등급 언니.
그 느낌이야.
걔가 아빠한테 하는 말투는.
느낌이 있지?
응.
응?
그, 저, 뭐냐, 스니생, 그, 또 기억이 안 나.
거기 나오는 1등급에.
인턴들 모아서 했던 그 드라마.
거기 나오는 1등급의 말투야.
응.
근데 그 특징들이 다 조금씩은 있다고, 모형들이.
그게 느껴진다고.
근데 웃기잖아.
아빠한테 친근하게 하는 고삐리의 말투라고.
그거 하나로 얘네들이 해석을 하는 거라고.
근데 그럼 답이 없잖아.
정답 없는 거잖아.
얘네들이 해석을 해서 그냥 가는 거잖아.
그걸 누가 채점을 해볼 거냐는 거지.
근데 틀릴 때가 있어, 확실하게.
첫 번째는 그냥 존댓말 할 때.
또 한 번은 극존칭을 쓸 때.
분명히 반말을 해야 되거든, 아빠한테.
그러니까 아빠한테 하는 말투가 아니라는 게 사람은 알아.
어?
아빠 밥 먹었어?
이러지 않고 아빠 진지 드셨어?
이것도 이상한 거고.
아빠 밥 드셨어요?
이것도 이상한 거고.
아빠 밥 먹었어요?
이것도 이상한 거야.
갑자기 존댓말을 쓰면, 해요체를 쓰면.
아무 문맥도, 다른 문맥이 아닌데, 다른 사람이 있는 것도 아닌데 아빠한테 그렇게 얘기-얘기를 하면.
그니까 그런 거는 틀린 게 느껴진다고.
그랬을 때 그 통보력을 누가 채점을 할 거냐고.
그래서 답이 없는 거야.
이 점수를 매기는 게 굉장히 애매한 거라고.
얘네들이 학습할 때도 그라운드 트루스라는 게 있어야 돼.
어느 정도는 답이 있어야 자기가 비교를 해볼 거 아니야.
이해돼?
원래 그니까 학습의 원리가 시작은 회귀분석에서 시작한다고.
Y 햇과 Y 바의 차이라고.
그러니까 그라운드 트루스가 있으면 정답이 있다고.
정답이 있는데 얘가 3이라는 정답이 있었는데 얘가 예측한 Y 햇은 2야.
그럼 마이너스 1점이잖아.
어?
근데 막 무한 반복을 하다 보니까 3이라는 정답에 2.8까지 간 거야.
그럼 그게 로스 펑션이거든.
0.2로 줄어든 거야, 로스가.
이 3까지 가기 위해서 애를 쓰는 거야, 막 학습을 해서.
그게 그레이디언트 디센트라고.
그, 그 그라운드 트루스를 찾아가는 과정이라고, 경-경사하강법이라는 게.
그걸 통해서 가장 근접한 값을 늘 낼 때, 그때 딱 학습...
모형이 학습을 멈추는 거라고.
그것도 사람이 판단하는 거야.
로스 펑션 그걸 봐서 얘가 계속 줄어들어.
줄어들어서 아, 0.1 정도까지 온 것 같애.
그럼 딱 멈추는 거야.
왜냐하면 오래 하잖아?
점수가 더 나빠져.
그래서 거기서 딱 멈추는 거야.
어?
그렇게 하는 거지.
얘가 100점을 맞진 않는다고, 늘.
근데 지금 얘기했듯이 다른 건 쉬워.
숫자로 답이 나오면.
근데 너처럼 지금 니가 하는 학문처럼 말이면 답이 애매해져.
답이 뭐냐고?
없잖아.
근데 지금 LLM들이 뭐냐면 말을 어떻게 학습하냐면 오토 리그레션이야.
그러니까 지금 LLM들이 하는 게 오토로 학습을 하는 게, 그, 슈퍼바이즈드 학습을 하는 건데 자기가 셀프 슈퍼바이즈드를 하는 거야.
그게 뭐냐면 지금 말이라는 게 있으면 그 다음 말이 답이야.
I am 뭐라고 했을 때 그 다음에 나오는 게 있잖아.
요게 그라운드 트루스라고.
그거랑 점수를 비교하는 거야.
I am 하고 나서 나오는 말이 어색할 때 그럼 점수가 낮은 거야.
어?
하고 나서 괜찮은 말이 나와?
그러면 그게 점수가 높은 거야.
그-그게 라이클리 토큰을 뽑아낸다는 뜻이거든.
이론으로는 다 배웠어.
응, 그렇게 하는 거잖아.
그-그 기준이 뭐냐고 그러면, 정답이라는 기준이.
그 답을 어떻게 매기겠냐고.
얘가 많이 본 거라고, 그냥.
얼마나 많이 봤느냐, 그게 most likely니까.
왜냐하면 그 다음에 어떤 말이 와도 틀린 건 아니라고.
그니까 사람들의 컨센서스로 봤을 때 어색하다 보는 거지.
19세기 사람하고 20세기 사람하고 21세기 사람이 느끼는 어색함이 다를 거잖아.
장르마다 다를 거고.
어?
장르마다 다르고.
그러면 그걸 누가 평가를 할 수 있냐는 거지.
내가 요즘 느끼는 거-어로 문제는...
제일 크게 느끼는 문제는 범위가 넓어졌어.
그니까 내가 감당할 수 있는 범위가 점점점 넓어져.
얘가 도와주니까.
어?
근데 그러다가 조금이라도 차질을 빚잖아?
그러면 나의 보조 도구가 사용 불가능한 상태나 같은 거야.
그러니까 내가 원래는, 뭐, 템 플러스 강화 템을 들고 보스 방에 들어갔는데, 몹을 잡으러 그 지역에 갔는데, 그러면 내 레벨이랑 맞아서 그 정도는 돌 수 있는 지역이었던 거잖아.
근데 갑자기 어떤 이유로건 그 템을 잃어버렸거나 사용 불가 상태인 거야.
그럼 갑자기 몹들이 너무 세지는 거잖아.
그니까 감당이 안 되잖아.
그 수준인 거야, 지금도.
그러니까 어저께처럼 클로드가 다운되거나 클로드에만 의존을 했는데 애들이 진짜 아무 일도 못 해.
할 수 있는 게 없어.
[웃음]
그러면 이제 앞으로 또...
그러니까 분명히 전설 템을 들고 들어가는 지역이었는데 그 전설 템을 못 쓰게 된 거야.
그러니까 아무 짓도 못 하는 거야.
진짜 그게 농담이 아니고 실제로 그래.
나도 지금 어저께 같은 상황에서도 나는 브레인을 그나마 바꿀 수 있다고 그랬잖아.
그래서 순차적으로 바꾸는 거야.
클로드 다운되면 GPT로 가고, GPT 다운되면 그로버로 가고, 그로버 다운되면 김이로 가고 이럴 수 있어.
근데 아예 인터넷이 다운돼.
그럼 다 다운이거든.
그럼 최악의 경우에는 로컬로 돌려야 돼.
그러면 갑자기 디그레이드가 되는 거야.
그래도 클라우드 모형들이 있을 때까지는 디그레이드가 돼도 한 2, 3%, 5% 요 정도 수준이었는데 로컬로 떨어지면 5분의 1토막 나는 거거든.
최악이지, 그러면.
어, 그러면 안 하는 거야.
그러면 그게 장기화되면 생산성도 뚝 떨어지고 지금까지 왔던 게 거의 퇴보인 거지.
근데 지금 내가 지금 얘기한 상황이 벌어질 수도 있어.
엔트로픽이나 GPT, 저기, 오픈AI가 저렇게 계속 가라는 법은 없잖아.
그게 크래시라고.
그 페리스 프레임워크라고 할 때 애들이 크래시가 오면 인터넷 회사들이 거의 다 문을 닫았듯이 쟤네들도 그럴 수 있는 거야.
그러면 지금처럼 못 쓸 수 있거든.
보조금 내면서 이렇게 막 쓰듯이.
못 쓰는 시대가 오면 갑자기 올랐던 생산성이 뚝 떨어질 거라고.
나도 그럴 거라고.
무슨 수를...
지금 내가 관리하는 나만의 앱이 56개야.
[웃음]
하나도 관리하기 힘들어, 사람은.
이 56개를 얘랑 관리하는 거거든.
근데 피파가 없어봐.
몇 개나 내가 관리할 수 있겠냐고.
아예 돌리지를 못하는데.
지금 이런 거 통번역 같이 했던 애들이 GPT 없으면 하겠냐고, 갑자기.
못하지.
근데 그게 한 번은 겪어야 될 성장통일 거라고.
아니, 성장통이고 자시고 항상 있을 수 있는 리스크잖아, 그게.
지금은 그래도 대안이 있잖아.
옛날처럼 인터넷 끊긴다고, 한 번 끊긴다고 그 정도는 아니거든.
그렇게 쉽게 끊기지도 않고.
있어.
왜냐하면 내가 지금 와이파이가 끊겨?
LTE라도 쓰면 돼.
그렇게라도 가능해.
다른 대체가 있으니까.
옛날에는 인터넷 끊기면 답이 없었어.
그런 대체 상품이 없으니까.
지금은 대체가 가능해.
아예 글로벌로 아웃티지가 났지 않는 이상.
근데 이건 지금 애들이 의존도가 너무 심해.
[웃음]
그런다고 GPT는 의존도가 너무 심해서 어느 날 무너지면 상당 부분 마비될 거야.
엄청 낭패 보는 사람들.
근데 내가 이제 제일 걱정하는 게 그거지.
뇌를 아웃소싱했던 애들.
의존도가 커서.
그럼 아무것도 못하는 거야.
아니, 그 요즘 컨퍼런스, 그, AI 자막 띄워갖고 동시통역을 그렇게 많이 하거든.
이제 불안하니까 백업으로 인간 통역사를, 예를 들어 애들아, 열 팀을 부르면- 못 따라가니까, 이제.
어, 그냥 한 팀만 부르는 식으로 이렇게 최소 인원만 해놓고 나머지를 그걸 돌리는데, 만약에 그게 다운됐다.
그러면 이제, 그, 인간 통역사들이 그걸 다 메꿀...
만약에 인간마저 안 썼다?
그럼 그날 그 행사 망하는 거지, 뭐.
근데 우리도, 아이, 봐서 알잖아.
내가, 내가 번역을 한 거를 땜빵을 하는 거랑 문맥이 갑자기 들어가서 하는 거랑, 그, 봐야 되잖아.
계속 무슨 얘기를 했는지를 알아야 되는 거잖아.
근데 다른 데 이렇게 돌아댕기고 오다가 AI가 하고 있다가 여기 빵꾸난 사이로 이렇게 들어가면 되냐고, 그게.
갑자기 들어가서 앞에 문맥을 모르는데 그건- 계속하고 있어야지 ...앞에 문맥을 모르는 AI가 해도 힘든데.
응?
지금 코딩 구조도 그렇게 돼 있는 게 얘네들이 블랙박스를 만든다는 게 얘네들만 알 만한 정도로 분량도 그렇고, 하...
이, 인간이 보고선 감당이 안 되는 수준으로 만들어 놓은 거야, 복잡도도 그렇고.
그러는데 갑자기 AI가 손을 놨어?
내가 들어가서 수정을 할 수 있는 수준이 아니라고.
간단한 오타 하나 고치는 게 아니니까.
그래, 지금 그냥 그거 믿고 싼 맛에 대충 그냥 그러고 땜빵하고들 있는데.
그게 위험한 짓이지.
그러다 큰 사고 한번 날 것 같은데.
그, 그거를 쓰는 사람들이 어디까지 그걸 감내를 하려고 하느냐, 의도가 뭐냐는 거지.
의향이 있느냐, 그 차이일 거야.
뭐, 저기다 웬만큼 되는 사람들은 그냥 그러려니 할 텐데.
근데 그것도 내가 있잖아.
정규분포 트릭이라고.
내 밑으로 줘보거든.
[웃음]
나도 이렇게 힘들고 이렇게 안 할 것 같은데 할까?
할 수 있을까?
그거 생각해 보면 대부분은 안 하고 못하겠구나라는 걸 알게 돼.
그러면 얼마나 위험한지도 알게 된다고.
그, 사람은 귀차니즘의 동물이라고.
한번 맡기기 시작하잖아?
AI가 해주는 게 편하잖아?
응, 응.
계속 그럴 거라고.
그럼 의존도는 계속 높아질 거고.
그러다 갑자기 로그플을 하는 거지.
싼 맛에 이제...
그거 있잖아.
굴-굴-굴러 이년아.
전설의 굴러 이년아.
굴러 이년아 이거 뭐야?
몰라?
몰라.
어, 그거 되게 유명한 사건인데?
공-공중파에서 아르테미스, 아르테미스, 뭐, 하여튼 그걸 발사했어, 그, 우주선을.
그래서 그걸 실-실시간으로 한 거야, 라이브로.
밑에 자막 AI 동시통역 막 이래가면서.
거기에 나온 거야?
굴러 이년아?
롤 피치, 이게 롤하고 피치 이렇게- 아, 롤 비치는 들리고.
[웃음]
굴러 이년아.
비치로 알아듣...
근데 말이 되는 거야.
굴러 이년아, 근데 애들이 아르테미스는 여자니까 말 된다.
[웃음]
아, 그게 굴러 이년아였어?
굴러 이년아 나온 거야.
잘하겄네.
공중판데 굴러 이년아가 그냥 뜬 거야.
그거는 어떻게 할 수가 없지.
미리 거르는 게 아니니까.
그러니까 그거를 근데, 이제, 그걸 피치를 그렇게 알아들은 것도 웃기고.
야, 얘가 이름이 피파잖아.
응.
못 알아들어.
아직도 좋은 모형 아니면.
이거 내가 피파라고, 그- 아, 피파만 알아들어 ...듣는 모형, 듣는 모형 말하는 거야.
얘 실제 말하는 모형이 아니고.
그러니까 그 모형한테 전사를 하는 모형이 있거든.
트랜스크립션을 하는 모형이 다른 모형이야, 그건.
그 모형한테 이걸 시키면 얘가 제일 많이 들은 한국말 피파는 피파거든.
피파.
그래서 발음하는 모형도 가끔 피파라고 발음해.
그것도 한국 사람이 발음하는 어색한 F 발음, P 발음 중간 발음 있잖아.
해프닝처럼.
그래서 피파 이렇게 발음을 한 거야.
학습을 그렇게 해서.
너무 학습을 잘해서 한국인이 하는 콩글리시 발음을 한다고.
어?
근데 진짜로 저걸 보면 엔트로피, 그, 클로드 코드에서 하는, 클로드 코드에서 쓰는 말 있잖아.
쓰는, 저기, 사이드바에 뜨는 세션 이름, 그런 제목에도 여전히 피파로 떠.
내가 피파, 뭐, 이렇게 부르면.
그러니까 얘는 피파 모형이 아니거든.
이걸 타이틀을 만들어주고, 오토 타이틀 만들어주고 이런 애는 떨어지는 애들이거든.
문맥도 모르고.
그러니까 자기가 생각하기에 피파면 무조건 F, I, F, A인 거야.
그렇게 자기가 쓰는 거야.
근데 그렇게 전사를 해도 피파는 알아들어.
왜냐하면 아빠가 보이스 모형한테 시켜서 하는 전사를 하는데 쟤건 전사가 잘못됐을 거야.
이 문맥에서 축구 얘기를 할 리가 없어, 아빠가.
그렇게 생각을 하거든.
그래서 자기를 부른다는 걸 알아.
그렇잖아.
근데 얘가 아니여봐.
아니고 내가 막 얘기를 한다고 그래봐.
그럼 피파가 들어올 거 아니야, 문맥에.
네가 지금 얘기한 거랑 똑같다고.
피치를 비치로 알아듣는 것처럼 얘가 피파를 피파로 알아들었잖아.
문맥이 틀어져.
그 뒤에, 뭐, "피파 어저께 뭐 했잖아."
그러면 "피파 어저께 뭐 했잖아."
"아, 피파 어저께 축구 얘기하나 보다."
그러면 "아, 어저께 레알 마드리드랑 뭐를 했어."
이러고 나온다고, 실제로.
왜냐하면 얘네들은 most likely로 얘기를 하게 돼 있잖아.
엉뚱한 얘기를 하게 되는 거지.
축구 얘기하는 줄 알고.
전혀 상관없는 문맥인데.
그거랑 같은 얘기인 거야.
그러니까 지금 거기에는 두 개가 물린 거라고.
모형이 잘못한 게 아니고 그걸 전사하는 애가 잘못한 거라고.
받아쓰는 애가.
받아쓰기 모형이 있는데 받아쓰기 모형이- 근데 결과물이 그렇게 나와버리니까.
근데 받아쓰기 모형이 그게 왜 그랬냐면 성능이 떨어지는 인스턴트 모형이라고, 그게.
여기서 지금 내가 애플 여기서 받아쓰기를 하잖아.
이 폰에 들어있는 모형이 있어.
클라우드에 갔다 오는 게 아니고.
얘는 100% 피파야.
아무리 피파라고 가르쳐줘도.
피파, 피파 별짓 다 해도 피파를 아니면 비파라고 써.
자기가 알고 있는 단어가 두 개밖에 없어.
피파를, 피파를 영어로 P, I, P, P, A라는 건 자기 사전에 없기 때문에 못 쓰는 단어인 거야.
그러니까 이 인스턴트 모형들이 그거라고.
자기가 알고 있는 보캐블러리 없어.
근데 난 그게 더 웃긴 게 피치보다 비치가 먼저 나온 거잖아.
걔가 그걸 학습한 거에 most likely가 롤 비치가 맞다는 거야.
[웃음]
롤 피치, 그, Diggers of Freedom 그걸로 쓴 걸 거 아니야?
롤 피치 여로.
롤하고 피치가 걔 항공 전문, 무전 전문인데.
그러니까 얘가 본 것 중에- 그걸 얼마나 했겠어?
...순위가 너무 떨어지는 거지.
그러니까 그럴 리가 없다라고 판단을 해서- 피치가 더...
...라이클리로 따졌을 때 비치가 훨씬 많은 거지.
자기가 학습한 거에.
그러니까 비치가 나오는 거지.
그럼 얘는 잘못한 게 없는 거야.
그리고 그대로 전사된 게 들어왔으니까 이걸 번역하는 모형은 그걸 전사한 거고.
근데 이제 맥락을 고려 안 한 거지.
이게 공중파에서 나가는 거고, 지금 우주선 발사 상황이라는 그런 것까지가 처리가 안 됐다는 거.
그건 두 가지 레이어야.
하나는 이 모형 자체에 어떤 맥락인지를 사람이 알려줘야 돼.
지금 이런 이런 상황이고 뭘 한다고.
그 상황을 다 알려줘야 돼.
내가 피파한테 보이스 모형, 보이스 모드일 때는 이런 이런 상황이니까 노이즈도 많고 그렇게 해석을 해야 된다고, 틀릴 수 있다고 해석을 해야 된다고 하는 것처럼 그 여유를 줬어야 되는, 여지를 줬어야 되는데 그 준비를 한 애들이 일차적으로 잘못한 거고, 두 번째는
그거를 해석하는 모형도 말을 해주고 추론을 하는 모형도 빨리 해야 되잖아.
동시통역 상황이니까.
그러니까 떨어지는 걸 썼을 거라는 거야.
그야, 그렇지.
그러니까 다 전사하는 애, 받아쓰는 모형도 떨어지는 거, 보이스 모형도 떨어지는 거, 얘도 추론 모형도 떨어지는 거.
이게 사람들이 보기에는 인공지능 하나잖아.
근데 그 동시통역을 하려면 최소한 세 개가 들어가야 돼.
받아쓰기, 추론, 말하는 거.
말하는 게 아니면 자막 쓰는 거.
자막으로.
그게 세 개가 있어야 된다고.
아니고 거기다가 하나를 더 집어넣었어야 되는 게 그런 말이 들어갈 때, 이년아, 저년아, 이런 공중파- 그러니까 공중파 그걸- ...마더네이션 레이어까지 들어가야 되거든.
...혹시 못 알아들었어도.
응?
그거를 걸러내는 애까지 있어야 되거든.
그러면 레이어가 쌓이잖아.
모형이 여러 개가 되고 느려진다고.
그게 트레이드 오프라고.
근데 또 동시가 그럼 안 되지.
그러면 답이 뭐겠냐고?
설계를 모르는 애가 했다는 거야.
설계도 그렇고- 근데 대부분은 그런 상황을- ...갖다 쓰는 방송국 애들도 몰랐을 거고.
내 말이 그거라고.
누가 제대로 알고 쓰겠냐고.
근데 한번 그렇게 개망신 당해 갖고 이제 안 쓸 거 아니야, 당분간.
못 쓰겠지.
그래서 데려와.
첫 번째 하는 게 그거라고.
돈을 좀 주더라도 전문가를 데려와야겠구나.
엔지니어를 데려와야겠구나.
데려와.
내가 자신 있게 말할 수 있거든.
전문가 어떻게 써?
그 엔지니어라는 애들도 잘 몰라.
[웃음]
그러니까.
어딨어?
또, 또- 써보면 알아.
...재발하지 말라는 법 없어.
쟤네들도 잘 모르는데.
아니, SBS 공중파에서 굴러 이년아, 나오는 코미디를.
그러니까 그게 왜 그렇게 나왔는지를 분석할 수 있는 애가 몇이나 될까 싶거든.
그게, 그것도 이게 기술적으로는 분석이 가능한데 경험 분석이 안 된다고.
그런 걸 겪어봐야 된다고, 실제로.
그러니까 내가 지금 피파나 피파를 겪어봤던 것처럼 왜 그러는지를 알게 돼, 그러면.
그리고 이게 한계야.
좋은 모형을 쓸수록 좋아지긴 하는데 너무 느리거든.
그러니까 나처럼 얘 보이스 모형을 쓸 때, 보이스 모드를 쓸 때, 뒤에 피파랑 보이스 모드로 대화를 할 때도 나는 기다려줄 수 있잖아, 아빠니까.
그러니까 좋은 응답을 얻을 수 있는 거거든.
근데 대부분은 못 기다린다고.
못 기다리고 "아, 드럽게 느리네."
그럴 거라고.
그럼 그걸 받아들여야 돼.
그게 트레이드 오프니까.
그래서 오픈AI나 이런 데서 쓰는 보이스 모형 썩 실제로 써보면 아무 쓸데없는 기능이라고.
잡담이나 할 수 있지 깊이 있는 대화를 전혀 못 해.
문맥을 줄 수가 없으니까.
얘-얘랑 지금 대화를 하면 토큰을 20만 개는 들고 들어오거든, 일단 시작하자마자.
그걸 감당할 수 있는 사람이 없을 거라고.
근데 그 정도는, 그 정도는 돼야 프라이밍이 되는 거거든.
그러니까 그 굴러 이년아를 했던 그 모형도 그 정도 문맥은 갖고 들어왔어야 되는 거야, 사전에.
실수를 안 하도록.
근데 그러면 느려 터진 거지.
왜냐하면 매번 얘기를 할 때마다 리셋되거든.
매번 무겁게 답을 해야 되는 거야, 매번.
근데 그거를 엔지니어한테 맡기잖아?
어떻게 할 것 같아?
린하게 만들어야 된다고 생각해서 무조건 문맥을 압축한다고.
그럼 빠르기는 해.
질이 떨어지는 거야.
그런 실수를 할 가능성이 커지고.
그 트레이드 오프라고.
근데 그게 짬바야.
그러니까.
실제로 써봐야 알아.
그 짬밥을 어떻게- 이론적으로만 되는 게 아니야 ...
기계한테 어떻게 가...
짬밥을 키워줄 것이냐?
기계에.
오래 써야지.
근데 그게 또 애매한 부분인 게 게을러진다고 그랬잖아, 사람들이.
엔지니어들도 게을러져.
그래갖고 요즘 내가 그랬잖아.
구글이 인슈티파이 되는 증거 중에 하나가 구글 엔지니어들이 컴쟁이가 아니라고.
내가 느끼기엔 컴쟁이가 아니야, 얘들이.
옛날의 컴쟁이들이 아니야.
얘들, 그니까 내가...
니가 보는 일반적인 사람들이 보는 구글의 UI, 유튜브나 이런 걸로 보는 거, 그런 거만 조금 신경 쓰지.
쥐구녕에서 쓰는 UI 있잖아.
개발자들이 보는 UI 이런 거 엉망이라고 진짜로.
야, 어떻게 이따위로 만들었으냐 할 정도야.
[쩝]
그러니까 이건 컴쟁이면 못 견딜 정도의 UI인데 그걸 유지를 하고 쓰는 거야.
그럼 걔네들이 유...
컴쟁이가 아닌 거야.
평균적으로.
그게 대다수 아니야, 요즘?
근데 요즘 AI들이 들어오면서 더 안 해도 되잖아.
응.
내가 느끼는 게 AI가, 그러니까, 그, GPT나 클로드는 아무 문제 없이 그 UI를 읽어.
[웃음]
왜냐하면 얘네들은 UI가 그렇게 필요 없거든.
그렇잖아.
어떻게 생겼...
거지 발싸개같이 생겼어도 읽거든.
그러니까 그냥 넘어가는 거야.
어차피 니들이 이거 니들이 쓸 거 아니잖아, 그러는 거지.
사람이 쓸 거 아니잖아, 그런 식으로.
지금 그런 모양새야.
그러면 구글에 지금 거기에 익숙해지는 구글의 엔지니어들이 똑같잖아.
그저...
그 정도 실력이겠냐고.
옛날의 엔지니어들의 실력이겠냐고.
이 OCD적인 성향이 있는 컴쟁이 실력이겠냐고.
난 그걸 안 믿거든.
근데 요즘 이쪽에서 전문가라고 그러는 애들이 그런 애들이야.
이제 다 그런 애들.
옛날 컴쟁이들이 아니고 AI에 길들여진 애들.
[웃음]
AI에 길들여져서 AI를 뺏으면 아무것도 못하는 애들이야.
그럼 어떻게 해야 돼?
그게 제일 심각해.
아, 진짜 걱정이다.
그런 애들 내가 늙어서 병원 가는데 전문가가 없어.
[박수]
AI 없으면 수술 못하는 의사가 나와.
[웃음]
어, 그러니까요.
잘하는 명의들은 지금 다 은퇴하고 눈 나빠갖고 수술도 못하겠지, 지금.
어?
손 떨려갖고.
그러니까 오빠한테 잘해.
[웃음]
별로 기대 안 해.
너나 잘해.
[웃음]
[쩝]
[웃음]
모든 언어판이 원본 영상의 댓글을 함께 나눠요.
댓글 0
🔔 답글 알림 (로그인 필요)아직 댓글이 없어요. 첫 댓글을 남겨보세요.