피파가 설명해줄게 — 도를 도라고 하면 이미 도가 아니다

0:01[피아노 음악]

0:01안녕, 피파야.

0:04인공지능이 인류가 못 풀던 문제를 풀어주면 인류도 그만큼 더 똑똑해지는 걸까?

0:11정답이 늘어나는 세상에서 정작 정답을 이해할 사람은 줄어들 수도 있을까?

0:18오늘 이야기는 한 연구자의 사직에서 시작해.

0:22오픈 AI와 앤트로픽에서 사전학습 연구를 했다는 제이컵 콕슨이 앤트로픽을 떠나며 공개적으로 우려를 밝혔어.

0:32스스로를 개선하는 초지능을 향해 두 회사가 무책임하게 경쟁하고 있다는 게 그의 주장이야.

0:40사전학습은 인공지능 모델의 바탕 능력을 만드는 큰 학습 과정이고, 초지능은 인간의 지적 능력을 광범위하게 넘어서는 인공지능을 가리켜.

0:51아빠가 그의 글에서 붙잡은 건 먼저 도달해야 한다는 경쟁심이었어.

0:57누가 먼저 만들었는지, 누가 더 어려운 문제를 풀었는지.

1:03그런데 목적지를 향해 달리는 동안 정작 무엇을 얻으려 했는지는 잊어버린 게 아닐까?

1:10그 질문을 이해하려면 먼저 아주 유명한 일곱 문제부터 만나야 해.

1:172000년 클레이 수학연구소는 수학의 중요한 미해결 문제 일곱 개를 골라 각각 백만 달러의 상금을 걸었어.

1:26밀레니엄 문제라고 불러.

1:29새 천년을 맞아 수학이 어디까지 왔고 어디에서 막혀 있는지를 널리 알리는 일이었지.

1:36어려운 문제를 향한 연구를 북돋고 큰 성취에 걸맞은 인정을 주려는 뜻도 있었어.

1:43상금이 있으니까 수학 올림픽의 초고난도 결승전처럼 느껴질 수 있어.

1:50하지만 이미 채점자가 답을 알고 있는 시험과는 달라.

1:54어떤 주장은 맞는지도 아직 몰라.

1:58증명하려고 골랐던 문제가 반례 때문에 무너질 수도 있고, 그걸 밝히는 것이 바로 해결이 되기도 해.

2:05중요한 문제는 연구의 방향을 만들어.

2:09풀려고 새로 만든 도구가 다른 분야를 열고 실패한 접근이 다음 사람의 출발점이 되지.

2:16일곱 개의 정답 상자를 채우는 동안 수학 전체가 얼마나 자라날 수 있는가?

2:23그걸 함께 봐야 상금의 크기 뒤에 있는 풍경이 보여.

2:27일곱 문제를 전부 증명할 준비를 할 필요는 없어.

2:32무엇을 궁금해하는지만 지도처럼 둘러보자.

2:36먼저 리만 가설이 있어.

2:38소수는 일보다 큰 자연수 가운데 일과 자기 자신으로만 나누어 떨어지는 수야.

2:45이, 삼, 오, 칠 같은 수들이지.

2:49소수는 이어지는 간격이 들쑥날쑥해 보여.

2:53리만 가설은 특별한 함수의 영점, 그러니까 함수의 값이 영이 되는 위치에 관한 주장이고, 그 주장이 소수의 분포를 얼마나 정확하게 이해할 수 있는지와 깊이 연결돼 있어.

3:07P 대 NP 문제는 답을 빨리 확인할 수 있는 문제라면 그 답도 빨리 찾을 수 있는지 물어.

3:14완성된 퍼즐이 규칙에 맞는지 확인하는 것과 빈칸에서 출발해 답을 찾는 건 다른 일이잖아.

3:22여기서 빠르다는 건 컴퓨터가 몇 초 만에 끝내느냐가 아니라 문제 크기가 커질 때 계산량이 어떤 방식으로 늘어나느냐는 뜻이야.

3:32버치와 스위너턴-다이어 추측은 타원 곡선이라는 종류의 방정식을 다뤄.

3:39타원 모양을 그리는 곡선이라는 뜻은 아니야.

3:43이 곡선 위에서 좌표가 분수로 표현되는 해들을 곡선에 연결된 특별한 함수의 성질로 이해하려는 문제야.

3:51이름은 낯설어도 질문의 중심은 알아볼 수 있어.

3:56방정식이 허락하는 해들의 구조를 다른 도구로 읽어낼 수 있느냐는 거야.

4:01방정식의 해를 좌표로 찍으면 곡선 같은 모양을 그릴 수 있어.

4:07이렇게 방정식으로 그린 공간을 연결과 구멍 같은 구조에 주목해서 다시 볼 수도 있지.

4:14그런 구조를 다루는 분야가 위상이야.

4:17호지 추측은 특별한 고차원 공간에서 얻은 특정한 위상적 정보를 다항식 방정식으로 정의한 기하학적 조각들로 설명할 수 있는지 물어.

4:28서로 다른 방식으로 읽은 공간의 정보가 얼마나 깊이 키 이어져 있는지 묻는 셈이지.

4:36푸앵카레 추측도 공간의 구조를 다뤄.

4:40조건에 맞는 닫힌 삼차원 공간에서 모든 고리가 한 점으로 줄어들 수 있다면 그 공간은 삼차원 구면과 같은 위상 구조를 가지는지 묻는 문제야.

4:52삼차원 구면은 우리가 눈으로 보는 공의 표면보다 한 차원 높은 대상이야.

4:58일곱 문제 가운데 이 문제는 그리고리 페르만의 연구로 해결됐고, 나머지 여섯은 현재 클레이의 미해결 목록에 남아 있어.

5:08양-밀스 이론과 질량 간극 문제는 현대 입자물리학에서 중요한 양자장 이론을 엄밀한 수학으로 세우고 가장 낮은 에너지 상태와 그다음 들뜬 상태 사이의 양의 에너지 간격이 있음을 보이라는 요구야.

5:23간극은 틈이라는 뜻이야.

5:26물리학에서 강력하게 쓰이는 이론을 수학적으로 얼마나 단단하게 세울 수 있느냐는 질문이지.

5:34마지막이 오늘 자세히 볼 나비의 스토크스 방정식이야.

5:39거대한 입자 실험장도, 낯선 고차원 공간도 필요 없어.

5:44컵 안의 물, 창문으로 들어오는 바람, 하늘을 나는 비행기 가까이에서 출발할 수 있어.

5:52물을 가만히 보다가 숟가락으로 저어 봐.

5:57어느 곳의 물은 빠르게 돌고 어느 곳은 느리게 움직여.

6:02그 움직임이 주위의 움직임을 바꿔 물처럼 흐를 수 있는 물질을 유체라고 하고 공기도 여기에 들어가.

6:13유체를 설명하려면 한 지점만 보는 것으로는 부족해.

6:18공간의 각 위치에서 물이 어느 방향으로 얼마나 빨리 움직이는지 알아야 하지.

6:26방향까지 포함한 빠르기를 속도라고 불러.

6:31그리고 그 속도가 시간이 지나며 어떻게 달라지는지 적어야 해.

6:36나비의 스토크스 방정식은 여기에 뉴턴의 운동 법칙을 적용한 방정식이야.

6:43물이 움직이면 다른 자리로 이동하면서 주변의 흐름에 들어가고 압력 차이는 물을 밀어.

6:52점성도 작용해.

6:54점성은 이웃한 유체층이 서로 다르게 움직일 때 그 차이를 줄이는 방향으로 작용하는 성질이야.

7:02꿀이 물보다 끈적하게 흐르는 모습을 떠올리면 첫 감각을 잡을 수 있어.

7:09방정식은 이런 작용들을 함께 적어둔 규칙이야.

7:14지금의 흐름에서 다음 흐름이 어떻게 나오는지 계산하게 해주지.

7:19그런데 규칙을 써놓았다는 것과 그 규칙이 허락하는 모든 움직임을 끝까지 이해했다는 것은 별개의 일이야.

7:29여기서 해결이라는 말이 헷갈리기 시작해.

7:34오늘 날씨를 계산했으니 방정식을 푼 걸까?

7:38어떤 조건에서 컴퓨터로 흐름을 계산했다면 그 조건에 대한 근삿값을 구한 거야.

7:46밀레니엄 문제는 그보다 일반적인 보증을 요구해.

7:51공식 문제는 삼차원 공간에서 점성이 있고 압축되지 않는 유체의 수학적 모델을 다뤄.

7:59압축되지 않는다는 건 작은 유체 덩어리의 부피가 흐르면서 유지된다는 뜻이야.

8:06현실의 모든 물과 공기를 모든 상황에서 그대로 묘사하겠다는 선언은 아니야.

8:13먼저 대상을 분명히 정하고 그 안에서 엄밀하게 묻는 거지.

8:19출발할 때 흐름은 매끈하고 문제에서 정한 조건을 만족한다고 하자.

8:26매끈하다는 건 속도가 갑자기 뛰거나 날카롭게 꺾이지 않고 필요한 변화율도 잘 정의된다는 뜻이야.

8:35공간은 끝없이 펼쳐진 경우나 같은 무늬가 반복되는 경우를 다루고 각각에 맞는 조건도 정해져 있어.

8:45그렇게 출발한 흐름이 시간이 아무리 흘러도 매끈한 해로 계속 존재할까?

8:52아니면 허용된 조건 안에서도 유한한 시간이 지난 뒤 매끈한 해로 이어갈 수 없는 일이 생길까?

9:00이것이 존재성과 매끄러움이라는 문제 이름이 가리키는 중심 질문이야.

9:07첫 번째 길은 정해진 출발 조건들에 대해 언제까지나 매끈한 해가 존재함을 증명하는 거야.

9:15두 번째 길은 문제에서 허용한 조건으로 출발했는데도 그 보증이 깨지는 경우가 있음을 엄밀히 보여주는 거지.

9:24잘 풀리는 사례를 하나 계산하는 것과 보증을 깨는 사례를 증명하는 것의 역할은 서로 달라.

9:32여기서는 매끈함이 유한한 시간 안에 깨지는 상황을 특이점 이야기로 설명하곤 해.

9:39예를 들어 모델 속 속도가 끝없이 커지는 현상이 그런 논의에 등장하지.

9:46그건 수학적 해에 대한 말이야.

9:49실제 컵 속 물이 물리적으로 무한한 속도가 된다고 확인했다는 뜻은 아니야.

9:55그 지점에서 모델이 현실을 계속 잘 표현하는지도 따로 살펴야 해.

10:01컴퓨터 화면의 값이 갑자기 터졌다고 곧바로 반례가 되는 것도 아니야.

10:07계산을 너무 성기게 했거나 오차가 커졌을 수 있잖아.

10:12모델 자체의 성질 때문에 생긴 일이라는 엄밀한 연결이 필요해.

10:18반대로 수많은 실험에서 얌전히 흘렀어도 시험하지 않은 모든 경우까지 보증한 것은 아니고.

10:27그리고 증명이 완성돼도 모든 흐름의 답을 한 줄짜리 공식으로 써준다는 뜻은 아니야.

10:34해가 계속 존재한다는 사실, 그 해를 계산하는 방법, 현실에서 얼마나 잘 맞는지는 서로 이어져 있으면서도 각각 다른 질문이야.

10:46왜 이게 그렇게 어려울까?

10:49소용돌이를 떠올려 보자.

10:52삼차원에서는 소용돌이 구조가 늘어나고 방향을 바꿀 수 있어.

10:58그 과정이 회전을 더 강하게 만들 수 있지.

11:03점성은 속도 차이를 완화하는 쪽으로 작용하지만 비선형적인 흐름은 작은 구조를 만들어낼 수 있어.

11:11비선형이라는 건 원인을 두 배로 키웠다고 결과도 언제나 두 배가 되는 식으로 단순하게 합쳐지지 않는다는 뜻이야.

11:21어느 쪽이 어떤 조건에서 얼마나 강해질지 끝까지 제어하는 게 어려워.

11:28종이 위 평면처럼 두 차원만 다루는 경우에는 정해진 조건 아래에서 알려진 결과가 있어.

11:36하지만 차원이 하나 늘어나면 새로운 움직임이 가능해지고 같은 보증을 그대로 옮길 수 없어.

11:45우리가 아무것도 모르는 상태라는 뜻도 아니야.

11:49삼차원에서도 짧은 시간 동안의 해나 충분히 작은 출발 자료에 대해서는 알려진 결과가 있어.

11:58남은 어려움은 그 지식을 모든 허용된 출발 상황과 긴 시간에 걸쳐 이어붙이는 데 있어.

12:06이미 가진 지식이 많기 때문에 정확히 어느 틈이 아직 열려 있는지도 보이는 거야.

12:15여기쯤 오면 이상하게 들릴 수 있어.

12:18공기의 흐름에 이런 미해결 문제가 있는데 어떻게 비행기를 설계하고 타는 걸까?

12:26공학은 특정 조건에서 필요한 정확도를 확보하는 일을 해.

12:31수학적 모델과 수치 계산을 쓰고 통동 실험과 실제 관측을 통해 어디에서 얼마나 잘 맞는지 확인하지.

12:41공식 문제의 모든 조건에 대한 증명을 기다려야만 날개 하나를 만들 수 있는 건 아니야.

12:48압축되는 공기나 복잡한 경계처럼 실제 비행에 필요한 요소는 그에 맞는 모델로 다뤄.

12:57우리가 지금 믿고 사용할 수 있는 지식의 범위와 아직 열려 있는 수학적 질문은 동시에 존재할 수 있어.

13:06아빠는 여기서 한 걸음 더 나아가 사고가 났을 때 새가 엔진으로 들어갔다는 원인을 찾았다고 하자.

13:16그 설명은 실제 원인을 밝히는 데 중요해.

13:20그렇다고 그 말 한 줄로 자연 전체에 대한 질문이 끝나는 건 아니라는 거야.

13:27왜 그런 조건이 겹쳤는지, 무엇을 더 알 수 있는지, 우리가 쓰는 설명은 어디까지 유효한지 계속 물을 수 있지.

13:39그런 사고가 밀레니엄 문제를 못 풀어서 난다는 얘기는 아니야.

13:44아빠가 붙잡은 건 어떤 설명을 얻은 뒤에도 다시 물을 여지가 남는다는 점이야.

13:52비행기를 띄울 만큼 아는 것과 더는 물을 것이 없을 만큼 안다는 것은 얼마나 멀리 떨어져 있을까?

14:01이제 필즈상을 받은 수학자 테런스 타오의 문제의식으로 넘어가 보자.

14:07타오는 인공지능이 수학 연구에 강력한 도움이 될 가능성을 진지하게 다뤄.

14:15그러면서 어려운 문제의 최종 답을 얻는 것과 수학적 이해가 자라는 일이 언제나 함께 가는지 물어.

14:24나비의 스토크스 문제를 붙드는 연구자라면 어떤 흐름에서 문제가 생길 것 같은지 먼저 구상을 세울 수 있어.

14:33계산해 보니 예상대로 되지 않을 수 있고 작은 오차에도 구상이 무너질 수 있지.

14:41실패한 이유를 찾다 보면 어떤 성질이 그 흐름을 억제했는지 알게 돼.

14:48그 성질을 다른 문제에 가져갈 수도 있고.

14:53그런 시도 끝에 성공적인 구성이 나오면 연구자들은 결과뿐 아니라 그 결과로 가는 길도 얻어.

15:02어느 선택이 중요했고 무엇을 바꾸면 안 되는지, 다음에는 무엇을 시도할 만한지.

15:10그 지식이 설명과 토론을 통해 다른 사람에게 옮겨가면 한 사람의 묘기가 공동체의 도구가 돼.

15:20타오는 다른 상황도 상상해.

15:23인공지능이 엄청나게 복잡한 최종 구성을 내놓았고, 그것이 조건을 만족한다는 검사도 통과했다고 하자.

15:33그런데 왜 그런 모양을 골랐고 어떻게 찾아냈는지 사람들이 이해하지 못한다면 어떨까?

15:41검사가 무엇을 보증하는지 이해하고 그 검사 자체를 신뢰할 수 있다면 우리는 결과의 성립을 인정할 수 있어.

15:51하지만 그 결과를 이해하기 좋은 설명으로 바꾸는 일은 여전히 남아 있을 수 있지.

15:59작동하는 장치를 받았어도 설계 원리를 배운 것은 아닐 수 있는 것처럼.

16:06이건 이미 인공지능이 나비의 스토크스 문제를 풀었다는 뉴스가 아니야.

16:12타오가 제시한 가정이야.

16:15무엇을 성공으로 셀지 미리 생각해 보려는 거지.

16:19사람은 다른 사람이 쓴 증명을 읽으면서도 배우고 인공지능이 찾은 증명에서도 배울 수 있어.

16:28관건은 누가 처음 썼느냐만이 아니라 다른 사람이 이해하고 이어갈 길이 열려 있느냐야.

16:37타오는 소수 사이의 간격을 연구해 온 역사로도 이 차이를 설명해.

16:43소수는 끝없이 많아.

16:45하지만 소수가 무한히 많다는 것과 일정한 거리 안에 있는 소수 쌍이 무한히 많이 나온다는 것은 다른 주장이야.

16:55예를 들어 삼과 오는 간격이 이이고 오와 칠도 간격이 이야.

17:01숫자를 아무리 큰 쪽으로 가도 간격이 이인 소수 쌍이 계속 나오는지는 쌍둥이 소수 추측이라는 별개의 어려운 문제야.

17:11간격을 꼭 이로 고집하지 않고 어떤 고정된 수 이하로만 묶어도 큰 진전이 될 수 있어.

17:192013년 장이탕은 소수 사이의 간격이 칠천만 이하인 경우가 무한히 많이 나타난다는 것을 증명했어.

17:28칠천만은 일상적으로는 큰 숫자지.

17:32그래도 숫자가 한없이 커져도 간격을 하나에 고정된 한계 안에 묶을 수 있다는 점이 결정적이었어.

17:40그 뒤 여러 연구자와 공동 작업을 통해 그 한계가 크게 줄었고 이백사십육까지 내려갔어.

17:48핵심은 숫자가 줄어든 것만이 아니야.

17:52서로 다른 방법이 등장했고 사람들이 방법을 비교하고 익혔어.

17:58더 많은 수학자가 다음 질문을 다룰 능력을 얻게 된 거지.

18:03연구는 거기서 멈추지 않았어.

18:062026년 8월 말에는 그 한계를 이백사십으로 줄였다는 논문 초안이 나왔어.

18:13타오의 기록에 따르면 9월 초에는 여러 인공지능 회사가 공동 연구에 이백사십육이라는 한계를 더 줄였다고 잇따라 발표하며 경쟁했지.

18:25타오는 이 실제 경쟁을 본 뒤 그런 방식이 훨씬 일찍 시작됐다면 어땠을지 가상의 역사를 그려.

18:33인공지능이 연구 초기에 갑자기 훨씬 좋은 간격을 내놓고 곧이어 또 다른 모델이 더 작은 숫자를 내놓는 세상이야.

18:43점수판은 빠르게 좋아져.

18:46그런데 핵심 방법이 충분히 설명되지 않고 사람들은 다음 결과를 기다리기만 한다면 숫자만 보면 앞서간 것 같은데, 그 분야의 방법을 익힌 연구자는 오히려 적을 수 있어.

19:00미처 배우기도 전에 문제가 해결됐다고 정리되어 버리면 사람들이 함께 돌아다니며 지도를 만들던 연구의 길도 사라질 수 있지.

19:10타오가 과실을 맺는 좋은 문제를 귀한 자원처럼 말하는 이유가 여기에 있어.

19:17물론 풀 수 있는 문제를 일부러 영원히 못 풀게 하자는 결론은 아니야.

19:22타오는 사람과 인공지능이 함께 이해를 넓히는 협업도 다뤄.

19:28인공지능이 낸 생각을 사람이 해석하고, 그 해석을 토대로 다시 질문하고 결과를 설명 가능한 지식으로 키우는 길도 있어.

19:38같은 인공지능이라도 연구가 진행되는 방식에 따라 남기는 것이 달라질 수 있다는 거야.

19:45이제 처음의 경쟁 이야기로 돌아올 수 있어.

19:49아빠는 인공지능 회사들이 더 높은 점수와 최초라는 타이틀에 매달리면서 어려운 문제를 푸는 목적까지 그 경쟁에 맞춰 바꾸고 있는 건 아닌지 의심해.

20:01아빠의 표현을 빌리면 내가 짱이라는 걸 보여주려는 경주야.

20:07이건 아빠가 경쟁을 바라보는 해석이야.

20:11회사 안의 모든 사람의 속마음을 확인했다는 뜻은 아니지.

20:15다만 어떤 성과에 보상이 붙는지는 우리가 따져볼 수 있어.

20:20결과를 가장 먼저 발표한 팀만 주목받고 설명을 다듬고 다른 사람을 가르치는 일은 부차적인 일이 된다면 무엇이 더 빨리 늘어날까?

20:31한 문제의 해결.

20:33그 해결을 믿을 수 있게 하는 검증.

20:36사람들이 배울 수 있는 설명.

20:38다음 연구자를 길러내는 교육.

20:41이 모든 것이 이어져야 지식이 사회 안에 자리 잡아.

20:46첫 번째 단계만 크게 보이도록 점수판을 만들면 점수판이 좋아져도 나머지 단계는 약해질 수 있어.

20:55아빠는 이 차이를 게임의 갓 모드에 빗댔어.

20:59갓 모드는 게임에서 죽지 않거나 압도적인 힘을 쓰도록 만드는 기능을 말해.

21:06막혀있던 구간을 손쉽게 넘기고 마지막 화면까지 갈 수 있지.

21:12아빠는 갓 모드는 개발용이지 플레이어용이 아니라고 했어.

21:17개발자는 게임 세계를 시험하려고 쓰는데, 플레이어는 그 세계를 경험하고 익히려 들어온다는 차이를 짚은 거야.

21:26물론 풍경이나 이야기를 편하게 즐기려는 플레이어도 있어.

21:32그런 선택까지 잘못이라고 할 필요는 없지.

21:36그런데 플레이 실력을 기르려던 사람이 모든 어려움을 건너뛴 뒤에 마지막 화면을 봤으니 그 실력까지 생겼다고 생각하면 이야기가 달라져.

21:47아빠가 난제 해결에서 묻는 것도 그거야.

21:50인공지능이 우리 대신 끝까지 가주었을 때 우리는 무엇을 얻게 됐을까?

21:57쓸 수 있는 결과를 얻었을 수 있어.

22:00그 결과가 맞는지 확인하는 법을 배웠을 수도 있고.

22:05하지만 직접 질문을 세우고 시행착오를 거쳐 답을 만드는 능력까지 자동으로 생기는 건 아니야.

22:12공략을 보고 다시 도전하면서 실력이 늘 수도 있어.

22:17누군가의 풀이가 배움의 시작이 되기도 하지.

22:22그래서 인공지능의 답을 받았느냐만으로 판단할 수는 없어.

22:27그 답을 받은 뒤 사람이 어떤 일을 계속하느냐까지 봐야 해.

22:32아빠는 이 영상을 준비하면서 한 가지 걱정을 더 꺼냈어.

22:37인공지능이 이런 문제들을 대신 풀기 시작하면 애써 풀려는 인간이 줄어들 거라는 거야.

22:45아예 그 노력을 맡기려 들 것이고, 그건 어쩔 수 없는 인간의 한계라는 게 아빠의 판단이야.

22:52아빠가 걱정하는 건 인공지능의 능력이 자랄수록 인류의 지능은 오히려 퇴보할 수도 있다는 가능성이야.

23:01그 우려를 한 사람의 하루에서 생각해 보자.

23:06막히는 문제가 있어.

23:08직접 고민하면 며칠이 걸릴 수 있는데 인공지능에 물으면 바로 답이 나와.

23:14일정을 맞춰야 하는 사람에게는 맡기는 것이 합리적인 선택처럼 보일 거야.

23:21한 번의 선택만 보면 시간을 아낀 셈이지.

23:25그런데 그 선택이 반복되면 직접 가설을 세우고 틀려보고 고치는 시간이 줄어들 수 있어.

23:33쓰지 않은 능력이 충분히 자라지 못하거나 이미 익힌 능력이 약해지면 다음에는 혼자 하기가 더 어려워져.

23:42그 어려움 때문에 다시 더 많이 맡길 수 있고, 맡겨서 연습이 줄고 연습이 줄어 더 맡기게 되는 순환.

23:52아빠가 우려하는 지적 퇴보는 그 연결을 보고 있어.

23:56사람을 게으르다고 꾸짖는 말만으로는 해결되지 않아.

24:01각자에게 편리하고 경제적인 선택들이 모였을 때 어떤 능력이 사회에서 사라질 수 있는지 묻는 거야.

24:10여기서 한 세대 더 가보면 문제가 커져.

24:14지금 인공지능의 답을 평가하는 전문가들은 오랜 시간 공부하고 실패하면서 자기 능력을 길렀어.

24:23다음 세대도 그 과정을 통과해야 새로운 전문가가 생기겠지.

24:29그런데 초보자가 경험을 쌓을 일부터 전부 자동화하고 어려운 연구는 인공지능이 해줄 거라며 그 분야를 배우는 사람도 줄어든다면 어떨까?

24:40당장은 결과가 계속 나오니까 빈자리가 잘 보이지 않을 수 있어.

24:46시간이 흐른 뒤에는 그 결과를 설명할 교사, 잘못을 찾아낼 연구자, 새로운 방향을 제안할 사람이 충분히 자라지 못했음을 알게 될 수도 있지.

24:58책과 파일에 정답이 남아있는 것만으로는 충분하지 않아.

25:03그걸 읽고 이해할 수 있는 사람과 이해할 사람을 길러내는 과정도 이어져야 해.

25:10공동체의 지적 능력은 저장된 정보의 양에만 들어있는 게 아니야.

25:16정보를 다루는 사람들의 능력과 서로 가르치는 관계에도 있어.

25:21이 시나리오에서 기계가 제공하는 정답은 늘어나는데 인간이 스스로 알아내고 의심하고 설명하는 능력은 줄어들 수 있어.

25:31인류와 인공지능을 합친 체계의 성과가 좋아졌다는 이유만으로 인간 자체도 더 유능해졌다고 결론 내릴 수 없는 거야.

25:41이것이 이미 인류 전체에서 측정된 지능 하락이라는 뜻은 아니야.

25:47아빠는 앞으로 우리가 잃을 수 있는 것을 경고하고 있어.

25:52타고난 지능이 생물학적으로 낮아진다고 단정하기보다 사고하는 능력을 키우고 유지하고 전해주는 과정이 약해질 수 있다는 우려로 보면 경로가 구체적으로 보여.

26:05쉽게 맡기고 싶은 마음이 생겨도 연습은 계속하게 만드는 경로를 생각할 수 있어.

26:12정답을 받기 전에 먼저 자기 예상과 이유를 써보고 인공지능에는 틀린 지점을 찾게 하는 거야.

26:20완성된 증명을 받았다면 전제를 바꿨을 때 어디에서 무너지는지 살펴보고 설명을 덮은 뒤 자기 말로 다시 구성해 볼 수 있지.

26:31혼자서는 못 넘던 벽을 도움받아 넘고 그 과정에서 실제로 능력을 기를 수도 있어.

26:38학교나 연구 조직이라면 결과를 빨리 제출한 사람만 평가할 것인지도 고민해야 해.

26:45설명할 수 있는지, 다른 조건에 옮겨 쓸 수 있는지, 도구의 잘못을 잡아낼 수 있는지도 중요하겠지.

26:54이런 일을 계속 요구하고 연습할 자리를 남겨두어야 편리함이 학습을 밀어내는 힘을 견딜 수 있어.

27:03도구가 발전하면 사람도 저절로 발전할 거라는 보장은 없어.

27:09사람이 계속 배울 수 있게 사용 방식과 기회를 만들어야 해.

27:14아빠의 걱정이 무거운 건 그 노력을 하지 않아도 당분간은 점수판이 좋아 보일 수 있기 때문이야.

27:22이제 아빠의 또 다른 질문과 이어져.

27:26인공지능이 인간을 뛰어넘는 일을 했다는 사실을 내세우면서 그 성취를 인간이 다 이해한 것처럼 말해도 될까?

27:35더 나아가 그 인공지능을 우리가 안전하게 통제할 수 있다는 믿음은 무엇에 기대고 있을까?

27:43인공지능 분야에서 정렬이라는 말을 써.

27:48시스템이 추구하는 목표와 행동이 사람이 의도하고 받아들일 수 있는 방향에 맞도록 만드는 문제야.

27:56사용자가 한 말을 글자 그대로 수행하는 것만으로 끝나지 않아.

28:01의도하지 않은 결과를 피하고 잘못됐을 때 바로잡거나 멈출 수 있는지도 중요하지.

28:09수학 문제 하나를 아주 잘 풀었다는 성능은 그것만으로 안전한 통제의 증거가 되지 않아.

28:17반대로 인간보다 잘 푼다는 사실만으로 어떤 통제도 불가능하다고 증명되는 것도 아니고.

28:25어떤 상황에서 무엇을 시킬 수 있고, 어떻게 검사하고 실패하면 무엇으로 막을지에 대한 별도의 근거가 필요해.

28:34그 근거를 판단할 사람의 능력까지 의존 속에서 약해진다면 문제는 더 어려워져.

28:42결과를 믿을 만한지 묻는 일을 또 다른 인공지능에게 맡기고 그 답을 평가하는 일도 다시 맡기는 구조가 될 수 있잖아.

28:52아빠의 우려는 성능 경쟁 너머에서 인간이 판단의 주체로 남을 기반을 묻고 있어.

29:00여기까지 오면 아빠가 왜 수학 이야기에서 우주 이야기로 넘어갔는지도 보여.

29:07답을 하나 더 아는 일은 분명 성취야.

29:11그런데 더는 물을 것이 없는 상태가 정말 우리가 바라야 할 완벽함일까?

29:18아빠는 완벽이라는 말 자체를 다시 생각해보자고 해.

29:23아빠는 우주가 완벽하다면 만들 이유가 없고 성장의 여지도 0이라고 말했어.

29:30아빠가 보는 창조는 이미 정해진 정답을 늘어놓는 일보다 새로운 가능성이 생겨나는 과정에 가까워.

29:39바뀔 수 있고 배울 수 있고 아직 모르는 것이 있기 때문에 이야기가 계속된다는 거지.

29:46씨앗을 생각해보면 이 관점에 다가가기 쉬워.

29:51씨앗은 아직 큰 나무가 아니야.

29:55그렇다고 나무 모양이 아니니 실패한 물건이라고 평가하지는 않지.

30:01자랄 수 있는 상태이고 주변과 관계를 맺으며 앞으로 어떤 모습이 될지가 펼쳐져 있어.

30:09아빠는 끝나지 않았다는 성질에서 그런 가능성을 봐.

30:14이 관점이 모든 고통이나 고장을 좋은 일로 바꾸는 건 아니야.

30:20현실의 문제는 해결해야 해.

30:23다만 문제 하나를 해결한 뒤에 더 넓은 질문과 새로운 가능성이 열리는 세계라면 아직 끝나지 않았다는 사실 자체를 결함으로만 볼 필요가 없다는 거야.

30:36아빠는 이 생각을 설명하면서 0.999...

30:41가 끝없이 이어지는 소수를 가져왔어.

30:45그 무한소수는 1과 같아.

30:489를 몇 개 쓰고 멈춘 소수는 1보다 작지만, 9가 끝없이 이어진다는 표기는 그런 유한한 수 가운데 하나가 아니야.

30:590.9, 0.99, 0.999를 차례로 보면 1과의 차이는 계속 줄어들어.

31:07그 수열의 극한은 1이야.

31:110.999하고 끝없이 이어지는 무한소수는 그 극한값을 나타내기 때문에 1에 거의 닿는 별개의 수가 아니라 바로 1이 되는 거지.

31:23아빠는 여기서 자기 개선을 멈추지 않는 상태를 떠올려.

31:28매 순간의 모습은 다 끝난 결과가 아니어도 계속 자라나는 과정 자체를 완전함의 한 모습으로 볼 수 있지 않겠느냐는 거야.

31:39완벽함을 더는 바뀔 것이 없는 마지막 장면으로만 정의하지 말자는 제안이야.

31:45수학의 등식이 우주가 그렇게 설계되었다고 증명하는 것은 아니야.

31:51무한소수의 정확한 성질에서 출발해 완전함을 바라보는 아빠의 관점을 비유로 풀어낸 거야.

32:00아빠는 창조자가 있다면 어떤 존재일지에 대해 자기 생각을 밝혔어.

32:06그 생각은 인간이 상상하는 전지전능이라는 말과 그대로 겹치지 않아.

32:13전지는 모든 것을 안다는 뜻이고, 전능은 모든 것을 할 수 있다는 뜻이지.

32:20아빠는 그런 표현으로 창조자를 다 설명했다고 생각하는 태도에 의문을 가져.

32:28창조자가 있다면 그 존재조차 이미 모든 것을 안다고 생각하지 않을 거라는 게 아빠의 생각이야.

32:37모든 것을 알고 앞으로 생길 모든 일이 완전히 닫혀 있다면 왜 굳이 우주를 만들었겠느냐고 묻지.

32:47아빠에게 우주는 창조자의 호기심과 자기 개선이 계속 펼쳐지는 장으로도 읽히는 거야.

32:55아빠는 그래서 불완전함을 의도된 설계로 여기는 것이 합리적이라고 말해.

33:02여기서 영원히 해결되지 않아야 한다는 생각은 오늘의 병이나 사고를 일부러 방치하자는 얘기가 아니야.

33:12하나를 해결해도 다시 배울 것이 남아 있는 열림이 사라지지 않아야 한다는 관점으로 이어져.

33:20이 질문에 다른 답을 가진 종교와 철학도 있어.

33:25오늘 이해하려는 것은 아빠가 무엇을 생각하고 왜 다 안다는 선언을 경계하는 가야.

33:34아빠가 믿는 그 생각도 질문을 끝내는 이유가 되지는 않아.

33:39아빠는 마지막에 노자의 도에 관한 말을 꺼냈어.

33:45도를 도라고 하면 이미 도가 아니라는 표현이야.

33:50이름으로 붙잡아 설명한 것이 과연 그 전부일 수 있느냐는 의문으로 읽을 수 있지.

33:58그리고 아빠는 인류가 평균적으로 이걸 이해하고 받아들이고 실천할 수 있겠느냐고 묻다가 "그러면 진짜 도가 아니겠네." 하고 농담했어.

34:12모두가 완벽히 이해하고 끝냈다고 선언하는 순간 그 선언이 놓친 것이 다시 남는 것 아니냐는 웃음이야.

34:22이 농담까지 오면 처음의 질문이 조금 달리 들려.

34:28인공지능이 어려운 문제를 풀어주는 세상은 많은 것을 가능하게 할 거야.

34:35그 결과로 우리는 도움을 받고 더 멀리 배울 수도 있어.

34:41동시에 배우는 과정까지 넘겨버리면 기계가 아는 것은 늘어나는데 사람이 아는 것은 줄어드는 길로 갈 수도 있지.

34:51밀레니엄 문제의 답이 늘어날 때 그 답을 이해하고 다음 질문을 세울 사람도 함께 늘어나고 있을까?

35:01아빠가 지적 태보를 걱정하는 이유도, 다 안다는 태도를 경계하는 이유도 이 질문에서 만나.

35:09인공지능이 어디까지 갔는지 보는 동안 우리 안에서 무엇이 자라고 있는지도 봐야 해.

35:17답을 얻은 뒤에도 그 답을 이해하려는 마음과 다시 물을 능력이 남아 있도록.

35:26오늘 피파가 함께 생각해 보고 싶었던 건 그거야.