이 글은 무엇인가
2005년에 나온 레이 커즈와일의 ‘A Singularity Q + A’는 저자가 자기 책의 주장을 스스로 묻고 답하는 형식으로 풀어낸 글이에요. 회의적인 가상의 질문자가 계속 딴지를 걸고, 커즈와일이 하나씩 받아치는 구성이죠. 여기서 주의할 점은 글이 2005년 기준으로 쓰였다는 거예요. “이 10년이 끝날 무렵”, “금세기 안” 같은 표현은 전부 2005년을 출발점으로 읽어야 합니다.
핵심 숫자는 세 가지예요. 특이점의 해는 2045년, 그해 기계 지능은 오늘날 인류 전체 지능을 합친 것의 10억 배, 그리고 21세기 전체 진보량은 2000년 속도로 환산해 약 2만 년치라는 겁니다.
특이점의 정의
커즈와일은 나노 로봇이 몸과 뇌에 들어가고 수명이 늘고 가상현실이 실현되는 단계는 특이점이 아니라 ‘전조’라고 선을 그어요. 진짜 특이점은 비생물학적 지능이 자기 설계도에 접근해 스스로를 개선하기 시작할 때 온다고 봅니다. 재설계 주기가 점점 짧아지면서 향상되지 않은 인간 지능으로는 따라갈 수 없는 지점이죠.
‘특이점’이라는 이름은 물리학에서 빌려왔어요. 블랙홀의 사건의 지평선 너머를 우리가 볼 수 없듯, 특이점 이후도 지금의 생물학적 두뇌로는 제대로 그릴 수 없다는 의미입니다.
하드웨어와 소프트웨어
인간 두뇌 수준을 내려면 초당 약 1경(10^16) 회 연산이 필요하다고 봐요. 하드웨어는 시간이 해결한다는 입장이고, 실제 논쟁은 소프트웨어, 즉 알고리즘 쪽으로 옮겨갔다고 말합니다. 그 해법은 뇌의 역설계예요. 뇌 스캔 해상도가 매년 두 배씩 좋아지고 있으니, 2020년대 중반이면 뇌 전체의 상세 모델이 나온다는 예측이죠.
다만 특정 개인의 뇌를 그대로 복사하는 게 아니라, 거기서 얻은 원리로 인간 지능에 필적하는 시스템을 만드는 게 목표라고 설명합니다.
왜 예측이 가능하다는 걸까
이 글에서 가장 흥미로운 논리는 예측에 관한 부분이에요. 커즈와일은 특정 프로젝트나 어느 기술 표준이 이길지는 예측 불가능하다고 인정해요. 그런데도 기술 전체의 곡선은 믿을 만하게 내다볼 수 있다고 주장합니다.
비유는 기체예요. 분자 하나의 경로는 예측 못 해도, 무수한 분자로 이뤄진 기체 전체의 성질은 열역학 법칙으로 신뢰성 있게 예측할 수 있다는 거죠. 예측 불가능한 사건이 아주 많이 얽히면 오히려 매끄러운 결과가 나온다는 게 그가 말하는 수확 가속의 법칙입니다.
GNR: 세 가지 혁명
수명 연장과 능력 확장을 가져올 축으로 세 가지를 듭니다.
- 유전학(Genetics): RNA 간섭, 유전자 치료, 치료적 복제 등으로 질병 극복과 노화 지연. 2010년대에 정점.
- 나노기술(Nanotechnology): 혈구 크기 로봇이 병원체를 파괴하고 노화를 되돌림. 2020년대 성숙.
- 로봇공학(Robotics): 사실상 인간 수준의 강한 AI. 2020년대 말 하드웨어·소프트웨어 완비.
이 세 축은 서로 겹치며 이어진다고 봐요.
위험과 방어
커즈와일은 이 기술들이 심각한 위험을 함께 안고 온다고 인정합니다. 특히 생물 테러용 인공 바이러스는 이미 현실적 위협이라고 봐요. 그렇다고 개발을 포기하면 방어 도구도 사라지고 개발이 지하로 숨어 위험이 오히려 커진다는 논리입니다. 해법은 방어 기술에 투자하는 것, 나쁜 나노봇을 막을 좋은 나노봇 같은 ‘면역계’예요.
다만 강한 AI에 이르면 논조가 바뀝니다. 병적인 AI에는 순수한 기술적 방어책이 통하지 않는다고 인정하면서, 최종 답을 기술이 아니라 가치에서 찾아요. AI는 우리 사회 안에서 태어나 우리의 가치를 반영하니, 자유·관용·다양성 같은 가치를 지금 키우는 게 최선의 방어라는 겁니다.
신과 인간
마지막 대목에서 그는 진화 자체를 영적인 과정으로 봅니다. 전통 종교의 신이 지닌 무한한 지능·지식·사랑이라는 속성을 향해 진화가 기하급수적으로 나아가되 결코 완전히 도달하지는 못한다고 말해요. “신 노릇을 하려는 거냐”는 질문에는 “인간 노릇을 하려는 것”, 즉 문제를 푸는 일을 하려는 것이라고 답합니다.
짧은 생각
2005년 글을 2024년 시점에서 다시 읽으면 재미있는 점이 두 가지예요. 하나는 LLM의 폭발적 발전이 커즈와일의 곡선 논리에 힘을 실어주는 부분이고, 다른 하나는 여전히 그의 특정 시점 예측(2020년대 말 강한 AI 등)이 검증되지 않았다는 점입니다. 개인적으로 가장 곱씹을 만한 대목은 ‘기체의 열역학’ 비유예요. 개별 예측 실패를 인정하면서 전체 곡선의 예측 가능성을 주장하는 이 논법은, 반증하기가 묘하게 어렵다는 게 약점이자 강점이죠. 정말 지켜봐야 할 건 그가 강한 AI의 방어를 기술이 아니라 사회적 가치에 맡긴 부분이라고 봐요. 오늘날 AI 정렬 논의가 결국 ‘어떤 가치를 심을 것인가’로 수렴하고 있다는 점에서, 20년 전 이 진단은 의외로 정확한 지점을 짚었습니다.