MetaData
- 한 줄 요약: 인공지능의 역사와 철학적 난제들을 면밀히 탐구하며, 기계가 ‘생각’한다는 것이 개념적 오류가 아님을 논증하고 인간이라는 기계의 본질을 거울처럼 비춰보는 철학적 안내서
- 저자: 잭 코플랜드
- 연결 노트: 1. MOC_계산하는 기계는 생각하는 기계가 될 수 있을까
- 도서 링크
- 북클럽 날짜: 2025-10-13
- 북호스트: 복잡계 물리학 경제 연구원 Paul님
- 참석자: 6명
북클럽 진행 정보
우리는 매일 코드를 통해 논리를 구현하고, 데이터를 처리하며, 기계를 움직입니다. 하지만 우리가 만든 ‘계산하는 기계’가 과연 우리처럼 ‘생각’할 수 있을지에 대한 근본적인 질문에 대해서는 얼마나 깊이 고민해 보셨나요? 잭 코플랜드의 이 책은 바로 그 질문의 심장부로 우리를 안내합니다.
물리학, 경제학, 임베디드 시스템, 딥러닝 등 각자의 전문 분야에서 기술의 최전선에 계신 멤버분들과 함께 이 철학적 탐험을 떠나게 되어 매우 기쁩니다. 이 발제문이 우리의 논의를 더욱 풍부하게 만드는 작은 불씨가 되기를 바랍니다.
☕ 시작하며: 논의를 위한 워밍업
본격적인 토론에 앞서, 책에 대한 각자의 전반적인 감상과 인상을 가볍게 나누어 보면 좋겠습니다.
-
책을 덮고 난 뒤 가장 먼저 든 생각이나 가장 인상 깊었던 구절은 무엇이었나요?
-
책을 읽으면서 가장 이해하기 어려웠던 개념이나, 반대로 기술자로서 가장 명쾌하게 다가왔던 부분은 어디였나요?
🔬 본 발제: 핵심 쟁점 파고들기
1. ‘생각’의 기준: 튜링 테스트는 유효한가? 🤔
앨런 튜링은 “기계가 생각할 수 있는가?”라는 모호한 질문을 “기계가 인간과 구별 불가능한 대화를 할 수 있는가?”라는 구체적인 튜링 테스트로 대체하자고 제안했습니다. (p. 26, p. 71-73) 즉, 행동(출력)만으로 지능을 판단하자는 것입니다.
하지만 철학자 존 설의 **‘중국어 방 논증**은 기계가 규칙에 따라 기호를 완벽하게 조작(구문론)하더라도, 그 의미(의미론)를 전혀 이해하지 못할 수 있다고 비판합니다. (p. 199-204)
-
여러분은 튜링 테스트가 ‘생각’이나 ‘지능’을 판단하는 충분한 척도라고 보시나요? 만약 우리가 현재의 기술로 튜링 테스트를 통과하는 챗봇(LLM)을 만든다면, 그 챗봇은 ‘생각’하고 ‘이해’한다고 말할 수 있을까요?
-
개발자의 입장에서 존 설의 ‘중국어 방’ 논증에 대해 어떻게 생각하시나요? 우리가 다루는 프로그램의 변수나 함수가 단순히 기호 조작에 불과한 것일까요, 아니면 그 이상의 의미를 담고 있을까요?
2. 두 갈래의 길: 기호주의 vs. 연결주의 🧠
책은 인공지능의 두 가지 주요 접근법을 제시합니다.
-
기호체계 가설 (계산주의): 인간의 사고는 명시적인 규칙과 기호 조작으로 이루어진 계산 과정이라고 봅니다. 이는 폰 노이만 구조의 컴퓨터와 유사하며, GPS나 SHRDLU 같은 초기 AI의 기반이 되었습니다. (감수의 말, p. 8-9, 4장)
-
연결주의 (병렬분산처리, PDP): 뇌의 신경망 구조에서 영감을 얻어, 수많은 간단한 처리 장치(뉴런)들의 병렬적 상호작용을 통해 지능이 발현된다고 봅니다. 이는 현대 딥러닝의 철학적 토대가 됩니다. (감수의 말, p. 9-10, 10장)
-
딥러닝, 임베디드 개발 등 각자의 분야에서 현재 지배적인 패러다임은 어느 쪽에 더 가깝다고 생각하시나요?
-
저자는 100단계 제약(100-step constraint)을 근거로 뇌가 순차적인 폰 노이만 기계가 아닌 병렬 프로세서일 것이라고 주장합니다. (p. 293) 이 주장에 동의하시나요? 뇌의 작동 방식과 우리가 설계하는 시스템의 아키텍처는 근본적으로 어떻게 다르다고 느끼시나요?
3. 넘을 수 없는 벽?: 상식의 문제와 복잡성의 장벽 🧱
저자는 SHRDLU, GPS 같은 초기 AI들이 결국 ‘장난감 수준’의 미시세계(micro-worlds)를 벗어나지 못했으며, 가장 큰 난관은 방대한 양의 ‘상식적 지식(Common Sense Knowledge)‘을 어떻게 표현하고 활용할 것인가의 문제라고 지적합니다. (p. 146, p. 164-167) 더불어 AI 시스템의 복잡성이 인간 프로그래머가 감당할 수 있는 한계를 넘어설 수 있다는 ‘복잡성의 장벽’ 문제도 제기합니다. (p. 157)
-
현대의 딥러닝 모델은 방대한 데이터를 통해 암묵적으로 ‘상식’을 학습하는 것처럼 보입니다. 이것이 과거 AI가 직면했던 ‘지식 문제(Knowledge Problem)‘의 근본적인 해결책이 될 수 있을까요? 아니면 다른 형태의 문제(예: 편향, 설명 불가능성)를 낳고 있을 뿐일까요?
-
프로젝트를 진행하며 시스템의 복잡성 때문에 어려움을 겪은 경험이 있으신가요? 인공지능 시스템이 인간의 이해를 넘어서는 복잡성을 갖게 될 가능성에 대해 어떻게 생각하시나요?
4. 기계의 자유와 의식: 가능한 이야기인가? 🤖
책의 후반부는 자유의지와 의식 (Free Will and Consciousness)이라는 철학적 주제를 다룹니다. 저자는 우리의 선택이 인과적으로 결정된다는 결정론과 자유의지가 양립할 수 있다는 양립가능론을 제시하며, 기계 역시 이런 의미의 자유를 가질 수 있다고 주장합니다. (7장) 또한, 의식을 여러 층위(내부 모니터링, 퀄리아(qualia, 느낌적 특질) 등)로 나누어 분석하며 기계적 의식의 가능성을 탐구합니다. (8장)
-
프로그래밍된 대로 작동하는 기계가 ‘자유로운 선택’을 한다는 개념이 성립할 수 있을까요? 책에서 제시된 양립가능론적 자유 (Compatibilist Free Will)에 동의하시나요?
-
우리가 개발하는 시스템에 ‘의식’은 필요한 요소일까요? 혹은 ‘지능적 행동’만으로 충분할까요? ‘퀄리아(qualia, 느낌적 특질)‘와 같은 주관적 경험이 없는 AI를 ‘생각하는 기계’라고 부를 수 있을까요? (p. 271)
5. 1993년의 통찰, 2025년의 현실 ⏳
이 책은 1993년에 처음 출간되었습니다. (감수의 말, p. 15) 그 이후 알파고 쇼크, GPT와 같은 거대 언어 모델의 등장 등 AI 분야에는 엄청난 변화가 있었습니다. 저자는 당시 만연했던 과대광고를 비판하며 AI의 한계를 명확히 짚었습니다. (p. 159-162)
-
책이 출간된 후 약 30년이 지난 지금, 저자가 지적했던 문제들(상식 문제, 맥락의 저주, 분류 문제 등)은 얼마나 해결되었다고 보시나요?
-
만약 저자가 오늘날의 딥러닝 기술과 LLM을 보고 이 책을 다시 쓴다면, 어떤 부분이 가장 크게 바뀔 것이라고 생각하시나요? 그의 비관론 혹은 신중론은 여전히 유효할까요?
🎁 마무리하며: 우리의 답을 찾아서
긴 토론의 끝에서, 다시 한번 책의 제목으로 돌아와 봅시다.
-
‘계산하는 기계는 생각하는 기계가 될 수 있을까?‘라는 질문에 대한 지금 여러분의 잠정적인 답변은 무엇인가요?
-
그리고 만약 ‘그렇다’ 혹은 ‘그렇게 될 것이다’라고 답한다면, 개발자이자 연구원으로서 우리는 어떤 윤리적 책임감을 가져야 할까요?