정의
규칙에 따른 기호 조작은 ‘이해’를 의미하지 않는다 (중국어 방 논증)
중국어를 전혀 모르는 사람이 방 안에 갇혀 있다고 상상해 보자. 그에게는 중국어 질문에 완벽하게 대응되는 답변을 찾을 수 있는 정교한 규칙 책(프로그램)이 주어진다. 방 밖의 사람들은 그가 중국어를 완벽하게 이해한다고 생각하겠지만, 방 안의 그는 기호의 ‘의미’를 전혀 이해하지 못한 채 단지 규칙에 따라 기호를 조작하고 있을 뿐이다.
이 사고 실험은 컴퓨터가 튜링 테스트를 통과하더라도(즉, 구문론적으로 완벽한 응답을 생성하더라도), 그것이 진정한 ‘이해’나 ‘의식’과 같은 의미론적 내용을 가지고 있다는 것을 보장하지 않음을 보여준다. 즉, 성공적인 계산(computation)이 곧 인지(cognition)는 아니다. 이는 ‘생각은 계산’이라는 강한 AI(Strong AI) 주장에 대한 핵심적인 반론으로 작용한다.
출처: 잭 코플랜드, 발제문_계산하는 기계는 생각하는 기계가 될 수 있을까 (p. 199-204)
태그: 중국어방 존설 강한AI 이해 의미론 구문론 의식
연결:
-
비판하는 대상: 기호체계 가설 (계산주의) - 이 가설이 간과하는 ‘의미’의 문제를 정면으로 지적함.
-
공격하는 기준: 튜링 테스트 - 행동적 결과만으로 내면의 이해를 판단할 수 없음을 논증함.