정의

지능은 분산된 신경망의 병렬 처리에서 비롯된다 (연결주의/PDP)

인간의 정신 활동은 중앙 처리 장치가 명시적인 규칙에 따라 기호를 다루는 과정이 아니다. 오히려, 뇌의 뉴런처럼 수많은 단순한 처리 단위들이 서로 병렬적으로 연결된 거대한 네트워크 안에서 동시에 정보를 처리한 결과로 나타나는 현상이다.

이 접근법에서 ‘지식’이나 ‘규칙’은 특정 위치에 저장되지 않는다. 대신, 네트워크 전체에 걸쳐 있는 각 연결의 강도(가중치) 패턴 속에 ‘분산’되어 존재한다. 학습은 외부 데이터(경험)에 따라 이 연결 가중치를 미세하게 조정하여, 네트워크가 점차 유용한 패턴을 스스로 형성해 나가는 과정이다. 이는 기호주의처럼 규칙을 직접 프로그래밍하는 것이 아니라, 시스템이 데이터로부터 귀납적으로 배우게 하는 방식이다.

출처: 잭 코플랜드, 발제문_계산하는 기계는 생각하는 기계가 될 수 있을까 (감수의 말, 10장)


Tags: #연결주의 PDP 신경망 딥러닝 분산표상 병렬처리

연결 노트: 

  • 대립하는 패러다임: 기호체계 가설 (계산주의) - 지능을 중앙화된 순차적 기호 처리로 봄.

  • 생물학적 근거: 100단계 제약 - 뇌의 빠른 반응 속도는 순차 처리가 아닌 대규모 병렬 처리를 통해 가능하다는 주장.

  • 현대적 구현: 오늘날의 인공신경망(ANN)과 딥러닝 모델의 기본 철학.