데넷과 인공지능 : 어떤 면에서 같은 편인가?

요릭 윌크스(Yoric Wilks) : 영국 셰필드 대학 컴퓨터공학 교수

다니엘 데넷 : Andrew Brook. Don Ross 지음, 석봉래 옮김, 몸과 마음, 2002 (원서 : Daniel Dennett, Cambridge University Press, 2001), page 361~395 

1. 서론

2. 인공지능의 본질과 기능

  1) 단원성

  2) 실현 독립성

3. 데넷의 입장

  1) 의식

  2) 복수 초안 모델과 스택 (임시 거치대 혹은 임시 기억)

  3) 가상기계

4. 상호 영향

  1) 철학적 논점

  2) 공학적 문제

5. 인지과학의 신기한 입장

1. 서론

20여 년 전 나는 네덜란드 해변 어느 곳의 한 연구소에서 열린 회의에서 인공지능 분야의 저명한 학자들 및 친구들과 더불어 데넷의 발표를 듣고 있었다. 발표가 끝나고 내가 손을 들어 질문하려고 할 때, 내 친구는 옆구리를 찌르면서 "그 사람 공격하지 마, 그는 우리편이야" 라고 속삭엿다.

이후 나는 친구의 이 말을 내내 머리에 새겼으며 어느 정도까지 데넷이 우리편인지 궁금해했다. 그 당시 나에게 우리편이라는 말은 일반적인 인공지능 연구, 즉 기계 기능으로 인가의 정신 기능을 이해하고 설명하는 연구에 경도된 철학자를 의미하는 것이었다. 물론 철학자들은 보통 그들 자신의 편이지 어떤 사람의 편도 아니다. 과학적 혹은 공학적 형태를 띠는 활동에 대한 철학자들의 모든 비판적 입장은 순수하게 개인적인 것이거나 그들 자신의 목적 달성을 위한 것일 뿐이다.

데넷의 연구 목적은 복합적이며 시간이 지나면서 변화했다. 특히 최근 인공지능, 연결주의, 진화계산론 그리고 인공생명 분야의 발전과 쉽게 연결되는 다윈 (Dennett, 1995) 에 대한 데넷의 증가하는 관심은 그런 특징을 잘 보여주고 있다. 그러나 나는 데넷 자신이 GOFAI (Good Old-Fashioned AI, 옛날식 인공지능) 라고 한 것에 대해 분명하고 확실한 관심을 보여주엇던 시기에 관해서만 나의 논의를 국한하겠다. 내 친구가 네덜란드에서 생각했던 것은 다음의 두 가지라고 나는 생각한다.

(1) 인간 행위의 통속심리학적 설명에 대한 데넷의 일반적인 승인은 인공지능 연구와 적어도 양립 가능하다. 인간 행위 설명과 모델화의 이차적 목적을 지닌 기계 모델을 추구하는 기호적 인공지능 (즉 전-연결론, 인공생명적 인공지능) 은 그 설명 단계와 양식에서 통속심리학과 일치한다.

(2) 의식과 같은 정신현상들에 대한 데넷의 논의에서 나타나는 흐름도나 과정에 대한 설명은, 정신 기능에 대한 설명에서 그도 역시 모종의 인공지능의 비유 또는 기계적 비유의 목적을 이해하고 승인했음을 보여준다.

적어도 약한 의미의 정합성으로 본다면 나는 첫 번째 지적이 옳다고 믿는다. 첫 번째 것은, 정신현상에 대한 설명은 궁극적으로는 생리학적이어야 하며 두뇌를 포함하는 것이라고 주장하는 사람들의 (Churchland and Ramachandran, 1993) 입장과 전혀 다른 것이다. 하지만 인공지능 연구가들은 (아래에서 보게 되겠지만) 자신의 전문적 활동과는 관계없이 후자의 주장에 동조할 수도 있다. 내 친구가 확실히 첨가했을 세 번째 공통점은, 아무 관심도 없지만 두뇌 연구의 우선성을 인정하고 인공지능의 설명이 근본적으로 잘못되었다고 (Searle, 1988) 생각하는 설 같은 사람들의 입장을 공동적으로 반대한다는 점이다.

이 글에 나타나는 데넷의 용어를 사용한다면 설의 문제는 그의 논증이 매우 특별한 방식의 통속심리학 (즉 지향성) 에 의존한다는 것이며 설이 데넷과 인공지능이 이것을 다른 방식으로 설명하려 했으나 실패했다고 생각하는 점에 있다. 나는 이 논쟁에는 아무런 근본적 차이가 없으며 통속심리학 스타일의 취향에 대한 논쟁만이 있음을 주장하고자 한다. 설이 주장하듯이 만일 인공지능 연구가들과 데넷이 근본적으로 행태주의자들일 뿐이라면 두뇌생리학이 완성될 때까지는 다른 어떤 주의자가 될 가능성은 전혀 없으므로 설도 행태주의자일 뿐이라고 나는 또한 주장하고 싶다.

데넷은 확실히 우리 시대의 가장 재미있고 가장 대중적인 철학자 중 한 사람이다. 그러나 인공지능의 입자에서는 설명의 언어와 관련된 한 동지에 불과하다. 물론 과학이나 공학의 모든 경우가 그러하듯이 평가기준은 철학적인 것이 아니고 경험적인 것이므로 특별히 데넷이 제공하는 이론은 없기는 하지만 말이다. 의식의 특정 분야에 대해서는 인공지능이 제공하는 것만큼 그의 이론이 풍부하거나 잘 조직되어 있다고 생각하지 않는다. 또한 의식의 상대적 공허성에 대한 그의 유명한 증명은 인공지능에 동의하는 것이라기보다는 도전이 되는 것이라고 생각한다.

2. 인공지능의 본질과 기능

많은 인공지능 연구가들은 대체적으로 소박한 유물론자나 기계론자들이다. 그래서 그들에게 심리과정이란 단지 생물학적 하드웨어에서 작동하는 소프트웨어일 뿐이다. 이런 입장은 이들에게 아무런 정당화가 필요없고 증명이 불가능한 단순한 가정일 뿐이다. 이 가정은 민스키의 유명한 용어로 말하자면 '살로 된 기계 (meat machine)' 인 인간을 시뮬레이션하거나 인간과 기계적으로 유사한 체계를 구축하는 일을 하도록 해주는 것이다.

이런 가정은 본질적으로 설 (1988) 이 명명한 '강 인공지능' 이다. 그런데 이런 가정을 하는 연구가들이 하는 일은 '약 인공지능' 의 입장을 받아들인 반성적인 연구가들이 하는 일과 크게 다르지 않다. 이들은 근본적으로 도구주의자들이며 표면적 동일성의 입장을 받아들인 사람들이며 앞의 (2) 와 같은 견해가 적용되는 사람들이다.

여기서 요점은 인공지능 연구가들의 형이상학적 가정들은 근본적으로 공허하다는 것이다. 물리학자들이 그들의 이론에 대해 강한 실재론적 입장을 견지하지만 다른 사람들과 전혀 다른 물리학을 하지는 않는 것처럼 이 형이상학적 가정들은 인공지능 연구가들이 하는 일에 영향을 미치지 않는다. 이것은 아마 과학적 연구에서 나타나는 일반적인 현상일 것이다. 과학적 연구에서는 매우 일반적인 가정이 철학적 작업과 대비되는 실험적 작업을 추진하게 하지만 과학 활동 자체는 그리 많이 통제하지 않는다. 그러나 인공지능은 실험 과학이 아니라 공학적 기술이거나 더 격식 있는 말로 하자면 연금술 (드레퓌스가 오래 전인 1979 년 저술에서 인공지능과 관련하여 주장한 점) 의 전통에 서 있는 실천적 과제이기 때문에 정신 기능의 본성 연구를 위한 제안은 대체적으로 사실에 의존한다.

"계속 논의하기보다는 ..... 모든 이가 생각한다는 점잖은 약정을 세우는 것이 보통이다 (Turing, 1950)" 라고 말한 것처럼, 그런 성공적 기계는 생각을 한다고 점잖게 약정하자고 처음 주장했다. 그때 튜링은 분명히 약한, 심리 부여주의 계열에 속하지만 민스키는 강성 부류에 속했다.

여기에 철학적 논증이란 존재하지 않는다. 다만 주어진 문제에 대한 일정한 입장의 수용만이 있다. 민스키의 경우에 마음을 설명할 숨겨진 기제가 존재하는가 등의 물음은 일어나지 않는다. 그런 기제의 존재는 아무 논의 없이 처음부터 가정된 것이다. 민스키의 이 구절은 어떤 독자들에게는 인공지능이 아니라 언어학 분야에서 촘스키의 전성기를 연상시킬 것이다. 당시 그는 "분명히 모든 사람들은 내재화된 문법을 가지고 있다 (Chomsky, 1965, p. 8)" 라고 하면서 논증을 시작했다.

1) 단원성

인공지능의 연구 상황과 그 연구가 내세우는 일종의 내부 가정을 살펴보자. 현대의 컴퓨터 프로그램, 특히 인공지능의 프로그램은 전체를 엮어내는 단선적인 흐름을 통해서가 아니라 상호 연결되는 하위 부분, 또는 모듈이라고 하는 것으로 만들어진다. 여기서 모듈은 실행 단계에서는 다른 모듈의 내용에 접근할 수 없다. 매사추세츠 공과대학교의 칼 휴잇 (Carl Hewitt (19972)) 의 "모듈은 그 주변 모듈의 내부를 기웃거려서는 안 된다" 라는 영원한 원칙을 생각하면 된다. 예를 들어 위노그래드 (Winograd (1972)) 의 언어 이해 프로그램에는 구문 분석 모듈과 의미 분석 모듈이 있다. 이 모듈들은 문장의 구조에 관한 물음에 대해 서로 답을 요구할 수 있지만 다른 모듈이 어떻게 답을 찾아냈는지는 알아낼 수 없다. 허버트 사이먼 (Herbert Simon (1969, p. 115) 은 진화는 이런 방식으로 분절되는 구조를 선호하며 단원성 (modularity) 은 '유전자 프로그램' 에도 적용될 수 있을 것이라고 주장했다.

사이먼은 다음과 같은 두 시계 제작자의 상업적 전망을 비교한다. 첫 번째 시계 제작자는 이미 완성된 단위 부품들을 가지고 시계를 만드는 반면, 두 번째 시계 제작자 시계가 충격을 받으면 완전히 분해될 위험을 감수하면서 하위 부품들을 가지고 시계를 조립해 나간다. 분명히 모듈을 가진 시계를 만드는 첫 번째 시계 제작자가 더 나을 것이다.

앞서 인용된 구절에서 민스키가 의도한 것은 바로 이러한 단원성이다. 민스키는 생명체가 자기 자신의 모델을 독립된 모듈로서 가진다면 생존 능력의 측면에서 더 효율적일 것이라고 여러 번 주장했다. 물론 자아가 실재라는 측면에서 본다면 이런 모델은 완전히 허구일 수 있다. 그러나 자신을 알코올 중독자라고 생각하는 알코올 중독자는 단지 자신을 사교적 술꾼이라고 생각하는 알코올 중독자보다 아마 높은 생존 가능성을 가질 것이다. 분명히 접근 가능한 자아 모델은 우리가 기계적 체계에서 의식에 해당되는 것을 찾을 때 가장 먼저 떠올리게 되는 것이다.

나중에 민스키 (1975) 는 자아 (Ego), 심아 (Id), 초자아 (Super-Ego) 의 삼중 개념이 나타나는 프로이트의 저술에서 발견되는 종류의 단원성과 유비관계를 분명히 하면서 이 개념을 재활용했다. 아마도 모듈에 관한 첫 작품이 될 단자론 (Monadology) 에서 라이프니츠는 한 기계 조직을 개인으로 간주할 때 그 조직은 그 모듈들 중 반드시 '최고 조정자 (supreme organizer)' 를 가져야 한다고 주장했다. 민스키는 이 모듈만이 다른 모든 하위 모듈들과의 관계에 대한 지식을 가지며 우리가 의식 또는 자기 의식이라고 하는 것과 같은 종류의 속성을 가질 것이라고 주장한다.

민스키는 이것에 첨가되는 부가적 속성은 사이먼이 단원성의 속성으로서 제시한 것과 같은 종류의 기능적 또는 진화적 설명을 갖는다고 논증한다. 이 경우, 잠재적으로 '의식을 지닌' 최고 조정자 모듈은 따라서 하위 모듈들 사이의 연결이나 이들과 자신의 연결을 (체계가 작동하도록 변경이나 재구성을 한다는 의미에서) 조정하거나 수정하는 위치에 서게 된다. 단원성을 유지해야 하기 때문에 이 능력이 모듈들 자체를 변경시키는 것까지는 확대될 수 없다. 이런 변경은 단원성의 원칙이 거부하는 종류의 수선이다.

개인적으로 나는 상식과 (모호하기는 하지만) 의식의 전통적 속성들을, 모든 지적인 체계의 근본적인 조정 및 변경의 개념과 연결시키는 것이 어려운 일이라고 생각한다. 예를 들어 어떤 요가 수련자들은 대부분의 사람에게는 거의 불가능한 생리적 기능 (심장 박동수, 소화 등) 의 조절 능력이 있는 것처럼 보인다. 만일 이것이 사실이라면 그들은 '소화 프로그램' 을 조정하거나 심장 박동을 상당히 느리게 할 수 있다.

그러나 이 놀라운 능력이 의식과 특별한 관계를 가지고 있다고 말해야 하는가? 어느 순간 어떤 요가 수련자가 우리에게 그의 소화기관의 작용을 화학적 방식으로 말하고 그의 장에 부착된 탐지기가 그가 말한 모든 것을 확인시킨다면 우리는 그가 이 모든 것을 의식한다는 것을 인정해야 할 것이다. 왜냐 하면 그의 말은 우리가 의식과정에 필요하다고 직관적으로 생각하는 사건에 대한 즉각적인 감지를 보여주기 때문이다. 그러나 우리는 이런 식으로 소화과정을 변화시킨 요가 수련자를 놀랍게 생각하기 때문에 이런 능력은 (민스키가 말하는) 조정이나 수정이 아니다. 그런데 말 한마디로써 장에서 벌어지는 소화과정을 변경시키지만, 순간순간 그곳에서 벌어지는 일에 대해서는 일체 아는 바 없다고 하는 어떤 다른 요가 수련자에 대해서도 우리는 같은 정도로 놀랄 것이라고 나는 생각한다. 이것들은 확실히 다른 능력이며 민스키가 설명한 것과는 달리 그 중 하나만이 의식과 연결되는 것처럼 보인다.

나중에 내가 다시 설명하려고 하는 것이지만 여기서 중요한 사실은 민스키 설명에서 나타나는 위계적 구조 (최고 조정자 또는 사이먼의 단원적 시계 제작자가 이런 구조의 예가 될 것이다) 의 강조와, 이것과는 전혀 다른 등위적 구조의 강조 사이의 긴장 관계이다. 후자의 개념은 결코 분명하게 제시된 적이 없었다. 그러나 이것은 1960 년대 후반 민스키에 의해 매우 강조되었으며, 예를 들어 언어 이해체계의 구조에 대한 민스키의 견해에 커다란 영향을 주었다. 그 핵심은 위계적 체계에서 나타나는 체계의 영속적인 상위 단 (upper node) 이 존재할 필요가 없으며, 다른 단과 다른 단계들이 상황에 따라 통제력을 행사한다는 것이다. 이것은 사회적으로나 형이상학적으로 보다 민주적인 조직 개념이며 아무리 낮은 단계의 존재라도 약간의 의식을 가진다고 하는 아리스토텔레스와 라이프니츠의 입장에 더 가까운 것이다.

민스키의 '최고 조정자' 이론은 조정자만이 다른 모듈과의 관계에 대한 모델을 가지기 때문에 위계적 입장에 가깝다. 이 조정자는 따라서 항상 통제력을 행사한다. 그 이유는 위계적 입장이 요청하는 방식으로 통제를 가능하게 해주는 모듈들 사이의 관계 모델을 다른 모듈들은 가지고 있지 않기 때문이다. 이런 통제와 필요한 지식이 단일한 '지휘' 모듈의 속성인지 아니면 등위적으로 분산되는지에 따라, 내가 나중에 의식의 '점등 (light up)' 이론이라고 부르고 싶은 두 가지 형태의 입장이 결정된다. 이 점등은 핀볼 게임 기계에서 경기의 흐름에 따라 다른 부분이 다른 시기에 점등되는 것과 비슷한 의미를 가진다.

2) 실현 독립성

같은 프로그램이 다른 기계, 즉 같은 유형의 다른 기계뿐 아니라 다른 유형의 기계들에서도 작동할 수 있다는 것은 널리 알려진 사실이다. 여기서 다른 유형의 기계는 완전히 다른 물리적 과정을 통해 운영되는 기계들도 포함한다. 자바 언어는 프로그램의 이런 기계적 기반 독립성 (platform independence) 을 실현하기 위해 작성된 언어이다. 우리가 프로그램의 실현이 기계 - 독립적이라고 말할 때 의미하는 바는 바로 이 독립성이다. 또한 이 특징은 하드웨어 (기계) 와 소프트웨어 (프로그램) 의 통상적 구분을 제공하는 한 가지 방식이다. 이런 구분의 통상적 요소가 희미해지는 경우는 프로그램으로 표현된 처리과정이 기계 자체의 하드웨어 구조로도 표현될 수 있는 경우이다.

인공지능의 기본 프로그램 언어는 50년 동안 사용된 LISP (리스트 형식으로 된 데이터를 처리하도록 설계된 프로그래밍 언어 = 옮긴이)였다. 그러나 LISP 프로그램이 하드웨어의 작동과 보다 직접적으로 연결되는, 하드웨어에 전용 LISP 기계도 제작되었다. 하드웨어에 고정된 프로그램을 가진 기계들이 빠르다는 것은 모두 인정한다. 그러나 이 경우 한 기계에서 다른 언어로 된 많은 프로그램을 쓸 수 있고, 한 언어로 된 프로그램을 다른 많은 종류의 기계에서 쓸 수 있는 능력, 즉 이식성 (portability) 을 우리가 놓치게 된다.

두뇌와 마음의 관계를 연구하는 많은 이들의 관심을 끈 것은 프로그램의 이식성, 그리고 이것과 연결되는 하드웨어 - 소프트웨어의 통상적 구분 바로 그것이었다. 이 하드웨어 - 소프트웨어 구분을 두뇌 - 마음 관계의 모델로 이용하여, 많은 사람들이 신학적 이유에서 흥미를 가지고 있는 마음의 이식성과 연결시키려는 시도는 매우 강한 매력을 갖는다. 이런 시도는 두뇌와 (기계어로만 하드웨어가 직접 조정되는) 일반 디지털 컴퓨터가 매우 등질적인 내적 구조를 갖는다는 발견에 의해 지지된다. 이런 발견은 "지적인 행위는 기반 기제에 소수의 매우 일반적인 특징만을 요구한다" 는 뉴웰 (Newel (1973)) 의 언급과 같은 것으로 이어진다.

1980 년대 초반부터 인공지능 연구에서 나타난 신경망 / 연결주의의 입장은 이런 견해의 확산을 감소시켰다. 이렇게 신경망과 옛날식 인공지능 (GOFAI) 양 그룹이, 계산 구조의 최하위단계는 일종의 두뇌와 같은 것이라는 동일한 가정에서 출발할 수 있는지 여러분들은 궁금해 할 것이다. 대답은 논리회로 (logic gate), 신경망 그리고 일반적 폰 노이만 기계의 최 하위단계들이 그리 다르지 않다는 것이다.

연결론은 특정한 신경망 구조의 실현 의존성이라는 개념을 장려한다. 그럼에도 불구하고 실현 방식으로부터의 독립성이라는 생각은 인공지능의 기본적 형이상학에 강력한 영향을 미쳤으며, 기계나 두뇌에 실현되는 방식과는 별도로 지적 기제를 그 자체로 연구하는 것이 인공지능이라고 정의한 매카시 (McCarthy) 의 주장의 배후에 늘 존재했다. 따라서 강한 의미로 말하자면 이 생각은 인공지능은 기계에 대한 연구가 아니라는 부정을 포함한다. 이 점은 프로그램의 작동 방식을 이해하는 모든 사람이, 프로그램에 대한 기본 해석이나 모델은 논리적 의미에서 실질적 하드웨어와 그 상태라는 포더 (1975) 의 주장에 대해, 내린 전면적인 거부와 같은 대조적 입장을 통해 가장 잘 이해될 것이다.

그의 내적 언어이론이 이 주장에 의존하고 있기는 하지만 그렇다고 이 주장이 참일 수는 없다. 만일 이 주장이 참이라면, 예를 들어 극단적으로 다른 구조를 가진 기계들에 대한 소프트웨어의 이식성이 상당히 문제될 수 있다.

이 절의 목적은 예를 통해서 모듈과 기계 기반 독립성과 같은 구조의 의미에 대한 인공지능적 성찰의 전통, 즉 나중에 데넷이 받아들인 가상기계에 매우 근접하는 개념을 밝혀보는 것이다. 이 개념을 강조하는 것이 중요한데 그 이유는 데넷의 글 (1991) 같은 것을 통해 단원성과 가상기계 개념이 철학에서 시작되었으며 이것이 마음의 모델화에 미친 영향에 대해서는 그 모델을 구성한 공학자들조차 전혀 관심을 가지지 않았다는 인상을 받을 수 있기 때문이다.

3. 데넷의 입장

인공지능에 대한 데넷의 관심은 1960 년대 후반과 1970 년도 초에 매사추세츠 공과대학교, 카네기멜론 대학교, 그리고 스탠퍼드 대학교에서 갑자기 치솟은 연구 활동에 의해 불이 붙었다. 이 시기는 민스키의 전성기였으며, 기계 장기 (chess) 의 미래를 인공지능 지도자들과 예측한 데이비드 레비 (David Levy) 의 시대였고, 합리적인 정신 활동의 언어를 형식화하는 첫 번째 시도인 매카시와 헤이스 (Hayes (1969)) 의 '유창 (fluent)' 과 같은 것들의 시대였다. 온도조절장치의 믿음과 같은 논의는 당시에는 보통이었으며, 이 책의 편집자가 생각하는 것처럼 철학자의 논평에서 그런 논의가 처음 나타난 것은 확실히 아니다. 목표 도출이 기본 기능인 매사추세츠 공과대학교의 극소계획자 언어는 계획, 로보틱스, 언어 행태 분야에서의 복잡한 초기 모델의 원조이다.

데넷이 진정한 의미에서 행태주의자인지의 여부를 따지는 것이 여기서 내가 할 일은 아니다. 처치랜드와 라마찬드란 (1993), 그리고 설 (1997) 은 데넷을 행태주의자라고 간주하지만, 이 책의 첫 번째 장에서는 데넷 자신도 분명히 밝히지 않았다는 점이 인용되긴 했지만 (Dennett, 1997, p. 16) 그가 행태주의자가 아니라는 점이 주장되는 듯이 보인다. 과학적 주장을 개진하는 논쟁에서는 입장의 부여가 영속적인 의미를 가지지 않지만, 시간이 지나고 많은 책이 출간되었음에도 불구하고 우리가 그의 입장을 결정할 수 없다는 것은 데넷의 변화무쌍한 스타일을 드러낼 뿐이다. 또한 그에게 많은 판매 부수와 명성을 가져다준 이야기하기식의 방법을 취하고 영미계통의 철학자들에게는 보통 필수적이라고 생각되는 명료성의 추구를 회피하는 것에서도 이런 모호성이 나타난다.

물론 데넷은 행태론자이다. 처치랜드가 정리한 분명한 이유에 따르면 그는 라일의 논리적 행태주의의 한 유형을 선택하고 심리 현상이 없는 극단적 행태주의를 거부했다. 이 논리적 행태주의는 일정한 종류의 심리 술어 사용을 인정하지만, 그것에 어떤 고유한 의미를 부여하거나 두뇌 혹은 어떤 다른 것과의 상응관계를 인정하지 않는다. 데넷에게는 통속심리학이 메마른 라일적 술어 범주에 풍부한 내용과 사건 구조를 주는 것이지만, 맥긴 (McGinn) 이 '믿음을 실현된 논리 구조 외에는 아무것도 아닌 것으로 간주하는 심리적 논리주의라고 (McGinn, 1993, p. 86) 정리한 것과는 별로 차이가 없다.

문제를 더 혼란스럽게 만든 것은, 전통적 행태주의자들을 규제하고 또 이것으로 인해 신경과학자들이 행태주의자들을 그렇게도 혐오하게 만든 경계, 즉 두개골을 데넷이 뚫고 들어갔다는 것이다. 행태주의자들은 한때 생체를 건드리지 않는 방법론적 두뇌 연구가들로 정의되었다. 인공지능의 비유를 받아들이고 내적인 기제에 관해 고찰함으로써 데넷은 행태론자들이 전통적으로 가지 않는 길로, 비유적으로 말해서 머릿속으로 들어간 것이다 (물론 아래에서 논의되겠지만 스키너도 바로 이런 일을 했다고 할 수 있다).

이렇게 하여 그는 인지과학자들과 합류했으며 (아래 5 절에서 보면 알게 되겠지만 잘한 일이라고 말하는 것이 아니다) 정신 기능의 고전적 인공지능 절차 모델을 확대하고 다듬는 일에 착수했다. 이 모델은 일정한 가정과 일정한 조건하에 인간의 정신 기능을 수행하는 실질적 컴퓨터 프로그램으로 직접 연결되는 경우에만 그 의미를 갖는다. 물론 두뇌나 마음에 관해서는 인공지능 연구에서 직접 도출된 것이 없다. 그래서 설이 인공지능을 양분했을 때, 인공지능 연구가들은 강 인공지능과 약 인공지능으로 아무 문제 없이 스스로의 입장을 정할 수 있었다. 이 구분이 종교적 단체나 정당의 회원이 되는 것과 같은 것을 의미하고 그들의 전문가로서의 활동과는 아무 관계가 없었기 때문이다. 양 그룹은 신경과학이나 심리학 분야의 다른 과학자들이 심화시킬 절차적 모델들을 기꺼이 제시할 수 있었다.

이렇게 되면 인공지능에는 제 3 의 그룹이 남는다. 인간의 정시 ㄴ기능에 대해서는 아무런 공개적 관심이 없고 오직 기계를 가지고 문제를 해결하는 데만 집중하는 연구가들이 이 그룹에 속한다. 이 그룹은 많은 연구가들을 포함하며 인간 정신 기능의 최고 모델들을 실질적으로 제시했다 (예를 들어 단원적 구조와 목적 지향적 언어에 관해 논의하는 휴잇의 1972 년 저술 참고). 그들의 설명 의도는 그들 모델의 적합성에는 아무 영향을 미치지 않는다.

따라서 라일적 행태주의를 개정한 데넷의 행태주의에다 강 인공지능의 입장을 덧붙이는 경우 데넷의 전반적 입장을 설명하는 것은 더욱 어려워졌다. 이것은 설의 공격 속으로 그대로 걸어 들어가는 셈이다. 이론 판매원으로서 그는 그가 한 일이 무엇인지 정확히 알고 있을 것이다. 그러나 철학자로서 그는 위험한 위치에 서 있는 것이다. 누구도, 즉 스스로를 기본적으로 논리 행태주의자라고 생각하는 그 누구도 강 인공지능의 입장에 동조하여 정신 기능은 프로그램의 실현일 뿐이라고 말할 수는 없을 것이다.

데넷은 행태주의자나 지향성 부여주의자가 전혀 주장할 수 없는 영역으로 들어갔다. 강 인공지능의 입장은 필연적으로 정신현상을 실현된 프로그램, 그리고 두뇌 상태들과 직접 동일시하는 입장이다 (이런 입장이 동일화시키려고 하는 현상은 다른 실재론자들이 실재한다고 주장하려 하는 것과는 다를 수 있다!). 이것은 모종의 실재론적 입장이며 데넷은 (Dennett, 1987), 아래 밀리컨의 1993 년 저술에서 인용된 부분) 다음과 같이 정확히 이런 종류의 실재론을 받아들인다.

데넷이 옳을지도 모른다. 그러나 이 견해는 표면상 정신현상의 존재를 부정하거나 (극단적 행태주의), 그 존재에 대해 불가지적 입장을 취하는 (논리적 행태주의와 약 인공지능) 모든 종류의 부여주의와 양립하지 않는다. 데넷은 그가 계속 쓰고자 하는 두 독립된 언어의 상응 관계에 대해 불가지적인 입장을 취할 뿐이다.

데넷은 심리적 속성의 (외적, 3인칭적) 부여는 인간이나 기계가 그 자신에게 부여하는 모든 심리 속성들에 직접 연결될 수 있다고 주장함으로써, 행태론과 내적 구조의 후보 이론 사이의 긴장을 완화시켰다고 믿는다. 또한 데넷은 지각 내용이나 의식 내용에 대한 1 인칭 주체의 권위에 도전하는 것을 통해, 심리상태의 내용을 감소시키는 일련의 교묘한 논증을 함으로써 그런 주장을 했다. 설의 심리상태의 내용 고유성 주장은 바로 그러한 1 인칭 권위에 의존하는 것이기 때문에 이런 주장은 설의 약점을 공격하는 것이다. 그러나 데넷의 입장은 1 인칭과 3 인칭의 간격을 논리적으로 메울 아무 근거가 없으며 궁극적으로는 어떤 것도 이 간격을 메울 수 없다. 반면 데넷은 1 인칭 증거를 논의하기까지 함으로써 설에게 큰 양보를 했다. 내가 주장하는 데넷의 절반 행태주의와 절반 물리주의 사이의 불가능성을 위해서는 1 인칭 증거를 언급할 이유가 전혀 없다.

항상 문제는 과학에서 데이터로서 인정할 수 있는 것이 무엇인가 하는 것으로 귀결된다. 데넷이 내용을 감소시키기 (이것을 논증하려고 데넷은 실제로 대부분의 시간을 보내고 있다) 보다는 1 인칭 데이터를 피할 때, 데넷과 설은 다른 것처럼 보인다. 인공지능 연구가들에게는 여기서 원칙을 따질 문제가 아무것도 없다. 그들의 작업은 공학적이지 과학적인 것이 아니며 행위나 내적인 기제에 대한 3 인칭 부여의 경우와 마찬가지로 그 기제가 (아래 예를 통해 드러나겠지만) 1 인칭 경험의 가정적 비유를 제공하면 만족할 것이다.

내가 주장하고자 하는 바는 인공지능 연구가들은 아무 모순 없이 약 인공지능 행태주의와 강 인공지능 물리주의를 동시에 받아들일 수 있다는 것이다. 그러나 데넷은 이 두 가지를 동시에 받아들일 수 없는데, 그것은 그가 특정 종류의 기술과 그 해석에 대해, 공학자들이나 과학자들은 거의 시도하지 않는 제한을 가하고 있기 때문이다.

이 논증이 지니는 거의 사라지지 않는 난제는 이 논증의 의존하는 많은 구분들이 단지 정도의 차이를 확대한 것에 지나지 않는다는 점이다. 수십 년 전 나는 (Wilks, 1967) 스키너 (극단적 행태주의자, 말하자면 전혀 다른 설명가) 에 대한 촘스키의 대부분의 비판은 두 사람이 다른 정도의 복잡성을 가진 기제를 제안하고 있기 때문에 적절한 것이 아니라고 주장했는데, 나의 이 주장은 지금도 여전히 유효하다.

스키너도 데넷처럼 일반적 행태주의자가 아니다. 그것은 그가 행위를 기술할 뿐 아니라 단순한 설명적 신경 기제, 즉 자극 반응의 순환과정을 제안했기 때문이다. 반면 촘스키는 우리가 알다시피 보다 복잡한 것을 원했다. 시간이 지나면서 이 복잡한 것이 그리 복잡한 것은 아니라는 점이 밝혀지긴 했지만 말이다. 확실히 스키너에 대한 촘스키의 비판은 스키너가 지향적 개념을 다루지 못한 것을 지적하는 것이 아니다. 촘스키는 그때나 이제나 그런 것을 말하고 있지 않다.

강 인공지능의 적합성 여부에 대한 논쟁은 현대 컴퓨터의 빈곤한 실행 능력에서 (설의 입장에서 본다면) 그 힘을 얻고 있다. 그러나 우리는 미래의 기계가 어떤 모습을 가질지 알 수 없다. 나는 (Wilks, 1975) 컴퓨터 외부에 존재하는 사람들이 컴퓨터가 내부적으로 무엇을 할지를 결정하는 권위를 가지고 있다는 가정을 의심하게 만드는 기계 행위를 제안했다. 이 외부 권위가 시간이 지나면서 사라지게 될 것이라고 우리는 확신할 수 있다. 실제로 그런 일은 시작되었으며, 결국 이 권위는 기계 자체에 귀속될 것이다. 이런 결과는 예측할 수 없는 방식으로 논의 방향을 변화시킬 것이다. 데넷이 특정한 컴퓨터 비유를 사용하는 방식을 간략하게 살펴보자.

1) 의식

데넷 (1978, 9장) 은 "지각, 문제 해결 언어 사용에 관한 현재의 인지 이론들을 통해 이런 주제들을 통합할 의식이론을 스케치" 하기 시작한다. 그러고 나서 그의 이야기는 확장되고 심화된다. 그러나 그 전략은 동일하다. 의식에 거의 도달하지 못한 상태를 다루는 직관적 예들과 심리학적 결과들에서 시작하여 논증하는 방식이 그 전략이다. 이 전략은 본질적으로 공허하다.

그의 가장 놀라운 예는 래크너 (Lackner) 와 가렛 (Garrett) 실험의 결과이다. 피험자들은 "He put out the lantern to signal the attack" 이라는 문장을 듣는다 (이 문장은 랜턴을 '밖에 내걸다' 와 '끄다' 의 두 가지 의미를 갖는다). 한 그룹은 이 문장만 듣지만 다른 그룹은 이 문장과 더불어 '애매성을 해소하는 입력' 을 다른 귀로 듣는다. 다시 말해 이 그룹은 "He extinguished the lantern" 과 같은 문장을 덧붙여 듣게 된다는 것이다. 자연스럽게도 이 그룹은 첫 번째 문장을 이에 따라 적절히 해석했는데 관심을 기울이지 않은 채널로 들은 것이 무엇인지 보고할 수 없었다. 다시 말해, 이 애매성 문제를 해결한 정보를 전혀 의식하지 않고 있었던 것이다. 데넷이 제시하는 이 결과의 핵심은, 심리과정의 결과만 우리에게 알려진다는 것이다. 일반적으로 우리는 몇 가지 기억이나 우리가 말한 것을 의식한다. 그러나 우리는 내적 심리과정에 대해 다른 관찰자와 거의 같은 입장에 처해 있다.

데넷 입장의 근본 특징은 우리가 무의식적 기제의 속성들을 만들어낸다는 것이다. 이 속성들은 원인 자체의 지각이, 원인이 되는 사건의 지각과 아무 관계가 없는 흄의 경우처럼 우리가 실질적으로 한 생각과 아무 관계가 없을 수 있다. 이것은 데넷의 심리 술어에 대한 일반이론, 그리고 예를 들어 우리가 앞서 논의한 민스키의 자아 모델과 합치되는 해석이다. 데넷이 말하는 의식 내용에 대한 우리의 '통속' 이론은, 문법에 대한 우리의 통속이론들이 실제로 사용되는 언어와 맞지 않는 것처럼 사실과 전혀 맞지 않을 수 있다.

통속이론이 틀렸다고 하더라도 의식을 진정으로 잘 드러내지 못하고 있음을 이 모든 결과가 증명하는 것은 아니다. 통속이론이 무의식적 가정의 구조에 지나지 않는다면 몰라도, 그것이 의식을 잘 드러내지 않는다고 해서 우리가 잘못된 마음이론을 연구한다고 말할 수는 없다. 의식에 대한 통속이론의 특징을 관찰하는 것이 흥미롭기는 하지만, 이 관찰이 우리가 이전에 생각한 것보다 의식이 훨씬 더 형편없는 것이라는 점을 보여주지는 않는다. 허구라는 것도 진실만큼이나 의식을 잘 채울 수 있는 것이기 때문이다.

나는 데넷이 가진 의식에 대한 생각을 이해하는 데 어려움을 겪는데, 그것은 그가 부적절한 계산적 비유를 사용한다는 사실 때문이다. 논증의 이 단계에서 그는 흐름도를 제시한다 (그림 1 참고).

그림 1  흐름도

그는 실제로 이 '다이어그램' 의 어떤 부분이 의식에 포착되어 있는 지를 말한 적이 없으며, 그의 견해에 따르면 의식적 존재는 아래의 경우들과 모두 정합적이다.

(1) 콘트롤 박스

(2) 어떤 때는 한 박스, 그리고 다른 때는 다른 박스 (내가 앞서 논의한 민스키의 '등질 구조' 와 같은 것)

(3) 박스들 사이의 선으로 표시되는 연결 채널을 통해 전달되는 어떤 요소들

(3) 의 해석은 우리가 어떤 기억 (예를 들어 '콘트롤 박스' 의 내성 앞에 놓인 기억) 과 무엇을 말하라는 명령을 (무엇을 말해야 할까 생각하는 것과는 다른, 의도적으로 무엇을 말하는 경우) 의식한다는 그의 주장으로 인해 지지받는다. 이때의 명령이란, 발표할 원고 한 장만을 가지고 생각하지는 않고 말하기만 하는 백악관의 선전관의 유비를 통해 이름 붙여진 '선전 박스' 또는 PR 박스에 전달된 '콘트롤 박스' 의 메시지일 것이다.

나에게는 (3) 이 아무 문제가 되지 않으며, '프로그램의 최고 단계' 라는 개념이 의식에 대한 최선의 가능한 설명이라는 나의 제안 (1984) 과 아마도 정합적인 것이라고 생각한다. 그러나 데넷은 그의 논증과 아무 관계없이 마음의 과정적 견해가 아니라 본래적으로 정적인 흐름도 설명을 선택했다. 인공지능 연구가들이 흐름도를 거의 그리지 않는다는 것은 우연한 일이 아니다. LISP 와 같은 상위단계 언어로 (혹은 객체 지향 언어라고 하는 것이 대부분으로) 프로그램을 하는 경우에 흐름도를 그린다는 것은 프로그램 언어의 작동 방식을 모른다는 것을 의미한다. 이런 주장에 확실한 증거가 있는 것은 아니지만 (그리고 다른 종류의 프로그램 언어로 프로그램하면서 흐름도를 그리는 사람들을 단지 귀찮게 할 뿐이지만), 이 주장은 모듈에 대해 생각하기 위해서 흐름도가 필요한 것은 아니며, 흐름도는 정신현상에 대한 나쁜 모델이라는 점을 지적한다. 그것은 대략적으로 보아 흐름도가 비과정적 모델이며 단지 과정을 나타내는 듯이 보일 뿐이기 때문이다.

이 시점에서 내가 데넷에 동의하지 않는 보다 자세한 이유는 다음과 같다. 데넷이 해석 (1) 또는 (2) 를 의도한다면 이것들은 의식을 다른 표상 언어들간의 내용 번역과 같은 개념과 관계되는 심리과정으로 축소하는, 의식에 대한 하등적 설명이 된다. (2) 가 그러한 이유는 의식이 반드시 지녀야 한다고 생각되는 '일체성' 조건을 결여하고 있기 때문이며, (1) 이 그러한 이유는 민스키의 최고 조정 모듈과 같은 약간 자의적인 해석처럼 보이기 때문이다. 궁극적으로, 왜 의식이 특정한 것이어야 하는가? 박스들간의 복잡한 상호 연결이 있다면 분명히 그 중 하나는 의식적인 것이리라. 따라서 우리는 특정한 연결을 선택할 더 많은 이유가 필요하다.

이 모든 것은 (19세기 골상학에서 중심 문제였던 것처럼) 두뇌생리학에서의 국소화의 문제와 매우 흡사하다. 특정한 정신 기능이 두뇌의 특정한 위치와 연결될 수 있는가? 두뇌와 관련해서 보면 이것은 중요한 문제이다. 그러나 이것은 우리가 현재 알고 있는 디지털 컴퓨터에 대해서는 문제가 되지 않는다. 그것은 컴퓨터의 기능을 어떻게 이해하는가에 따라 정보가 기계 전체에 두루 퍼져 있다고 생각하거나 (즉 특정한 위치와 연결되지 않는다는 의미에서 국부화되지 않는다고 생각하거나) 기계의 모든 기능이 특정한 아주 작은 지역에서 벌어지고 있다고 생각할 수 있기 때문이다. 이 두 가능성 중 어떤 것도 컴퓨터 모델을 구성하려는 두뇌 과학자의 흥미를 돋우지는 못한다. 국부화를 의미 있게 논할 필요가 없다는 것은 신경망 모델의 한 가지 멋진 특징이다.

프로그램 언어의 다른 번역 단계가 기계 내부의 같은 장소에서 벌어지는 것이라고 우리가 생각할 수 있는 것처럼, 데넷의 흐름도에서 나타나는 서로 다른 모듈들이 한 컴퓨터 내의 같은 장소에서 작동한다고 생각할 수 있다. 그럼에도 불구하고 흐름도 - 더하기 - 모듈 모델에는 국부화의 측면에서 보았을 때 훨씬 더 많은 해석 가능성이 존재한다. 그것은 흐름도와 모듈이 모두 공간적으로 설명되고 제시되기 때문이다. 따라서 이런 모든 공간적인 방식의 의식 설명은 국부 모델이 되거나 의식의 핀볼 기계이론이라고 부를 수 있는 것이 될 것이다. 내가 보기에 이 이론은 부적절한데 그것은 마음이나 두뇌의 부분들이 게임의 여러 상황에서 '점등' 되거나 '의식화' 된다고 믿을 이유가 우리에게 전혀 없기 때문이다.

2) 복수 초안 모델과 스택 (임시 거치대 혹은 임시 기억)

컴퓨터 관련 용어와 더불어 '복수 초안 모델' 이라는 용어를 사용하는 데 나타나는 문제는, 데넷이 이 용어를 표층적 비유에만 사용하고 그 외에는 전혀 이용하지 않는다는 데 있다. 언어학자들이 컴퓨터적 용어들을 사용하는 것과 비교해보라. 이들은 훨씬 뛰어난 통찰력을 보여주었다. 과거 20여 년 동안의 언어 표상 연구의 중심 문제를 한 가지 방식으로 표현한다면 그것은 언어 사용에 필수적인 구문적 과정이 단일한 하강 스택 (push-down stack) 으로 (식당의 접시 거치대와 같은 구조에 구문적 요소들이 저장되며 마지막 것이 먼저 이 스택을 빠져나가도록 되어 있기 때문에 바닥에 놓인 요소는 위에 놓인 것들을 먼저 들어내지 않는 한 접근할 수 없는 그러한 구조로) 정확하게 그리고 적절히 모델화될 수 있는가 하는 것이다. 다른 대안적 입장은 이러한 스택 두 개를 가지고 체계가 중심 스택을 처리하는 동안 다른 하나의 스택은 '폐기물' 을 축적하는 모델이다.

전문성을 떠나서 대략적으로 말한다면 한 스택 구조와 두 스택 구조의 차이는 촘스키 (1965) 가 언어 처리에 부적절하다고 공개적으로 선언한 표상들과 그가 변형문법이라고 하는 언어 처리에 적절한 표상의 차이와 거의 흡사하다. 여기서 스택은 단순한 비유가 아니라 놀라운 단순성을 지닌 실질적인 구조이다. 따라서 단일 스택 구조가 모든 언어에 적합하지 않을 수 있다는 것을 증명하기 위해서는 분명한 언어 구조를 밝힐 필요가 있다.

여기서 나의 목적은 마음에서 언어로 관심을 돌리려는 것이 아니라 계산적 모델이 인지 현상을 설명하는가 하는 것을 드러내는 것이다. 문제에 대한 데넷의 탐닉에도 불구하고 우리는 이 점에 관해 데넷에게서 거의 아무것도 얻을 수 없다. 예를 들어 그의 복수 초안 모델 논의에서 비유의 핵심은 심적 내용, 특히 의식 내용이 서류의 복수적 초안처럼 이리저리 흩어져 있지만 '어느 한 곳에' 존재하지는 않는 것과 같다는 (Dennett, 1991, p. 135. 『두뇌회전』에서 나타난 의식 모델과는 완전히 다른) 견해를 정당화하는 것이다. 여러 비확정적 과정들이 초안을 편집하지만 '감지와 식별은 오직 한 번만 일어나며' 초안들이 절취되어 서로 비교되는 '최고' 식별자는 존재하지 않는다. 이것은 마치 저술가들이 진짜 초고를 가지고 작업하는 것과 비슷한데 이 점은 기본적 비유의 기능을 꽤 감소시킨다. 가지만 이 모든 것은 여전히 '강력한' 데카르트적 극장의 시각에서 우리가 해방되도록 돕는다 (1991, p. 111).

적어도 우리는 흄 이래로 데카르트 극장에서 여러 번 해방된 적이 있다. 그래서 우리는 아직도 어떤 물활론적 종교처럼 그 극장이 굳건히 서 있다는 것을 믿기 힘들다. 심리학이나 생리학의 증거들이 '비개정 (no revision)' 의 입장을 지지하기 위해 제시될 수 있지만 관련 학문의 현역 연구가들 (예를 들어 처치랜드와 라마찬드란의 1993 년 저술) 에 의해 그만큼 자주 강하게 논박당한다. 이 모든 것에 대한 나의 염려는 전혀 다른 것이다.

첫째, 데넷의 비유는 그의 목적을 위해 제대로 씌어지지 않았다. 그것은 '초안' 이 반드시 내용의 대조를 의미할 수밖에 없기 때문이다. 내용 구분 자체가 변경될 수 있다는 점은 문제되지 않는다. 그러나 이 주장은 무제한적 수정을 허용하는 내용의 대조와는 상치될 수 있다. 어떤 내용의 구별과 변화가, '다른 초고들' 과 충돌을 일으키는 것처럼 보이는 모든 증거들을 항상 무효화시키는 편집 모델을 생각해보는 것은 쉬운 일이다.

우리는 데넷이 원하는 것이 무엇인지 알고 있는데 그것은 민스키가 주장한 '등질구조적' 통제 모델이다. 그러나 이것은 결코 설득력 있는 형태를 가진 적이 없다. 이 점에 관한 진정한 의도가 무엇이든 간에 위노그래드 (1972) 나 휴잇 (1972) 에서는 그런 구조가 분명히 나타나지 않는다.

둘째, 데넷의 비유가 지닌 진정한 문제는 (언어 구조를 설명하는 스택의 경우에서처럼) 비유의 적합성을 위해서는 비유를 분명하게 하는 과정이 필요하다는 점과 이것 없이는 반대 해석의 가능성이 늘 열려 있다는 점이다.

3) 가상기계

가상기계 (virtual machine) 는 잠재적인 흥미를 유발하는 의식에 대한 또다른 방만한 비유이다. 데넷이 (1987, p. 230; 1991, p. 216ff) 이 경우에도 비유를 적절하고 구체적으로 사용하는지는 불분명하다. 그러나 가상기계는 마아 (Marr (1982)) 이래로 인공지능에서 널리 알려진 계산의 개념이기 때문에 여기서 불분명한 이유는 다른 데 있다. 이것은 기본적으로 덧셈과 같은 알고리즘이 하위단계와는 독립적인 단일한 추상적 대상으로 간주될 수 있지만 어떤 의미에서는 그 구현의 기제 (즉 이 경우 덧셈 레지스터나 주판알의 움직임) 와 등가적이라는 개념이다. 이 추상적 알고리즘 또는 가상기계는 지능을 인간, 기계, 동물이라는 구현 기반과는 독립적인 과정으로 표현하려는, 매카시가 가진 희망을 뒷받침하는 배경이었다 (McCarthy and Hayes, 1969). 이것은 또한 하위단계의 번역과 구현으로부터 상위단계 프로그램 표상을 독립시키는 문제와 거의 같은 것이다. 이것은 앞서 2 장에서 논의되었으며 의식과 관련해서는 윌크스 (1984) 에서 논의되었다.

그러나 이 비유를 위해 가상기계는 별로 특별하게 하는 일이 없다. 가상기계는 또한 심리 모델로 제공되는 다른 어떤 종류의 소프트웨어 실행보다 더 뛰어난 점이 없다. 기계가 '그것의 가상기계 속에서 생각' 할 수 있다고 상상하는 것은 기계가 소프트웨어의 실행과 더불어 생각한다고 상상하는 것만큼이나 부적절하다. 그 이유는 가상기계는 실제로 구현된 다른 모든 과정들보다 기계 상태에 덜 의존적인 것이기 때문이다. 이 점이 아마 데넷이 놓친 핵심인 것 같다. 가상기계가 제공하는 비유적 의미의 모든 것은, 하드웨어로부터 독립적인 소프트웨어에 대한 논의에서 나온다. 여기서 이 비유가 절차적 형태를 결여한 것은 아니다. 그러나 이것은 컴퓨터에 관한 논의에는 어디에나 존재하는 비유이며 구체적인 의미가 거의 없는 비유이다.

4. 상호 영향

의도처럼 '통속 개념' 의 기능에 관한 것은 데넷의 중심 견해, 사제적 가르침의 연속성을 따라서 데넷에서 라일로 그리고 비트겐슈타인에까지, 그리고 전문 지식, 추리 설명의 특정한 영역을 구성하는 특수 언어 또는 게임의 의미를 지닌 비트겐슈타인적 언어 개념까지 연결된다. 인간의 행위를 목적, 의향, 믿음, 욕구를 통해 설명하는 데 쓰이는 특별한 종류의 언어, 어느 정도 문화적으로 제한된 언어가 존재할 것이다. 그러나 대략적으로 이것은 자신과 다른 이들의 행위를 설명하고 판단할 수 있는 유일한 방법이다. 이것은 철학의 문제라기보다는 법정에서 주간지의 낭만적 충고에 이르기까지 걸쳐 있는 일상의 문제이다. 우리는 우리의 행위에 대해 이야기하고 판단하고, 설명할 다른 어떤 대안적 언어도 가지고 있지 않으며, 강압, 약물, 술, 잘 알려진 의학적 조건과 같은 단순한 경우 외에는 인간 행위에 대한 인과적 설명의 학대에 저항하는 생물 종으로 남아 있다.

데넷은 기계와 동물의 행위를 논하면서 그런 언어를 사용하는 것에 당연히 관심을 기울였다. 장기 기계가 "차를 몰아세우려고 의도한다" 고 말하는 것은 프로그램에서 인과적 요소나 구조적 요소의 기나긴 자료를 끌어대는 것보다 자연스럽다. 사실상 우리가 그러한 프로그램을 완전히 이해했다고 하더라도 게임의 진행과정에 관한 인과적 설명은 불가능하다. 이것은 제한된 시간 내에 서로 축약된 방식으로 이야기하는 문제이며, 지향적 설명이 제공하는 것이 바로 이러한 축약이다.

의학적 설명의 경우를 제외하고, 우리는 근육과 신경 작용을 통해 손의 움직임을 설명함으로써 몸짓에 관해 말하지는 않는다. 이 문제는 마음의 형이상학이 아니라 정보의 축약 문제이다. 이것은 프로그램 언어의 '단계' 라는 현대적 개념을 통해 완전하게 표현된다. 이것은 기계 레지스터의 막대한 수의 복잡한 작용이 LISP 같은 언어의 '최상위단계' 에서는 단일한 표현으로 포착될 수 있다는 개념이다. 이리하여 통속심리학이라는 것도 시간 내에 정보 전달을 위한 프로그램적 축약이며, 세탁기를 기능 2 에 맞추어놓으면 일정한 복합적 세탁 작용이 일어나고 기능 3 에 맞추어놓으면 아마도 요즘 사용되는 더려워진 기저귀를 세탁하는 데 더 적합한 다른 작용이 일어나는 것처럼, 통속심리학도 아무 신비함이 없는 것이다. 그러나 원칙상 두 개의 중요한 논점을 여기서 주장할 필요가 있다.

1) 철학적 논점

이 논의에 참여한 거의 모든 사람들이 동의하듯이 사람이나 기계에 대한 지향적 설명은 그 자체로는 어떠한 '실재론' 도 포함하지 않는다. 사람들은 마치 하루에 50 달러 이상 인출을 허용하지 않는 은행원에게 그러하듯이, 은행 인출기가 하루에 50 달러 이상 그에게 지급하지 않으려고 한다고 무의식적으로 그 자신에게 말할지도 모른다. 요즘 많은 이들은 이 두 가지 심리 부여가 매우 다르다고 느끼지 않지만 아마도 후자에 대비되는 전자의 따뜻한 가족 중심적 인간미의 매력 때문에 이 둘이 다르다고 설득될 것이다. 이 모든 문제가 크게 '표면적 동일성' (이러한 데넷의 19세기판 입장은 파이힝거 (Vaihinger) 의 1920 년 저술에서라면 이런 식으로 불렸을 것이다) 이라고 보는 점에서, 그리고 표면적으로 다른 이 양자 모두에 가끔 잘 적용되는 만족스러운 설명을 가진점에서 데넷은 확실히 옳다.

이런 잘 알려진 사실을 제외하면 인공지능 연구가의 입장에서 데넷과 설의 차이를 잘 분간하기란 어렵다. 이 두 사람들은 스스로의 차이를 놓고 수십만의 단어를 가지고 그들의 입장을 교환했으며 아직도 교환하고 있고 앞으로도 계속 교환할 것이다. 두뇌는 기계이며 따라서 믿음과 의도를 가지고 있는 의식적인 기계가 존재한다는 점에 양자는 동의한다. 그런데 양자의 차이는 적어도 이 구경꾼에 의하면 다음과 같다.

설은 그것이 어떤 것이든 심리상태는 본래적 내용을 가지고 있다고 주장한다. 반면 데넷은 내용은 앞서 논의된 방식으로 부여되는 것이며 수정의 가능성을 가지고 있기 때문에 본래적인 것은 아니라고 주장한다. 이것은 마치 오래된 장단처럼 보인다. "그는 하마를 보았네 / 벽난로 장식에서 / 그런데 다시 보니 그것은 / 그의 삼촌의 어머니의 질녀였네" (뭐 대충 이런 식의 장단이다). 데넷은 우리에게, 이러한 본다는 것은 본래적으로 하마 같은 것이 아니라고 일깨운다. 그 이유는 만일 그것이 본래적인 것이라면 같은 심리상태가 질녀 같은 것이 될 수 없기 때문이다.

데넷 이전 시기의 철학적 기억을 간직하고 있는 이들은 이것이 20 세기 중반의 한물 간 현상과 거의 다르지 않다는 것을 안다. 여기서 한물간 현상이란 그 둘이 공유하는 '감각 자료' 라는 것의 '본래적' 핵심과, 그 둘이 공유하고 있지 않은 부가된 해석들 사이의 필연적 분리를 말한다. 이것은 컴퓨터 시각과 생리학에서 밝혀진 것과 관련되는데 이제 이 문제는 과학적인 문제가 되어야 하며 철학자들의 영역에서 완전히 분리되어 나와야 한다. 데넷은 수정의 가능성에서 옳고 설은 비환원성에 관해서 옳다. 그러나 이 주장은 데넷이 원하는 것을 실현할 종류의 것이라기보다는 오히려 지식을 '빨강 - 여기 - 지금' (Russell, 1947 / 1994) 같은 것으로 해석하는 러셀의 오래된 입장과 더 흡사하다.

누구도 현재의 컴퓨터 프로그램과 같은 것이 두뇌에 있다고 상상할 수는 없다. 그래서 이런 식으로 해석한다면 강 인공지능의 전체적 기반은 부조리하다. 하지만 강 인공지능에 대한 설 자신의 강력한 논쟁도 (윌크스의 1981 년 저술을 포함하여) 여러 차례 지적되었던 것처럼 기술적으로 문제가 있다. 설은 프로그램은 오직 구문적으로 구성된 것이며 두뇌에서 그것과 대등한 것은 본성상 의미론적이거나 혹은 누군가 말했듯이 지시 기반을 가진 것이어야 한다고 주장한다. 포더 (1983) 가 다소 다른 방식으로 제시한 이 논증의 전체적 구도는 컴퓨터 과학자들에게 전혀 영향을 미치지 않았는데, 그들은 프로그램의 의미와 구문 모두는 근거체 혹은 실제 세계의 지시체 혹은 두뇌 요소를 그 지시 대상으로 가지는 것과 관계가 없는 전적으로 형식적 문제라는 것을 아주 잘 알고 있었다. 프로그램의 구문과 의미는 거의 같은 용어로 표현되며, 그 차이로부터 두뇌나 마음의 기능에 관한 철학적 이론을 이끌어낼 사람은 아무도 없다.

이 혼란은 결국 인공지능 연구자들이 거의 받아들이지 않는 (강) 인공지능의 주장을 인정하면서 설의 함정을 공격하는 데넷의 마구잡이 과장의 산물 혹은 누가 말하듯이 바보스러움의 산물이다. 그러나 이 모든 것을 차치하더라도, 두 철학자의 차이는 그리 큰 것이 아니다. 의식과 심리상태의 1인칭 직관이 과학의 기반이 될 수 없다는 설의 주장을 정리할 때 데넷은 옳은 생각을 한 것이다. 그러나 그런 주장이 두 철학자를 덜 중요하게 만들거나 인공지능 연구가들이 이들에 대해 흥미를 덜 가지게 하지는 않는다. 인공지능이라는 것은 과학이 아니라 복잡한 공학이며 또한 이런 문제가 오히려 과학과 공학 양자를 자극하는 데 성공할 수 있을 것이다. 우리가 설명할 수 없는 것이 우리에게는 자극이 된다.

어떤 의미에서 설이 데넷은 어떤 단계 (아마도 과학적 자료의 단계) 이상의 정신생활에는 관심이 없다고 주장했을 때, 우리는 당연히 설이 옳다고 생각한다. 그러나 설과 마찬가지로 인공지능 연구가들도 그런 단계의 정신생활에 관심이 매우 많으며 나도 데넷이 이제껏 제시한 것보다 훨씬 설득력 있는 정신현상에 대한 구조적 혹은 프로그램적 비유 (Wilks, 1984) 의 가능성을 제시한 바 있다.

2) 공학적 문제

1970 년대 초반부터 지향적 (또는 어떤 사람은 목적 지향성이라는 말로 더 잘 표현하는) 용어 (예를 들어 인간 행동의 목적, 동기, 의향 등) 의 매우 비철학적 사용이 옛날식 인공지능에서는 보통이었다. 이런 형태의 구조적 모델을 실험심리학자들과 인지심리학자들에게 보급한 공로는 샹크 (Schank) 와 아벨슨 (Abelson (1977)) 에게 돌아가야 한다. 보다 일반적으로 목적 지향적 행위의 분석과 모델링은 인공지능의 계획 연구에서부터 나타났다.

위노그래드 (1972) 는 언어 행위와 세계에 대한 활동에 이 전통을 접목한 최초의 연구가였다. 인공지능의 역사에서 이 순간을 강조하는 것은 중요하다. 인공지능에 대한 데넷과 다른 철학자들의 주장에서 사용되는 예를 가지고 생각하는 것이 쉬울지도 모른다. 즉 체스 모델링이, 목적 부여를 기계와 인간 행위의 '인과적' 설명에 대한 대안으로서 논하는 자리가 되는 것이 쉬워 보인다.

그러나 이것은 다음 두 가지 이유로 잘못된 생각이다. 첫째, 내가 이미 지적했듯이 언어 사용과 행동은 일반적 인간 행동에 (우리는 모두 말은 하지만 체스를 두는 적은 드물다) 표면적으로 보다 가깝기 때문에 보다 자연스럽게 보인다. 둘째는, 말하기에 대한 설명은 요즘 체스 프로그램의 논의나 디자인에 나타나지 않는다. 이런 논의나 디자인은 종적 서치 알고리즘의 이용에서부터 현재 경기와 가장 흡사한 과거 경기를 찾기 위한 패턴 맞추기, 이전 경기의 거대한 자료 기억의 사용, 그리고 과거 경기의 가능한 결과들을 비교하는 것에 이르기까지 전체적으로 논의된다. 지난 기보를 열심히 읽는 피셔 (Fischer) 같은 체스의 장인들의 행위를 놓고 볼 때, 이런 구조가 인간의 최선의 전략에 가깝다고 생각하는 것은 일리가 있으며 이 구조는 세계적 최강자들을 최초로 물리친 딥불루 (Deep Blus) 의 전략을 실제로 낳게 한 것이다.

인간 행위와 정신 기능의 공학적 연구를 진행하는 방식에 대해 모든 인공지능 연구가들이 동의하지는 않는다고 생각해야 한다. 내가 앞서 지적한 것처럼 이 분야는 넓은 의미에서 폰 노이만적 계산과 기호적 구조로 지지되는 옛날식 인공지능과 예전에 사이버네틱스라고 알려졌다가 다시 살아난 신경망 또는 연결주의의 입장 사이에서 여전히 분열되어 있다. 많은 논평가들과 관람자들처럼 데넷도 인공지능의 양 경향을 모두 취합했다.

인공지능에 대한 이러한 '취합' 의 개념은 중요하며 여기서 반드시 짚고 넘어가야 한다. 말하자면 데넷이 인공지능의 연구와 그 발전에 모종의 영향을 미쳤다는, 서론에서 제기된 이 책의 분명한 주제 때문이다. 내가 알기로는 데넷 스스로가 그런 주장을 한 적이 없다. 물론 그의 저술 (Dennett, 1997) 에서 그가 실제로 강 인공지능을 한다고 지적한 것은 단순한 암시가 아니었지만 말이다 (p. 119).

나 자신의 견해는 완전히 그 반대이다. 가장 넓은 의미에서 계산이라는 것, 그리고 특별히 우리가 논의하고 있는 인지 분야에서의 인공지능은 우리 시대의 거의 모든 설명적 비유의 원천이 되었다. 덧붙여 이런 비유들이 더 도움이 되고 통찰력을 주는 것일수록 이 분야의 실질적 작업에 더 근접하는 것이 된다. 예를 들어 스택, 회기 가상기계 같은 개념들은 흐름도나 다이어그램보다 훨씬 생산적인 개념들이다. 1970 년대 인지과학에 분명한 영향을 준 샹크의 약점 중 하나는 그의 개념적 의존성과 스크립트 (script) 가, 예를 들어 민스키의 프레임이라는 절차적 개념과 비교해 볼 때 본질적으로 정태적이고 다이어그램적이었다는 것이다.

한 유명한 논쟁에서 파이겐바움 (Feigenbaum) 은 인공지능에서 유래하지 않은 비유나 설명적 기제가 있을 수 있는냐고 말하면서 인지과학자들에게 도전한 적이 있다. 나는 이것이 크게 보아 올바른 지적이었다고 생각한다. 이 점은 민스키가 인정한 것처럼 인공지능 이전에 진정한 인기를 누렸고, 인공지능에도 조금은 영향을 미친 정신분석을 완전히 몰아낸 계산적 설명이 우리 시대의 과학에 관한 대화를 주도하는 것을 보면 알 수 있다.

이 모든 것은 인공지능에 대한 '흰 실험복을 입은 실험 조교' 의 견해라고 내가 생각하는 것을 교정하는 가장 중요한 요소인데, 그 견해에서는 이 분야의 연구자들은 언어학, 철학, 심리학 분야에서 제안된 추상적 이론들을 보다 많이 테스트하기 위해 프로그램 실험을 진행하는 사람들로서 간주된다. 언어학의 경우 인공지능에 관한 일말의 지식을 가진 사람이라면, 사실은 이 견해와는 거의 정 반대의 일이 벌어진다는 것을 확인하기 위해서, 예를 들어 스퍼버 (Sperber) 와 윌슨 (Wilson (1986)) 의 저술 같은 것을 보기만 하면 된다.

데넷의 독자인 나 자신은 데넷이 "경험론을 .... 넘어서서 새 영역을 개척했다" (이 책의 서론) 는 점을 전혀 받아들일 수 없다. 그 반대로 데넷은 사탕 발린 이야기와 농담으로 현상론과 행태론의 오래된 논의를 끊임없이 계속하며, (현상론이나 행태론의 의미에서) 경험론을 거부하기는커녕 그 입장에 굳건히 자리를 잡고 그 자신의 통속심리학적 설명을 라일의 설명과 다를 바 없는 것으로 만들고, 그의 내적 / 구조적 부가가 행태주의적인 것이 아니라고 하더라도 어떤 실재론자도 원하지 않을 기제가 되도록 만든다. 마지막 절에서 내가 질문하겠지만 어떻게 될 수 있는가? 이것이 설명하기와 말하기의 대립하는 양식이라는 것을 어떻게 데넷이 모를 수 있다는 말인가?

5. 인지과학의 신기한 입장

결론적으로 과거에는 포더가 하는 모든 것이라고 했고, 이제는 내가 생각하기에 데넷이 그 이름의 일부를 넘겨받을 권리를 가지게 된 인지과학의 본서에 대해 뭔가 논의해야만 할 것이다. 거시적이며 낙관적이고 학제적이었던 인지과학의 초창기에는 다음과 같은 불편한 사실을 들추어내지 않기로 모두가 약속했다. 다른 모든 학문들처럼, 과학도 그 정당화 조건에 의해 상당 부분이 정의된다. 신경과학은 관찰 자료를 가지고 있으며 심리학과 다른 분야들은 다른 종류의 자료를 가지고 있다. 인공지능은 물리적이든 심리적이든 일군의 자료에 의해서 원칙상 검증될 수 있는 구조화된 모델을 구성했다. 그러나 그 정당화는 궁극적으로 컴퓨터를 통한 실행으로 달성된다. 철학은 논증과 증거의 특성으로 구성되는 상당히 잘 이해된 정당화 기준에 의해 성립된다.

인지과학이라고 하는 학문적 연구의 한 세대가 이렇게 하여 만들어진 것이다. 인지과학은 가끔은 자극적이며 가끔은 호응을 얻지만, 어떤 특정 분야의 정당화도 감당하지 못하는 분야가 되었으며 결국은 아무 정당화도 감당하지 못하는 것이 되었다. 언어학은 이처럼 정당화를 얻지 못하고 그 영역만을 맴도는 방식을 보여주는 멋진 예이다. 촘스키는 실질적인 언어 자료보다는 '모국어 화자의 직관' 을 받아들인 나쁜 초기 선례를 만들었다. 그럼에도 불구하고 언어학은 실질적 자료, 즉 낯익은 언어뿐 아니라 컴퓨터로 접근 가능한 희귀한 언어의 대규모 자료로 되돌아갔다.

데넷은 이 전통적인 방식을 거부하고 게임과 이야기에 의존한다. 아마도 그는 자신을 비트겐슈타인의 전통에서 발견하는 모양인데 이것은 받아들이기 고약한 행동이다. 이것은 그에게 아무 지적인 전통도 제공하지 않으며 결과적으로 그가 말하는 것이 정당화되는 것인지 아닌지를 알아낼 방법이 전혀 존재하지 않는다. 단지 그의 주장이 자극적인지의 여부만이 남게 된다.

그는 인공지능의 비유를 이용하지만 그것을 뒷받침할 어떤 절차적ㆍ구조적 절차를 가지고 있지 않다. 이것은 스퍼버와 윌슨이 그들의 새로운 언어학에서 시도한 것과 같은데 그 전개는 데넷의 저술에서도 언급되었다. 내가 보기에는 그들과 데넷이 공유하는 점은 인지과학 운동이 드러낸 다음과 같은 능력이다. 개별과학에서 제안과 주장에 대해 어떤 진정한 판단 기준도 줄 수 없는 허공에 떠 있는 영역으로 상승하는 능력, 그리고 독자들에게는 불완전하게 이해되는 다른 분야의 비유를 사용하면서 최근 경향을 따르는 것처럼 과시하는 능력이 그것이다.