[폄] 인공지능의 철학적 성찰

♤
과학사상8호(1994년-봄) : 이초식 (고려대 교수 · 철학), 범양사 출판부, Page 81~96

Ⅰ. 철학적 성찰의 요구 Ⅱ. 인공지능의 철학적 배경 Ⅲ. 인공지능의 비판적 성찰

Ⅳ. 기술습득의 단계와 전문가 시스템 Ⅴ. 인공지능과 철학

Ⅰ. 철학적 성찰의 요구

20 세기 후반부에 등장한 컴퓨터는 이미 인간의 정보처리 방식에 큰 변화를 가져왔고 그 변화는 '정보화 사회' 라는 사회구획의 기준이 되기에 이르렀다. 즉, 역사의 방향은 농경사회로부터 산업화를 이룩한 사회들이 점차 정보산업사회로 나아가고 있다는 것이다. 그리하여 앞으로 정보화된 자우 시장경제체제의 사회에 있어서 정보의 합리적인 처리는 개인적인 삶뿐만 아니라 국가의 존립을 좌우하는 중대한 과제가 되고, 인공지능은 바로 이러한 합리적인 정보처리의 핵심부를 형성하게 된다. 따라서 어느 시대 어느 사회에서든지 그 삶의 현실의 근본을 음미 · 비판하고 이를 바람직한 방향으로 이끌어온 철학은 현시점에서 인공지능에 대한 성찰을 하지 않을 수 없다. 이와 같은 정보 사회로의 변화를 근거로 하여 인공지능의 철학적 성찰이 필요함을 역설하는 유형의 논변을, 필자는 '정보사회에의 논변' 으로 호칭하기로 한다.

인공지능에 대한 철학적 성찰은 사회변화에 부응키 위해 요구될 뿐 아니라 인공지능 연구의 내적 필요에서 기인되기도 한다. 기계인 컴퓨터에게 인간의 지능을 부여하려는 것이 인공지능이라고 할 때, 인간의 지능이나 지성, 또는 이성으로 호칭되어온 것들이 무엇이며 그들이 어떤 기능을 발휘하는지도 알아야 할 것이다. 지능을 가졌다는 것은 일차적으로 '생각하는 기능' 을 발휘하는 것으로 풀이된다. 그렇다면 '생각한다' 는 것, '단계를 밟아 생각한다' 는 것, '조리있게 생각한다' 는 것 등이 무엇을 의미하는지를 물어야 한다. 그렇게되면 자연히 사고의 구조를 밝히는 형식논리와 연결되게 마련이다. 논리를 무시하고서는 조리있게 생각할 수 없기 때문이다. 그리하여 인공지능은 우선 형식논리를 근간으로하여 구성된다. 그리고 나아가 형식논리적으로는 다룰 수 없으나 합리적 사고라고 할 수 있는 것들, 넓은 의미로 이성적인 것으로 알려진 것들까지도 인공지능이 수행할 수 있어야 지능을 지닌 기계라고 할 수 있을 것이다. 철학이 오랜역사에서 다뤄온 주제가 이성의 문제다. 그처럼 이성과 논리의 파악이 인공지능 구성에 선행 조건이라고 할 때, 인공지능의 연구에서는 철학적 성찰이 불가결하다. 이와 같은 논거들을 '이성논리에의 논변' 이라고 하자.

희랍 신화의 프로메테우스는 흙을 이겨서 사람을 만들고 하늘에서 불을 훔쳐내 사람에게 주었다고 한다. 이에 분노한 제우스 신은 프로메 테우스를 코카서스의 큰 바위에 동여매놓고, 사나운 새에게 장기를 쪼아 먹히게 하는 형벌을 주었다는 것이다. 이 이야기는 현대 과학기술문명을 평가하는 상징으로도 자주 인용되고 있다. 인류의 문명은 불을 지배하고 사용하는데서부터 시작되었는데 불의 지배는 오늘날에도 모든 기술의 근본으로 상징된다. 불을 지배하게 된 인류는 신들처럼 막강한 힘을 얻어, 드디어 신들의 지배를 벗어나 신들과 대적할 지경에 이르렀다. 인류의 기계문명은 신통한 재주를 부리게 되어 방대한 힘을 사용할 수 있게 되었음을 연상케 한다. 인간의 과학기술은 편리와 풍요의 혜택을 끝없이 추구하지만, 반면에 생태계를 파괴하고 각종 오염을 초래하며 핵무리와 같은 가공할 만한 무기생산으로  인해, 자멸의 불안 속에서 프로메테우스처럼 오만과 불경의 형벌을 대가로 치러야 하는지도 모를 일이다.

인공지능 연구자들은 현대판 프로메테우스로 보여지기도 한다. 인간 특유의 기능으로 믿어온 지능 (지성, 또는 이성) 을 인간세계에서 훔쳐내 자기가 만든 기계인 컴퓨터에게 부여하려는 것이 인공지능 연구자들의 작업으로 풀이될 수도 있으니 말이다. 인간은 인공지능의 개발로 많은 혜택을 보게 되자만, 공상소설들에서처럼 인간이 만든 지능 로봇들이 인간들처럼 막강한 힘을 보우하게 되고 드디어 인간의 지배로부터 벗어나 인간과 대적하는 상상도 해봄직하다.

그러면 불을 인간에게 준 것처럼 '인간이 지능을 기계에게 부여하려는 작업' 은 도대체 무엇을 의미하는가? 그 일은 과연 현실세계에 있어서 가능한가? 그리고 그것이 가능하다면 어떤 의미에서 가능하고, 불가능하다면 어떤 의미에서 그런지도 알아보아야 한다. 그리고 비록 그것이 가능하다는 사실이 확인되었다고 하더라도 그것이 그대로 그런 일을 해도 좋다는 근거는 아닐 것이다. 다시 말하면 인공지능의 윤리문제들을 포함하는 가치판단은 별도로 논의되어야 할 것이다. 그러나 어떤 의미로 어떤 유형의 인공지능이든 그것이 가능하다는 결론이 있어야 그것에 관한 가치판단이 논의될 수 있음은 분명하다. 즉, 인공지능의 가능성 문제는 그 가치 문제에 선행한다.

이미 미국과 일본 등의 선진국들이 인공지능 개발경쟁을 벌이고 우리 정부도 서방 선진 7개국을 따라가기 위한 사업으로 알려진 'G7 프로젝트' 에 인공지능 분야를 포함시키고 있다. 우리의 독자적인 기술개발을 추진해야 하는 현시점에서 인공지능의 가능성을 문제삼는 것은 무의미하게 여겨질 수 있다. 뿐만 아니라 인공지능의 여러 특수 분야에서 열심히 노력하는 분들에게 이러한 물음은 오히려 용기를 잃게 할 수도 있다. 그리고 실무적인 수준에서는 철학적 반성의 필요를 별로 느끼지 못한다는 사람도 있을 것이다.

그러나 최첨단기술인 인공지능이 모든 일을 그처럼 잘 해낼 수 있다는 우리의 통념은 과연 절대적인가? 우리가 많은 노력과 시간 그리고 비용을 투입해야 하는 큰 일일수록 기대할 수 있는 범위는 무엇이며 기대를 걸어서는 안 되는 것은 무엇인지도 철저히 검토해야 할 것이 아닌가? 따라서 전체적인 시각에서 여러 요인들을 종합적으로 검토하는 철학적 성찰이 요구된다. 이런 종류의 논거를 '전체 종합에의 논변' 이라고 부르기로 하자.

인공지능의 분야에서 모든 일들이 순조롭게 잘 될 때에는 구태여 철학적 성찰이 필요 없을 것이다. 하지만 그 연구가 장벽에 부딪혔을 때나 새로운 영역을 개척하려고 할 때, 철학의 전체적이고 종합적인 성찰이 요망된다. 우리가 전제로 하고 있는 바들을 되묻고 그것들을 한층 더 넓은 시각에서 바라보며 철저히 단계적으로 음미해야 하기 때문이다. 그런데 인공지능의 분야에는 너무나 많은 새로운 영역들이 열려 있으며 난문들이 여러 곳에서 발견되고 있다. 인공지능은 단순한 기술이 아니다. 우리가 설령 그것을 기술이라고 부르더라도 그것은 단순한 수공업적인 기술이 아니라 이론을 함축한 기술이며, 그 이론도 어느 특정한 하나의 개별과학의 이론을 기반으로 한 것이 아니라 심리학, 신경생리학, 언어학, 컴퓨터 과학 등 많은 과학들의 학제적 이론을 바탕으로 하는 기술이다.

뿐만 아니라 인공지능은 기술이나 과학의 차원을 넘어 그 자체가 하나의 철학적 지평에 이르고 있다. 인공지능의 연구 자체가 철학함의 한 가지 유형으로 간주되어야 한다는 말이다. 많은 과학들을 통일적으로 파악해야 하고 항상 자신의 기초를 되물어야 하는 철학적 작업이 인공지능에서는 필수적이다. 그리하여 인공지능 분야에서는 전문서들 뿐만 아니라 일반 교과서들에서도 그 기술이나 이론의 철학적인 배경을 연관지어 논하는 경우가 많다.

전문가 시스템을 의학분야에 적용하는 MYCIN에서 우리는 그 대표적인 사례를 발견하게 된다. 예컨대, 쇼틀리퍼와 부하난의 <의학에 있어서 부정확 추리의 한 가지 모델> 은 확률론의 철학적 배경을 상세히 설명하고 있다. 또한 인간 지능의 기능 중에서 특히 학습능력을 배양키 위해 교과서로 널리 쓰여지는 카보넬이 편집한 '기계학습 (Machine Learning)' 분야에서는 기계학습의 패러다임으로서 철학적 배경을 기본적으로 소개하고 각 패러다임을 적용할 때 나타나는 장점과 결점을 종합적으로 검토하고 있다. 그리고 인공지능의 가능성을 부정하는 드레퓌스의 논변을 보아도, 그것은 그 이론과 기술의 비판에 그치는 것이 아니라 인공지능 구성의 철학을 비판하는 작업을 근간으로 하고 있음을 알 수 있다.

Ⅱ. 인공지능의 철학적 배경

'인공지능 (Artificial Intelligence)' 이라는 말은 1950 년대 뉴웰 (A. Newell) 과 사이먼 (H. Simon) 등에 의해 만들어졌으며, 이들의 기본 사상을 호질랜드 (J. Haugeland) 는 좋은 구형 인공지능이라는 뜻으로 'GOFAI (Good Old-Fashioned Artificial Intelligence)' 로 호칭한 바 있다. GOFAI의 역사는 불과 반세기도 못 되었으나, 그 철학적 기초는 고대 희랍의 소크라테스로부터 유래되는 이성주의 철학에 뿌리를 두고 있다. 인간의 지능을 컴퓨터에게 부여하려는 인공지능의 연구는 이성의 문제를 오랫동안 성찰해온 이성주의 철학으로부터 그 연원을 찾을 수 있다. 이런 맥락에서 인공지능에 대한 이성논리에의 논변도 가능했다. 자연과 사회의 변화를 무질서한 혼란으로 보지 않고 어떤 법칙이나 규칙에 의해 질서가 잡혀 있는 것으로 바라보는 것이 이성적 세계관이다.

소크라테스는 전문가들을 찾아가 그들이 사용해온 규칙들을 알아내 그것을 익힘으로써 전문가처럼 전문적인 일을 하려고 했다. 이와 같이 규칙과 법칙을 찾으려는 것이 서구 합리주의의 기본이며 현대 인공지능에서 개발한 전문가 시스템 (Expert System) 의 철학적 기반이기도 하다. 드레퓌스는 플라톤의 대화편 <유티프로>를 그 실례로 제시한 바 있다. "당신의 행동과 다른 사람들의 행동을 판단하는 기준으로 사용하기 위해 ······ 나는 경건의 특성이 무엇인지를 알고자 합니다." 이러한 방식으로 소크라테스는 경건을 배우기 위해 경건의 일반적 원리나 경건해질 수 있는 방식이나 규칙들을 탐구했다. 그는 단순한 개별적 사례에 만족하지 않고 그들 사례에 공통되는 지배 원리나 규칙들을 찾았고, 그렇게 발견된 원리에 따라 행동하고자 했다.

이 철학적 전통에는 유클리드 기하학의 사상이 첨부되어 엄격한 규칙들을 철저하게 적용할 수 있는 절차가 마련되고 모든 학문의 기초를 확립하려 했다. 이러한 전통은 근대의 홉스, 데카르트, 라이프니츠 등을 거쳐 현대의 사이먼과 뉴웰의 GOFAI로 이어졌다. 인간의 수량적 추리를 하는 데 기계가 도움을 줄 수 있다는 생각은 고대로부터 있었으나, 수 이외의 주제들은 근거를 밝히는 데에도 기계가 도움을 줄 수 있으리라는 생각은 근대에서부터라고 하겠다.

무엇보다도, 인간의 세계 이해는 모두가 적절한 기호표현을 만들어 사용함으로써 가능하다는 데카르트의 사상은 GOFAI의 기반이다. 그 기호적 표현들은 원초적인 요소들로부터 구성된 복합기술로 간주된다. 데카르트의 합리론에서 단순관념을 제거하고 그것들의 결합으로 복합관념을 형성한다는 사상과, 관념들을 자유로이 기호로 표현하고 그 관념들의 결합을 기호결합이나 기호계산에 의해 표현하려고 한 홉스의 기호론은 라이프니츠에 의해 표의기호 (ideogram) 의 계산체계로 종합되었으며, 이것은 오늘날 GOFAI를 가능케 한 기호논리학의 단초이기도 하다. 라이프니츠의 기호는 표음기호가 아니라 보편관념을 표시하는 표의기호이고, 이들 기호의 계산을 위해 그는 결합의 요소가 되는 기호와 결합의 작용을 나타내는 기호를 구별했다. 다시 말하면 라이프니츠는 보편적인 과학언어와 이를 조직화할 수 있는 추리의 계산술이라는 두 개의 도구를 사용하여 모든 과학적 탐구를 개혁하려는 야심적인 구상을 했던 것이다.

칸트의 선험철학에 있어서 개념은 경험으로부터 성립된 산만한 직관상들을 조직화하고 여러 가지 원초적 요소들을 연결짓기 위한 규칙들로 풀이됨에 따라 그것은 GOFAI에 중요한 사상을 첨부한 셈이다. 경험에 앞서 경험과는 독립적인 개념이 경험된 내용들을 구성하여 인식이 가능토록 한다는 칸트의 선험적 구성설은 인식론에 있어서 선험적 형식의 역할을 재평가하도록 했기 때문이다. 19 세기 말 프레게 (G. Frege) 는 한걸음 더 나아가 규칙들을 수학에서처럼 명시적으로 형식화할 수 있는 논리체계로 확립했다. 다시 말하면 그 체계는 직관에 호소하지 않고도, 그리고 의미해석이 주어지지 않은 수준에서도 기호조작이 가능함을 보여주었다.

현대의 전산이론 (the modern theory of computation) 은 주지하는 바와 같이 기호논리학을 수학의 기초에 관한 철학적 문제들에 적용하는 데서부터 생성됐다. 19 세기 말과 20 세기 초의 위대한 수학자 힐베르트 (D. Hilbert) 는 수학이 물리학에 적용되는 바를 음미함으로써 새로운 아이디어를 도출할 수 있었다. 우리가 수학을 적용할 때에는 사물이나 사물들의 상태에 수치를 배정하고 산술을 하는 것처럼, 사물들에 관한 추리를 한다. 사물에 수치를 배정할 때에는 우리가 어떤 물건의 무게를 잴 때처럼 어떤 규약 (convention) 에 의해 기준으로 하는 바를 설정하고 이에 수치와 수학이론의 언어를 연결짓는다. 그리하여 무모순성 (consistency) 과 같은 수학이론의 성질들을 표현하기 위해서는 그 언어의 부분들과 연결된 수학적 관계들이 필요했다. 힐베르트의 프로그램에 의하면 이론을 형식화하고, 그 언어를 산술화하며, 어떤 문장이 정리인지 여부를 결정하기 위한 이론함수가 존재함을 증명한다. 그 함수가 무모순의 성질을 가졌음을 밝힘으로써, 우리는 순수 산술에 의해 한 이론의 무모순성을 증명할 수 있다고 보았다. 다시 말하면 하나의 형식화된 이론에는 그 안에 주어진 어떤 문장이든간에 그것이 그 이론의 정리인지 여부를 결정하는 기계적 절차가 존재한다는 조건이 증명의 전제로 된 것이다.

GOFAI의 철학적 기초가 이성주의 철학이라고 해서 그것은 경험과학을 무시한다고 풀이해서는 안 될 것이다. 이미 그 철학적 성찰의 '전체 종합에의 논변' 에서도 나타났듯이, 인공지능이 현실의 구체적인 문제들을 해결하기 위해서는 그 문제유형에 관여된 경험과학적 성과들이 주어져야 했고, 컴퓨터 과학과 기술을 비롯해 인간의 지능이 작용하는 인지현상에 관한 경험적 연구로서 심리학과 신경과학, 그리고 지식표현의 언어에 관한 경험과학적 연구 등을 전체적인 시각에서 종합해야 했다. 이처럼 GOFAI는 경험과학을 필요로 하면서도 결코 그 경험적인 것들로 해소될 수 없는 철학적 특성을 지니고 있다. 이러한 GOFAI 철학의 선험성은 이미 지적했듯이 형식체계를 구성하는 것으로 제시되었으며, 이 형식체계에는 유클리드로부터 힐베르트에 이르는 수학적 사고와 현대에 개발된 기호논리의 추리 엔진이 장착된 셈이다. 따라서 수학의 기초이론에 관한 수리철학과 논리철학, 인식의 일반적 규범을 모색해온 전통적 인식론, 과학적 지식의 메타이론으로 등장한 현대의 과학철학, 기호의 일반이론을 포함하는 언어철학, 지성의 능력문제에 관여된 심리철학과 그 기본 전제들의 형이상학 등이 인공지능의 철학적 성찰의 영역을 이루게 된다. 그리고 인공지능은 특별히 어떤 산물을 목표로 하기 때문에, 그 산물의 가치에 대한 철학적 성찰에는 가치판단을 포함하는 윤리학이 개입된다.

Ⅲ. 인공지능의 비판적 성찰

인공지능은 이처럼 철학의 여러 분야와 긴밀히 연결되어 있으나 그 중에서도 인공지능의 가능성에 관한 철학적 논의가 선결과제다. GOFAI의 초기 학자들은 인공지능의 실현문제가 불과 수십 년내에 실질적으로 해결될 수 있을 것이라고 낙관했으나, 그런 낙관론은 여러 측면에서 비판받게 되었다. 우선 GOFAI에서는 형식화될 수 있는 것만을 다루게 마련인데 인간의 지능은 비형식적인 것들에 대해서도 합리적으로 논의하고 있다는 점에서 인공지능은 한계를 드러낸다고 할 수 있다. 물론 현재의 수준에서는 형식화가 불가능한 것들이 앞으로 새로 개발될 논리의 형식화 작업의 덕택으로 형식화될 수 있으므로 그 범위를 미리 속단하기는 어려울 것이다. 그러나 형식화의 한계가 인공지능의 한계임에는 틀림없다. 더욱이 괴델의 불완전성 정리를 컴퓨터에 적용하여 풀어보면, 자연수에서 참이 되는 공리화된 형식이론을 나타내는 유한한 자료들을 입력하면 자연수에서는 참이지만 그 이론의 정리가 아닌 문장을 출력하는 알고리듬이 존재한다는 것이다. 이와 같은 형식이론의 한계는 인공지능의 제약조건이 된다고 하겠다.

"지난 10 년 동안 (1976 ~ 1985) 인공지능은 비약적으로 발전해왔다. 이 기간중에 일어난 과학적 발전이나 기술적 발전들 중에서 가장 중요한 것은 무엇이라고 느끼는가? 이 진보가 이전의 10 년  (1966 ~ 1975) 에 비해 가속화되었다고 보는가, 아니면 난문제들을 공략하는 데 많은 시간을 보냈기 때문에 그 진보의 속도가 감속되었다고 보는가? 그리고 지난 10 년 동안 귀하의 연구에서 가장 중요한 발전은 무엇이라고 생각하는가?"

이런 물음들은 잡지 《 인공지능 Artificial Intelligence 》의 편집자들이 인공지능 전문가들에게 제시한 질문 중의 하나다. 여기서 편집자들은 이미 인공지능의 발전은 당연한 것으로 전제했다. 그러나 응답자들은 대부분 바로 그 전제에 동의하지 않았다. 그 중에는 인공지능이 발전했다는 생각에 대한 극단적인 반론도 있었다. 드레퓌스 (H. Dreyfus) 의 부정적 응답이 그 대표적인 예다.

드레퓌스에 의하면 "지난 25년(1960 ~ 1985) 동안의 인공지능 분야는 라카토스가 퇴행성 연구 프로그램이라고 지칭한 것에 꼭 알맞는 실례다." 인공지능은 뉴웰과 사이먼이 인간의 기호조작의 형식을 모방하는 컴퓨터 프로그램을 제시함으로써 시작되었으나, 드레퓌스는 이 초기 연구를 중요하지 않은 것으로 평가한다. 1970년대에 이르러 소규모 세계에 관한 연구들이 어느 정도 성공함으로써 이 분야의 박사학위논문, 잡지, 심포지엄, 단행본 등이 급증했고 민스키 (M. Minsky) 와 같은 학자들은 인공지능을 창조하는 문제가 한 세대 안에 해결될 것으로 낙관적인 예측을 했다. 그러나 인공지능 연구자들은 '어린이의 이야기 이해 프로그램' , '상식적 지식의 정식화' , '인간이해에 있어서 이미지와 원형 (prototype)' 등의 문제에서 예상했던 것보다 훨씬 더 큰 난관에 봉착했다고 그는 평가한다.

보덴 (M. Boden) 도 인공지능이 지난 10 년 동안 비약적으로 발전했다는 전제에 이의를 제기하면서, 인공지능 연구비와 인원의 규모 그리고 매스컴의 선전 등이 상업성과 정치적 요인 등으로 인해 급격히 성장했다고 하겠으나. 그것이 반드시 이 분야의 지적인 발전을 함축하지는 않는다고 했다. 진보의 대부분은 기술적 유용성이고 과학적 이해가 진보한 것은 아니라는 것이다. 위노그래드 (T. Winograd) 도 인공지능의 이론적 발전이 같은 방향으로 지속적으로 발전해왔다는 데에 회의를 표명했다. 컴퓨터 하드웨어는 그 크기와 비용의 측면에서 혁명적인 발전을 하여 방대한 상황에 걸쳐 경제적인 효용성을 지닌 기술들을 적용시킬 수 있게 되었다. 이리하여 이론적 발전보다도 응용과 이익을 강조하는 사람도 있고, 기존 패러다임의 한계를 넘은 어떤 것을 파악하기 위해 학습과 기억 등에 관한 고도의 사변적이고 부정확한 직관에 호소하는 사람들도 출현했다고 본다.  요컨대, 드레뷔스는 인공지능을 퇴행성 연구 프로그램이라 하여 전면적으로 부정하는 태도를 취했으나, 보덴과 위노그래드는 인공지능의 기술적 유용성의 진보를 인정하지만 그것이 그대로 과학적 이론의 발전이라고 볼 수는 없다는 입장을 취했다. 그리고 위노그래드는 방향을 달리하여 생각하면 이론 분야에서도 인공지능이 발전했다고 할 수 있다는 점을 부정하지 않았다. 이것은 인공지능을 퇴행성 연구 프로그램으로 단정하는 드레뷔스와 견해 차이가 있다. 결국 인공지능 비판의 철학으로서 대표적인 것은 드레뷔스의 논지이므로, 여기서는 그 속에 담겨진 철학적 특성만을 검토해보기로 한다.

드레뷔스는 표현불가능한 배경 규범이나 지식을 논거로 하여 컴퓨터가 인간과 같은 지적 행동을 할 수 없다는 근거를 제시했다. 또한 이를 다시금 입증하기 위해 인간의 기술습득의 5 단계를 제시했다. 이것은 앞에서도 지적한 이성논리에의 논변에 반대하는 논거로 간주될 수 있으며, 소크라테스 이래로 오늘날 전문가 시스템의 사상에 이르기까지 2000 여 년 동안 서구 철학을 지배해온 인식근거에 대한 도전이기도 하다. 그 까닭은 기술습득의 가장 높은 단계에 있는 전문가들의 실천적 지식 (know-how) 은, 전통적 인식론에서 상징되어온 바와는 달리, 표현가능한 것이 아니며 규칙들에 의해 지배된다고 보지 않기 때문이다. 드레뷔스는 소크라테스의 전통에 반대하고 오히려 유티프로의 사상을 되살리려고 했다.

5 세대 컴퓨터의 출현으로 정보처리의 양과 속도가 비약적으로 증대될 것이지만 그보다 더 중요한 것은 기계들이 추리능력을 갖는다는 것이다. 다량의 지식들이 기계에 의해 자동적으로 가공되어 인간이 제시한 각종 목적에 기여할 것이다. 즉 의료진단에서부터 생산설계에 이르기까지 , 그리고 경영의 의사결정에서부터 교육에 이르기까지 인간의 각종 목표에 기여할 것이다.

이것은 전문가 시스템의 창시자 중 한 사람인 파이겐 바움 (E. Feigenbaum) 의 말이다. 가령, 전문의사들이 진단에 사용하는 규칙들을 뽑아 컴퓨터 프로그램을 작성한다면 우리는 컴퓨터를 전문의사로 만들 수 있다는 희망이 그 말에는 담겨져 있다고 하겠다.

Ⅳ. 기술습득의 단계와 전문가 시스템

드레뷔스는 전문가 시스템에 반대하고 컴퓨터는 전문가의 일을 결코 할 수 없다는 견해를 밝히기 위해 기술습득의 단계를 구분하여 각 단계의 특성을 상세히 지적했다. 1 단계의 사람은 완전 초보자 (novice) 로 호칭된다. 완전 초보자는 대체로 이 분야의 경험이 없으므로 교사의 가르침을 통해 기술을 습득하게 되는데, 그는 마치 컴퓨터가 프로그램에 따라 작동하듯이 그 기술에 적합한 객관적 사실들과 특성들을 배우고 그것을 기반으로 하여 무엇을 어떻게 해야 한다는 규칙들을 익힌다. 완전 초보자에게는 주어진 일 전체에 대한 정합적 판단력이 없기 때문에 주로 배운 규칙들을 충실하게 잘 따르는 것이 일을 잘하는 것이다. 규칙들을 배워 이에 따라 연습하기에는 바쁘기 때문에 이 단계에서는 충고를 듣고 대화를 나눌 여유가 매우 제한되어 있다. 결국 여기서 배운 사실이나 규칙 등의 요인들은 모두가 특수상황을 고려하지 않은 것들이므로 맥락자유 (context-free) 의 것이다. 완전 초보자의 심리과정은 명시적 규칙들과 맥락자유의 요소들만을 고려하므로 디지털 컴퓨터가 쉽게 모방할 수 있다.

2 단계는 상급 초보자 (advanced beginner) 의 단계다. 실제상황에 맞는 경험을 어느 정도 얻었기 때문에 상급 초보자는 그 상황에 추가돼야 할 의미 있는 요인들의 뚜렷한 사례들을 기록하게 된다. 맥락자유의 사실들과 정교한 규칙들을 다루는 능력을 터득하고 난 후에는, 그 실제경험이 해당 기술세계에 대한 학습자의 생각을 넓히는 데 중요한 영향을 준다. 그는 충분한 수의 사례들을 보고 나서 그것을 인지하는 법을 배우고, 그 경험을 기반으로 하여 인지된 새로운 상황의 측면들을 지시할 수 있는 주관적 원리들을 마련한다. 상급 초보자는 완전 초보자보다 개선되긴 했으나 아직 규칙준수의 질 문제를 따질 정도는 못 되고 실행을 잘하는 일에 몰두하며 느리고 정돈이 잘 안 되어 힘들어 하기 마련이다. 그러나 구체적 사례들로부터 상황의존적인 특성들을 배우는 능력은 사람들에게는 쉬우나 컴퓨터에게는 불가능한 것으로 평가되었다.

3 단계는 유능한 실행자 (competence) 로 지적된다. 경험이 증가됨에 따라 구체적 상황들에서 나타나는 특성들과 특정한 관점들을 설명할 일이 많이 쌓이게 된다. 폭발하는 정보에 대응키 위해 유능한 기술자는 단계별로 의사결정을 하는 절차를 배우게 된다. 그 상황을 조직화하는 전망이나 목표를 하나 선정하여 계획함으로써 관련된 소수의 사실과 특성만을 음미하는 것이 중요하다. 그렇게 함으로써 그는 자신의 실행을 단순화하고 개선해갈 수 있다. 목표선정에 있어서 완전 초보자는 객관적 절차에 의해 수행하고, 상급 초보자는 충분한 수의 사례들이 확인될 때까지 특수상황의 측면들을 인지하여 이용하지만, 능력 보유자로 행동하기 위해서는 조직화할 수 있는 목표나 전망을 하나 선택할 필요가 있다. 이 일은 단순하지 않다. 이런 선택은 행위자와 그 환경의 관계를 근본적으로 변화시키는 계기가 된다.

4 단계는 숙련 기술자 (proficient) 의 차례다. 능숙한 기술자는 대체로 그의 과제에 몰두해 있으며 근래에 사태를 다뤄온 결과로 얻은 특정한 시각을 갖고서 과제를 관찰한다. 이런 시각을 가진 결과로 그 상황의 어떤 특성들은 뚜렷이 드러나고 그밖에 다른 특성들은 배경으로 물러나거나 무시된다. 그 후에 나타난 사실들이 그 뚜렷한 특성들을 수정해감에 따라 계획이나 기대를 점차로 바꾸게 된다. 심지어는 중요하다거나 뚜렷한 특성으로서 나타난 특성마저도 변화된다. 이 과정에서는 선택이나 숙고가 첨부되지 않는다. 능숙한 기술자가 과제를 이해하고 조직화하는 것은 직관적이며 자연적으로 적중하는 것이고 언제나 사전의 경험에 의해 명시적으로 사고하는 것이 아니다. 물론 그가 의식적인 노력을 하지 않고도 진행되는 사태를 이해하지만 그는 아직도 자신이 무엇을 할 것인지에 관해서는 분석적으로 사고한다.

끝으로는 전문가 (expert) 의 단계다. 자신의 기술의 활동세계에 몰두해 있는 숙련 기술자는 해야 할 필요가 있는 것이 무엇인지는 알지만 그것을 어떻게 할 것인지는 의식적으로 결단한다. 그러나 전문가의 경우는  상황적인 이해가 마음에 솟구칠 뿐 아니라 적절한 행위들도 연상된다. 전문가는 고장났을 경우를 제외하고는 절차에 대해 의식적으로 알려고 하지 않고도 이해하고 행동하며 결과들로부터 배운다.

우리가 걷고 말하고 자전거를 타고 자동차 운전을 할 때 보통 의식적으로 심사숙고해서 의사결정을 하는 것이 아니다. 전문가의 기술은 그 자신의 일부가 되므로 그 기술을 인지할 필요가 없다. 이것은 마치 그가 일상적 동작에서 자신의 몸을 움직인다는 것을 낱낱이 알 필요가 없는 것과 마찬가지다. 실제로 도구나 기구들은 전문가의 신체를 확장한 것이 된다. 전문 운전자는 일반적으로 어떠한 인지작용 없이도 서행이 필요한 때에는 느낌과 친숙함에 의해 알아차리고, 대안들을 비교 평가하지 않고도 행동하는 방법을 일반적으로 알 게 된다. 그는 그의 행동을 의식적으로 알려고 하지 않고도 적절한 때에 기어 변속을 한다. 초보자는 발견법으로 프로그램화된 컴퓨터처럼 규칙들과 사실들을 사용하는 추리를 하지만, 많은 경험과 재능을 갖게 된 전문가는 규칙들을 적용하지 않고도 무엇을 해야할 것인지를 직관적으로 파악한다.

드레뷔스는 이러한 기술습득의 5 단계를 통해 "전문가의 전문성이 반드시 추론을 포함한다" 는 전통적인 생각이 잘못되었다고 지적한다. 이 논지는 곧 소크라테스로부터 현대 전문가 시스템의 지식공학을 설계하는자들에 이르기까지 그러한 편견에 사로잡혀 있다는 말이 된다. 따라서 전문가는 자기의 전문영역에서 자신이 알고 있는 것이 무엇인지 항상 알고 있는 것은 아니다. 우리가 전문가에게 엄밀한 규칙들을 요구한다면 그는 초보자의 수준으로 되돌아가서 기억나는 규칙들, 그러나 전문가로서는 이미 사용하지 않은 지 오래된 규칙들을 말하게 될 것이라고 한다. 이리하여 드레뷔스에 의하면 "만약 그대가 그것을 설명할 수 없다면 그대는 그것을 이해하지 못한 탓이다" 는 소크라테스의 슬로건은 거꾸로 되어야 한다고 반박한다. 즉 "누구든지 자기의 기술을 충분히 설명할 수 있다고 생각하는 사람은 전문가적인 이해를 하지 못한 것이다." 이런 의미에서 전문가와 같은 전문가 시스템의 설계는 불가능하다고 할 것이다.

Ⅴ. 인공지능과 철학

지금까지 논해온 바를 되돌아보면, 우선 인공지능의 철학적 성찰이 필요하다는 논거를 정보사회에의 논변, 이성논리에의 논변, 전체 종합에의 논변, 이렇게 세 가지로 크게 구분하여 검토하는 데서부터 시작했다. 그리고 인공지능의 철학적 배경으로는 이성논리에의 논변이 근거로 하는 이성주의 철학의 사적 맥락을 중심으로 수학의 기초와 논리 사상을 간략하게 개관했으며, 이를 비판하는 견해들과 드레뷔스의 기술습득의 5 단계를 통한 반론을 그 대표적인 사례로 서 살펴보았다.

철학적 성찰은 긍정적 귀결에서만 가치 있는 것이 아니라 드레뷔스의 비판에서처럼 부정적인 결론에서도 중요성이 나타난다. 그 비판은 우리들에게 기호처리가 가능한 영역을 보다 확실히 자각하도록 했으며 인공지능에서 의사결정을 할 때 고려해야 할 중요한 요인을 제공하기 때문이다. 우리가 전문가 시스템에서 전문가의 지능적 활동 모두를 문자 그대로 실현하려고 한다면 드레뷔스의 비판은 적중할 것이다. 그렇다고 해서 그것이 이성논리에의 논변 전체를 거부하는 반증사례로 간주하기는 어렵다. 왜냐하면 인공지능을 포함하는 현대의 기술들은 이론을 가진 기술 (theory-laden technology) 이며 그 이론은 규칙들이나 법칙들이 논리적으로 조직화된 것이라 풀이할 때, 이성논리에의 논변을 무시하고 이론 없이 습득한 수공예적인 기술의 수준만을 모델로 삼을 수는 없기 때문이다.

다른 한편, 컴퓨터에게 인간의 지능을 부여하려는 작업은 '지능' , '지성' , '이성' 등의 이름으로 불러온 바들의 기능을 탐구해낼 뿐 아니라 그를 통해 이성적 자아를 새롭게 인식하게 된다. 교육자들이 가르치면서 오히려 새롭게 배우는 바가 많듯이, 인공지능을 만들면서 미처 깨닫지 못했던 지능의 측면을 알아내기도 한다. 예컨대, 우리는 상식적인 일들은 너무나 비근하기 때문에 쉬운 것으로 여겨왔고 주먹구구식의 생각을 하찮은 것으로 무시하고 경멸해왔으나, 인공지능의 연구를 통해 볼 때 상식을 갖고 주먹구구를 할 수 있는 것이 인간이며 그것이 기계에게는 얼마나 어려운 일인지 알 게 되었다. GOFAI 프로그램에 의해 미분, 적분 등 고등수학을 해낼 수는 있어도 어린이들의 상식적 판단을 흉내내기는 어려웠다. 인간의 신경망을 모델로 하는 병렬처리방식 (PDP : parallel-distributed processing) 의 개발로 GOFAI보다 훨씬 개선된 측면도 있으나 인간의 지적인 행동양식을 일반화하여 배울 수 없다면 기계학습은 불가능할 것이고 초보자의 단계를 거치지 않고 전문가가 될 수 는 없으므로, 드레뷔스의 비판은 역설적으로 이성논리에의 논변을 강화한 것으로 풀이된다.

또한 우리가 '인공지능' 의 의미를 달리 생각한다면 드레뷔스의 비판은 결정적인 것이 될 수 없다. '우리도 새들처럼 날개를 갖고 하늘을 날고싶다' 던 인간의 바람을 생각해보자. 그 소망은 비행기의 출현으로 모두 실현되었다고 볼 수 있을 것인가? 아직도 인간이 새들처럼 똑같이 하늘을 날고 있다고는 결코 말할 수 없을 것이다. 이 나무에서 저 나무로 산새들처럼 날 수 없기 때문이다. 그럼에도 불구하고 우리들은 비행기의 출현으로 하늘을 날고자 했던 인간의 소망을 성취했다고 해도 무방할 것이며, 오히려 옛날 사람들이 바라던 것 이상을 성취했다고 할 수도 있을 것이다. 무거운 짐들을 지구 반대편으로 몇 시간 만에 옮길 수도 있으니 말이다. 인간의 지능과 꼭 같은 지능을 훔쳐내 기계에게 주려 했던 현대판 프로메테우스의 시도는 아마도 실패했는지 모른다. 하지만, 기계에게 지능을 부여하려는 인공지능의 바람도, 인간이 하늘을 날고자 했던 바람에서처럼, 그 바람의 내용이 기능면에서 바뀌어질 수 있다면 드레뷔스의 비판은 화살을 빗나가게 될 것이다.

최근 글리머 (C. Glymour) 와 같은 철학자들은, 사람이 전산적으로 생각한다는 가정을 하지 않고도, 그리고 어떤 프로그램은 사람들이 실제로 작업하는 바를 기술한다는 주장을 하지 않고도 인공지능을 연구할 수 있다고 보고 있다. 다시 말하면 인간 지능의 특정한 기능, 예컨대 인간의 특정한 학습방식을 모델화하여 기계를 교육함으로써 인간의 실제학습보다 그 효과를 증대할 수도 있다. 이미 그와 같은 성과들이 부분적으로 나타나고 있으므로, 우리가 앞서 지적했던 '정보사회에의 논변' 과 '전체 종합에의 논변' 도 설득력이 높아지리라고 본다.

정보화 사회는 자유경쟁을 기반으로 하는 시장경제와 결부되어 새로운 사고방식을 요구한다. 악성 허위 정보를 포함하는 다량의 정보가 홍수처럼 밀려들고 그 형태도 다양하다. 이해관계도 다차원에서 고려되어야 한다. 변화가 계절의 변화처럼 비교적 일정하고 고정된 상하의 신분관계에 의해 질서를 유지하던 농경사회의 농토형 철학과는 달리, 역동적 변화에 다차원적으로 대처해야 하는 것이 장터형 철학의 과제이다. 이리하여 인간의 자연적 지능에 직접적으로 호소하는 것만으로는 부족하여 인간 사유의 보조기구가 필요하게 되었다. 컴퓨터를 이용한 정보처리가 요망되며 이를 성찰해야 하는 것이 정보사회의 장터형 철학이 지닌 과제다. 하지만, 그것은 적과 동지, 강압과 굴종, 승리와 패배가 확연히 구획되고 흑백논리가 적용되는 전시의 싸움터형 철학과도 구분된다. 자유로운 거래가 성립되는 관계는 한쪽의 이익이 곧 상대방의 손해를 의미하는 영합게임 (zero-sum game) 이 아니라 서로가 이득이 될 수 있다는 것을 모델로 삼는다. 그러므로 장터형 철학은 싸움터형 철학이나 농토형 철학에서보다 더 전체적이고 종합적인 사고를 요망한다. 이와 같은 상황에서 정보사회에의 논변은 전체 종합에의 논변과 결부된다. 여기서 전체라고 함은 무한한 전체가 아니라 특정한 시간안에 특정한 인간에게 주어진 정보와 배경적 지식 전체를 말한다. 이들을 가능한 최선의 방법으로 종합하기 위해서는 인간의 직관력만으로는 부족하다. 다시 말하면 가능한 상황들이 발생할 확률을 검토하고 그 결과들에 대한 가치판단을 다차원적으로 고려하여 바람직한 의사결정을 하는데 도움이 될 인공지능의 개발은 시대적 요청이다.

 참고문헌

1. 이초식,《인공지능의 철학》(고려대학교 출판부, 1993).

2. Bobrow, D. G. and P. J. Hayes, "Artificial Intelligence : Where Are We?," (1985) , in Artificial Intelligence Volume 25 (Amsterdam,     Elsevier).

3. Buchanan, B. G. and E. H. Shortliffe ed., Rule-Based Expert Systems : The MYCIN Experiments of the Stanford Heuristic     Programming Project (Addison-Wesley, 1985).

4. Carbonell, J. ed., Machine Learning : Paradigms and Methods (The MIT Press, 1989).

5. Dreyfus, H. L., What Computers Still Can't  Do : A Critique of Artficial Reason (The MIT Press, 1993).

6. Glymour, C., "Android Epistemology : Computation, Artificial Intelligence and the Philosophy of Science," in Introduction to the     Philosophy of Science (Prentice Hall, 1992).

7. Haugeland, J., Artificial Intelligence : The Very Idea (The MIT Press, 1985).