데우스 엑스 마키나: 특이점이 온다

<70호>, 2016 봄여름

수습위원 최찬욱

인공지능과 인간의 차이

철학자 루드비히 비트겐슈타인(Ludwig Wittgenstein, 1889〜 1951)은 저서 『철학적 탐구』에서 “기계는 생각을 할 수 없다”고 단정했다. 니씨카 그는 기계의 사고 유무를 확인하기 위해 경험에 의지해야 할 필요가 없다고 말했다. 즉 기계는 인간만의 '생각'이라는 과정을 수행할 수 없으며, 하더라도 그것은 인간의 생각과는 본질적으로 다르다고 선언한 것이 다 . 〈비이센테니얼 맨〉, 〈트랜센던스〉와 같은 인공지능 관련 영화에서, 알파고에 대한 담론에서 많은 사람들은 이와 같이 생각하는 경향이 있다. 심지어 특이점^[각주:1] 이후에 등장하는 초지능^[각주:2]에 대해서도 인공지능의 사고체계가 인간의 그것과 얼마나 유사한가는 관계없이, 인공지능과 인간의 지능은 본질적으로 다른 대상으로 정의된다.

© MIT Technology Review

하지만 과연 그럴까? 인간은 기계적 메커니즘에 의해 움직인다. 사고의 근원인 신경이나 뇌의 경우에도 전기적 자극과 신호, 외부의 자극으로 운용되며, 뇌과학에서 '기계 속의 유령 (Ghost in a machine)’^[각주:3]과 같은 이원론적 세계관은 무의미하다. 우리가 자랑하는 이해나 창의력 또한 물리, 회학적 메커니즘과 각 부위별로 코드된 뉴런의 협응으로 구현된다. 그리고 이와 같은 인간의 사고 메커니즘을 알게 되면, 연구자들은 이를 인공지능에 적용시킨다. 즉 인공지능은 인간이 사고하는 구조를 모방한다. 실제로 우리가 이해, 창의력이라 부르는 행위는 입력된 정보를 분해하여 각각의 구성하여 해체한 뒤 다시 재구성하는 과정이며, 각각의 구성요인 사이의 연결 관계와 내용을 파악하는 일에 지나지 않는다. 전문가 시스템, 기계학습(인공 신경망, 딥 러닝) 등이 바로 인간이 추론, 이해하는 메커니즘을 참고하거나 사고체계를 본 떠 만들어진 인공지능 알고리즘이다.

결론적으로, 인간은 수많은 자연선택을 거쳐 조직된 '생물학적 기계'라는 관점에서, 인간의 지능과 인간이 만든 인공지능은 각기 다른 물질로 구성되어 있으나 같은 메커니즘, 사고체계를 공유하므로 서로 다를 바 가 없다.

 

중국어 방

중국어 방(Chinese Room)이라는 사고실험이 있다. 튜링 테스트^[각주:4]로는 기계의 인공지능 여부를 판정할 수 없음을 논증하기 위해 고안한 사고실험이며 내용은 다음과 같다. 어느 방에 중국어를 모르는 사람을 두고 중국어로 된 질문 목록과 그에 대한 중국어 대답이 적힌 목록 및 필담 도구를 넣어 둔다. 중국인 심사관이 그 방 안으로 중국어 질문을 써서 넣는다면 내부의 사람은 중국어를 전혀 할 줄 모르지만 목록을 따라 그에 대한 대답을 중국어로 써서 심사관에게 건네줄 수 있다.

외부의 관찰자 입장에서 방 안의 사람은 중국어를 할 수 있는 상태로 보이지만 실제로 방 안의 사람은 중국어를 전혀 모르고, 질문과 대답도 전혀 이해하지 못 하는 상태다. 따라서 문답을 완벽히 한다고 해도 문서화된 프로그램을 따를 뿐이므로 방 안의 사람이 중국어를 이해하거나 자신이 하는 일의 내용을 제대로 의식한다 할 수 없다. 그 방 안의 '사람’은 그저 컴퓨터에 '불과'하기 때문에 결국 그 사람은 해당 과정에 대해 전혀 이해하지 못한다. 따라서 이 논증에 따르면 튜링 테스트를 통과한 기계가 실제로 지능을 가지고 있는지, 아니면 단순히 저장된 답변을 하는지 구분할 수 없으며, 정해진 법칙만 따를 줄 아는 컴퓨터는 자신의 행동을 인식하거나 이해할 수 없다. 보다 가까운 예로 바꾸어 말한다면 알파고는 바둑을 둘 때 입력된 최선의 수만 도출해낼 뿐. 바둑에 대해서는 전혀 이해하지 못한다는 것이다.

이에 대한 대표적인 반론은 '시스템 관점에서의 반박'이다. 만일 중국어 방에서 완벽한 중국어가 나온다면 이는 그 과정과는 관계없이 하나의 '시스템'이며. 곧 시스템 단위로 봤을 때는 중국어를 할 수 있다고 봐야한다는 주장이다. 시스템에 대한 정확한 이해를 위해 인간의 뇌와 뉴런의 관계를 예시로 든다면, 개개의 뉴런은 각각의 뉴런이 구성한 전체 시스템인 '나’라는 개념에 대해서, 나아가 자기 자신이 누군지 알지 못한다. 더 확대해본다면, 매 순간마다 뉴런 내에서 벌어지는 수없이 많은 화학 반응은 물리 법칙에 따라 일어나는 데 화학 작용이 ''자신''이라는 개념을 알고 있을 가능성은 없다. 하지만 뉴런과 시냅스의 집합인 인간의 뇌는 시스템 전체를 인식하며, 중국어를 알고 완벽한 중국어를 구사할 수 있다. 따라서 각 단계가 전체의 과정을 인지하거나 이해하지 않더라도 전체가 올바른 결과를 도출하고 전체 과정을 달성한다면, 해당 시스템을 지능을 가진 존재로 인식해야 한다.

"설령 사람 자신이 직접 볼 순 없다 해도 중국어에 대한 이해는 프로그램의 전체 패턴에, 그리고 사람이 프로그램을 따르기 위해 조작해야 하는 수많은 부품들에 널리 퍼져 있는 것이다. 나는 영어를 이해할 수 있지만 내 뉴런 각각은 할 수 없다는 사실을 떠올려보라. 이해는 신경전달물질의 농도, 시냅스의 갈라진 틈, 개개의 뉴런 연결이라는 다양한 패턴들에 체화되어 있는 것이다." -레이 커즈와일, 『특이점이 온다』

 

인공지능 개발은 경계의 대상이자 불경스러운 것일까?

"인공지능은 자신의 행동을 이해하지 못하고, 창작을 할 수 없다"는 식의 편견이 발생하는 이유는 인간이 사고를 자신만의 고유한 능력으로 인식하기 때문이다. 이런 생각은 고대 그리스에서 유래한 '자연의 계단(scala naturae)’이라는 인간중심적, 동물중심적 개념에 의하는데, 생물 종을 우열에 따라 배치한 자연의 계단에서 인간은 모든 생물종보다 우월하여 최상위에 존재한다. 역으로, 가장 하등한 식물은 최하위에 있으며 다른 동물은 그 사이에 위치한다는 개념이다. 조금 다른 예지만, 독일의 철학자 이마누엘 칸트는 저서 『순수이성비판』에서 인간의 이성이 지닌 한계를 지적하며 인간 인식에 선험적 형식을 도입하는 이른바 ’코페르니쿠스적 전환'(Kopernikanische Wendung)을 시도했다. 이는 인간이 대상을 있는 그대로 인식하지 않고, 인간의 인식이 대상의 관념을 만들어낸다는 생각이다. 인간은 자신이 아는 대로 그 대상이 있다고 믿는다는 것이다. 인공지능을 접하는 일반 대중에게 이와 같은 초월론적 관념론은 아직 유효하다.

 

종족의 우상

인공지능 개발에 대한 근본적인 두려움, 테크노포비아는 바로 배타적 우월성을 잃어버리는 데에서 기인한다. 과학철학에 패러다임의 전환이라는 용어가 있다. 패러다임의 전환, 과학혁명의 부차적 업적은 인간을 자기중심적인 왕좌에서 끌어내렸다는 사실이다. 과학적 진리는 때로는 인간을 종족의 우상^[각주:5]에서 벗어나게 한다. 대표적인 예로 코페르니쿠스의 지동설은 자신이 우주의 중심이라 생각하던 인류의 지리적 우월성을 박탈했고, 다윈의 진화론은 인간의 조상이 동물의 조상과 같다고 주장하여, 자신이 고등동물이라 생각하던 인간에게서 생물학적 우월성을 박탈했다. 그리고 이제 인공지능은 인류에게서 지적 우월성을 박탈하고, 전체 세계를 정신과 물질로 양분하는 이원론적 세계관의 근간을 뒤집는다. 인간이 자기자신에게 부여한 신성이 해체된 것이다.

 

무지는 두려움을 만든다

중세시대 토마스 아퀴나스에 의해 정립된 아리스토텔레스의 학설과 기존의 패러다임 때문에 당시의 과학은 침체되었고 새로운 사상과 반론은 탄압받았다. 당시 대다수의 사람들에게 관련한 논의는 불경한 것이자 공포의 대상이었다.

우리는 중세시대를 암흑기라 부른다. 우리의 후손들이 인공지능에 대한 논의가 마련되지 못한 우리 세대를 암흑기라 일컬을지도 모를 일이다. 인공지능은 아직 우리가 기대하는 정도-초지능-까지 발전하지는 못했다. 그러나 일반 대중의 과학에 대한 탐구와 이해는 과학기술에 대한 철학적 논의에서 과학과 사회의 접점에 대한 구체적이고 실천적 논의로 나아가는 데 징검다리 역할을 해준다. 따라서 인공지능의 적절한 활용과 개발을 위해 신경과학과 인공지능의 발달로 인해 드러난 이원론적 세계관의 한계에 대해 논의하며, 기술발전에 대한 두려움을 버리고 그 실체를 제대로 이해하는 것이 중요하다.

© D a vid Brin

1. 미래에 기술 변화의 속도가 급속히 변함으로써 그 영향이 넓어져 인간의 생활이 되돌릴 수 없도록 변화되는 기점 또는 인간의 인식수준이 기술발전의 속도를 따라잡지 못하는 시점. "인간들은 곧 우리의 지능보다 더 뛰어난 지능을 가진 기계를 발명해 낼 것이다. 그리고 이러한 발명이 이루어질 때 우리는 특이점의 시대를 맞아들이게 될 것이다. 블랙홀의 중심에서 더 이상 되돌아 갈 수 없는 상의 지평선이 이루어지는 것과 같이, 우리는 더 이상 이전의 무지의 상태로 되돌아 갈 수 없게 될 것이다." -버너 빈지. 1983 [본문으로]
2. Superintelligence, 인간의 지능을 초월하는 인공지능을 의미한다. [본문으로]
3. 심신 이원론의 일종으로서, 결정론에 맞서 인간의 마음은 육체로부터 독립적이며 행동은 어떤 원인에 의한 것이 아니라 자유 의지에 의해 자유롭게 선택되는 것이라는 르네 데카르트의 학설 [본문으로]
4. 지성 있는 사람이 관찰하여 컴퓨터로부터의 반응을 인간과 구별할 수 없다면 컴퓨터는 생각(사고. thinking)할 수 있다고 간주해야 한다는 주장이다. 『The Turing Test』, Stanford Encyclopedia of Philosophy, http://plato.stanford.edu/entries/turing-test/ [본문으로]
5. the idols of the tribe, 베이컨이 주장한 네 가지 우상 중의 하나. "종족의 우상은 인간성 그 자체에, 인간이라는 종족 그 자체에 뿌리박고 있는 것이다. '인간의 감각이 만물의 척도다'라는 주장을 생각해보면 쉽게 이해가 갈 것이다. 이것은 물론 그릇된 주장이지만, 인간의 모든 지각은 감각이든 정신이든 우주를 준거로 삼는 것이 아니라 인간 자신을 준거로 삼기 쉽다는 것을 여실히 보여주는 말이다. 표면이 고르지 못한 거울은 사물을 그 본모습대로 비추는 것이 아니라 사물에서 나오는 (반사)광선을 왜곡하고 굴절시키는데, 인간의 지성이 꼭 그와 같다.” 인간은 어떤 것을 한번 믿으면 이와 일치하는 사실만 받아들이고 어긋나는 사실은 무시하는 경향이 있다. 이러한 믿음에는 인간이 가진 생물학적 특징이나 사회적 정서 및 편견들이 포함된다. 베이컨 시대의 사람들이 지구가 우주의 중심이라 생각하거나 또한 자연을 의인화하여 보는 것이 종족의 우상이다. 베이컨『신기관』 (해제), 2006, 서울대학교 철학사상연구소 [본문으로]