사람을 공격한 로봇 청소기 

2015년 한국에서는 로봇 청소기로 인한 사고가 있었다. 창원에서 가정주부가 둥그런 모양의 로봇 청소기를 켜놓고 낮잠을 자다 머리카락이 말려들어가는 일을 겪은 것이다. 사고를 당한 주부는 로봇 청소기의 무게 때문에 일어날 수조차 없어 119 구조대까지 불러야 했다. 결국 구조대원이 청소기를 분해하고 가정주부의 머리카락을 꺼낸 다음에야 상황이 종료됐다. 

이 사고는 국내 일간지는 물론 외신을 통해 전 세계에 보도되었는데, 외신 기사들에서는 상당히 흥미로운 지점들을 발견할 수 있다. 

“불길한 로봇이 주인을 공격하고, 머리를 먹으려고 했다” 
“로봇 진공청소기가 여인을 잡아먹었다” 

외신 보도에서는 놀랍게도 로봇이 어떤 의도를 가진 것처럼 묘사한 기사 제목이 많았다. 이는 특히 ‘공격(attack)’이라는 단어를 사용했다는 점에서 잘 나타난다. 

이 사건이 있은 후 한 블로거는 2015년에는 로봇 청소기가 사람을 공격했지만 2016년에는 터미네이터가 인간을 공격하러 올 것이라며, 로봇 청소기 사건은 하나의 전조일 뿐이라고 주장하기도 했다. 다행히(?) 현재까지는 아무 일도 일어나지 않고 있다. 

로봇의 진화, 새로운 인류로서의 로봇 

사실 로봇이 인간을 공격한다는 논의는 1920년 체코 작가 카렐 차페크(Karel Capek)가 출간한 <R.U.R.(Rossum’s Universal Robots)>이라는 희곡에서 등장했다.

영국뿐 아니라 유럽 전역에서 공연됐던 이 희곡은 당시로서는 매우 센세이셔널한 내용을 담고 있었다. 로섬이라는 과학자가 일을 시키기 위해 로봇을 발명했는데, 굉장히 힘이 세고 어느 정도 지능도 갖고 있으며, 사람 말을 잘 따르면서 사람이 시키는 일을 잘하는 충실한 하인이었다. 

이야기 속에서 로봇은 공장에서 일하던 사람들을 대체하기 시작한다. 그 결과 물건들이 매우 값싸게 만들어지고, 사람들은 빈둥빈둥 놀거나 아주 소수의 사람들만 공장을 관리하면 되는 풍족한 세상이 된다.

하지만 로봇 생산 공장에서 이상한 일이 발생하면서 로봇들이 사람의 말을 듣지 않고 결국 반란을 일으키게 되는데, 로봇들은 많은 사람들을 죽이고 결국 인류는 멸망 직전까지 몰린다. 

그리고 이야기의 끝에서 남은 유일한 사람이 로봇을 없애려고 시도하다가 결국 그 시도를 포기하고는, 너희들이 세계의 아담과 이브가 되어서 생명체의 시작을 이루라는 식으로 로봇에게 지구의 주인 자리를 양보하게 된다. 이 이야기에서는 인간이 만든 대상이 결국 인간의 손으로 제어할 수 있는 영역을 넘어선다는 사고를 엿볼 수 있다. 

로봇에 대한 두려움, 로봇의 제0법칙 
20세기 중엽이 되면 자동화(automation)에 대한 우려가 본격적으로 표출되기 시작한다. 로봇이 인간을 공격하지 않게 하려면 원칙이 있어야 한다고 생각한 공상과학소설(SF) 작가들이 목소리를 내기 시작했는데, 유명한 SF 작가 아이작 아시모프(Isaac Asimov)는 최초로 로봇의 3가지 원칙을 얘기했다.

첫째, 로봇은 인간에 해를 가해서는 안 된다. 둘째, 로봇은 인간의 명령에 복종
해야 한다. 마지막으로 첫 번째와 두 번째 원칙을 위배할 때를 제외하고 자신을 보호해야 한다. 

아시모프는 이 3가지 원칙을 잘 지킨다면 로봇이 인간에게 해를 입힐 수 없을 것이라 생각했다. 하지만 사람들은 이 원칙들을 지켜도 로봇이 인간에게 해를 입힐 수 있음을 찾아냈다. 예를 들어 사악한 세계의 지배자가 로봇에게 지구의 나무를 모두 베라고 명령했을 때, 나무를 베는 것 자체가 사람을 해치는 일은 아니지만 궁극적으로 인류에 큰 해를 끼칠 수 있는 것이다.

이런 문제 때문에 아시모프는 마지막 법칙을 만들었다. ‘로봇은 모든 인류에게 해를 가해서는 안 된다.’ 이 법칙을 0법칙 혹은 제4법칙이라고 한다. 


로봇은 로봇을 수리할 수 없다? 

2014년에 상영되었던 <오토마타>라는 영화가 있다. 가까운 미래에 핵전쟁이 일어나 인류의 10퍼센트 정도만이 생존해서 방사능이 적은 지역에 큰 벽을 두르고 사는 상황을 배경으로 하는 영화이다.

여기서 로봇이 하는 가장 중요한 일은 방사능을 차단하는 벽을 만들고, 방사능이 강한 벽 외부에서 인간 대신 일을 하는 것이다. 이 영화에 등장하는 모든 로봇에는 두 가지 프로토콜(protocol)이 입력돼 있다.

첫 번째는 어떤 생명체도 해쳐서는 안 된다는 것. 두 번째는 아시모프의 법칙과는 다른 것으로, 다른 어떤 로봇도 건드려서 변형시켜서는 안 된다는 것이다. 다시 말해 로봇이 로봇을 수리해서는 안 된다는 규칙이다.

영화는 한 로봇 회사 직원이 로봇이 스스로를 고치고 있는 상황을 목격하고 이를 회사에 보고하면서 시작된다. 영화를 보다 드는 여러 가지 의문 가운데 가장 큰 것은 ‘왜, 누가 이런 프로토콜을 만들었냐’는 것이다. 영화는 중반 이후부터 이런 질문에 답을 내놓고 있다.

인간은 인공지능을 발전시키다가 어느 순간에 초지능 기계를 만들었다. 인간보다 뛰어난 기계는 또 자신보다 뛰어난 기계를 만들면서 기계의 지능이 급속도로 발전하는 결과를 낳았다. 사람들은 이러한 초지능의 폭발적인 발전에 위협을 느끼고 더 이상 기계가 기계를 만들지 못하도록 한 것이다. 


인간 지능을 뛰어넘는 초지능 기계의 등장 

초지능(superintelligent)에 관해 처음 언급한 사람은 I. J. 굿이라는 수학자이다. 그는 2차 세계대전 당시 연합군 승리의 숨은 주역인 앨런 튜링 밑에서 일했던 사람이다. 그에게서 초지능 기계는 가장 똑똑한 사람들의 지적 능력을 훨씬 초월하는 기계로 정의됐다. 

지금은 아이큐 100 정도인 사람의 지능을 그대로 갖춘 기계를 만드는 것이 터무니없이 불가능한 일이지만, 전문가들 중에는 인공지능이 계속 발전하면 가까운 미래에 이런 성취가 가능하다고 보는 사람들이 많다. 늦게 잡아도 2090년이나 2100년에는 이런 인공지능 기계가 나온다고 예상하는 것이다. 

<초지능>이라는 책을 출판한 옥스퍼드 대학의 유명한 철학자 닉 보스트롬(Nick Bostrom)의 초지능에 대한 논의는 여기서부터 시작한다. 2100년경에 보통 사람의 일반 지능을 가진 기계가 나온다고 가정하고, 그 다음 초지능을 가진 기계가 나오는 데 얼마나 걸리는지를 추정했다.

그는 인공지능이 인간의 일반 지능에 도달하면 초지능 기계의 등장이 매우 빠른 시간 내에 가능할 것이라고 전망한다. 일단 인간 지능에 도달하기만 하면 초지능에 도달하는 일은 순식간에 이루어질 수 있다는 것이다. 몇 년, 아니 불과 며칠 만에도 이게 가능하다고 했다. 따라서 보스트롬은 미래가 아닌 지금부터 당장 초지능에 대비해야 한다고 주장한다. 


초지능이 도래할 시대를 준비하는 법 

특히 보스트롬은 초지능이 인간을 속일 수 있기 때문에 위험하다고 지적한다. 사람은 잘 속이고 속는데, 지능을 가진 기계도 그럴 수 있다는 것이다. 그런데 초지능 기계는 인간이 전혀 예상할 수 없는 방식으로 인간을 속인다는 것이다. 

인간이 자신을 제지하기 전에 스스로를 숨길 것이며, 종횡무진한 연결성을 기반으로 금융과 주식에 참여해서 엄청난 돈을 벌 수 있고, 이 돈을 가지고 자신을 지지해주는 사람들을 동원하는 능력도 가지게 될 것이다.

가장 중요한 지점은 초지능이 무슨 수단을 사용해서라도 자기를 보호하려들 것이라는 점이다. 인간과 초지능의 중요한 차이는, 초지능은 인간이 중요하게 생각하는 가치들, 예를 들어 사랑, 명예, 우정, 행복 등을 조금도 중요하게 생각하지 않을 가능성이 매우 높다는 것이다.

이러한 가치들은 인간이 진화하면서 획득한 것이다. 인간이라는 종은 수백만 년 동안 진화하면서 타인과의 협력이 중요하고 공감이 중요하며, 공감을 위해서는 사랑이 필요하고, 살아남으려면 자식을 낳아야 하며, 자식을 낳으려면 짝을 찾는 과정이 수반돼야 한다는 사실을 몸소 깨달았다. 이런 일들은 생존에 필수적이므로 현대인들도 이러한 가치에 동의하는 것이다. 

하지만 초지능은 이런 식으로 진화를 통해 발전한 기계가 아니기 때문에 그런 가치들을 전혀 중요하게 생각하지 않는다. 다시 말해 인간이 ‘내가 저 인공지능을 만들었으니, 저 기계는 우리 사정을 봐주지 않겠냐’고 생각하는 것은 대단히 큰 오산일 수 있다는 것이다. 인간을 다 죽이는 일이 우리 인간에게는 상상하기 힘들 정도로 비도덕적인 일일 수 있지만, 기계에게는 그렇지 않을 수 있다. 

그래서 무엇을 해야 하느냐? 보스트롬에 따르면 우선적으로 지금부터 초지능이 도래할 시대에 대비해야 한다. 그리고 대비를 위해 먼저 초지능을 인간에게 친화적인(friendly) 것으로 만들 방법을 찾아야 한다. 첫 초지능 기계가 인간에게 적대감을 가진 것으로 나온다면 그 기계는 모두 인간에게 위협적일 것이기 때문이다. 

닉 보스트롬은 특히 초지능을 인간 친화적으로 만들기 위해서는 지능에 어떤 코드를 심어주는 것이 아니라 스스로 배우게 해야 한다고 강조했다. 예를 들어 사랑이라는 중요한 가치를 무조건 기억하라고 하기보다 스스로 그 형태의 가치를 경험하도록 해야 한다는 것이다. 생명을 함부로 죽이면 좋지 않다는 사실을 스스로 깨닫게 하는 것이다. 

초지능에 관한 이러한 이야기들은 당장은 일어나지 않을 일들이기 때문에 황당하게 느껴질 수도 있다. 현재 지능을 연구하는 뇌과학자들은 인간이 뚝딱뚝딱 인공지능을 만들어서 긴 진화를 뛰어넘는 초지능을 탄생시킨다는 것을 과학소설 정도로 치부한다.

반면에 인공지능 연구자들 중에는 70~80년 내로 의식을 가진 지능체를 탄생시킬 수 있다고 믿는 사람들이 많다. 그리고 모두 동의하는 것은 적어도 20~30년 내로는 아무 일도 안 일어난다는 것이다. 

* 글. 홍성욱 <서가명강-크로스 사이언스> 중 [자료 제공=21세기북스]

■ <나침반> 2월호 해당 페이지 안내  

*에듀진 기사 원문: http://www.edujin.co.kr/news/articleView.html?idxno=32480