로봇공학 3원칙과 제로(0)법칙

 

로봇공학 3원칙과 제로(0)법칙

 

 

SF소설의 대부 아이작 아시모프는 1940년 12월 23일 성탄절을 앞둔 저녁에 <어스타운딩>에서 유명한 SF 잡지의 편집장 존 캠벨과 만나 이야기를 나누다가, 문득 로봇을 소재로 한 소설에 관한 매우 흥미로운 아이디어를 떠올렸다.

 

이때 캠벨은 “로봇이 따라야 하는 세 가지 규칙”을 정하자고 제안했고, 아시모프는 이를 다음과 같은 세 가지로 정리했다.

 

1. 로봇은 인간에게 위해를 가할 수 없으며, 인간이 위험한 상황에 처했을 때

   방관해서도 안 된다.

2. 로봇은 1에 위배되지 않는 한, 인간이 내리는 명령에 복종해야 한다.

3. 로봇은 1과 2에 위배되지 않는 한, 자신의 존재를 보호해야 한다.

 

아이작 아시모프가 평생 쓴 글이 정확히 몇 편인지는 아직 아무도 모른다. 단독 저술만 해도 500권이 넘는다는 추측이 있지만, 공저와 편저, 그리고 각종 칼럼과 서문과 추천사 등까지 그의 저술로 간주한다면 그 숫자는 훨씬 늘어날 것이다.

 

로봇 세계의 대헌장이라고 할만한 로봇 공학 3원칙은 현시점에서 봐도 매우 탁월한 논리로 기계 로봇이 나아갈 바를 규정하고 있다.

 

아시모프는 이 3원칙을 이용해서 단편 23편과 중편 3편을 썼는데, 훗날 영화화된 중편 [2백세가 된 남자(바이센테니얼 맨)](1976)와 [나, 로봇(아이 로봇)](1950)에 수록된 9편의 단편도 그 일부분이다.

 

“로봇 공학”(robotics)이라는 말은 아시모프의 신조어로 인정되어 옥스퍼드 영어사전에 수록되기도 했다.

 

아시모프는 이 3원칙의 창시자는 자기가 아니라 캠벨이라고 말했지만, 캠벨은 “그 내용은 원래 자네의 작품 밑바탕에 깔려 있던 것”이라며 그 창시자라는 영예를 극구 사양했다.

 

로봇이란 명칭은 체코의 작가 카렐 차페크의 희곡 [로섬의 만능 로봇(R.U.R.)](1920)에 처음 나왔다.

 

여기 나오는 인간 모양의 인공 생명체의 이름인 ‘로봇’(robot, 일꾼; 노동자)은 체코어의 ‘로보타’(rotoba, 일; 노동)라는 단어에서 비롯되었다.

 

차페크 이후에 나온 대부분의 SF가 로봇을 인간의 적수로 규정하는 천편일률적인 태도를 지니고 있는 것에 반발하여, 아시모프는 로봇이야말로 엄격한 법칙에 따라 운용되는 기계 장치라는 점을 부각시키기 위해서 일련의 작품을 썼다.

 

아시모프는 로봇공학 아버지로 불리게 되는데 기계에 윤리적 통제를 가한다는 발상부터 놀라운 일이며 과학기술의 진보가 인류를 위협해서 안 된다는 철학적 고민을 구체화한 빛나는 업적이다.

 

로봇공학 (Robotics) 라는 용어는 1942년 3월에 첫 출판된 "Runaround" 라는 Isaac Asimov 의 공상과학 소설에서 새로 만들어졌다. 여기서 그는 로봇이 부정적인 면만 가지고 있는 것이 아니라 인간을 돕기 위한 긍정적인 측면도 함께 가지고 있다고 묘사했다.

 

아시모프는 다른 에세이(The Laws of Robitics)에서 이 세 법칙은 모든 도구에 대해 확장될 수 있다고 지적하였다.

 

1. 도구는 안전해야 한다.

2. 도구는 그 기능을 효율적으로 쓸 수 있어야 하며, 단 사용자에게 해를  가해

   서는 안 된다.

3. 도구는 사용 도중 망가지지 않아야 하며, 단 기능이나 안전을 위해서는

   망가질 수 있다.

 

필라델피아 해군 병기창에서 근무하던 시절의 SF 작가 세 사람.

왼쪽부터 로버트 하인라인, L. 스프레이그 디 캠프, 아이작 아시모프. 1944년.

 

로봇은 주인의 사유재산이기 때문에 분실, 파손되지 않도록 항상 관리에 철저해야 한다는 것이 로봇 공학 3원칙의 요지다.

 

Asimov 는 그의 소설에서 다음과 같은 로봇공학의 3원칙 (three "Laws of Robotics") 을 설정했다가 나중에 제로법칙 ('zeroth law') 을 추가했다.

 

언젠가 기계로봇이 인간을 능가할 정도로 진보해도 주인에게 반기를 들지 못하도록 로봇이 지켜야 할 법률체계를 만드는 것이었다.

 

아시모프는 나중에 자신의 로봇 공학 3원칙이 인간을 보호하기에 충분치 않다는 사실을 발견했다.

 

어떤 사람이 로봇에게 "지구의 나무를 모두 태워버려라."라고 명령할 때 개별 인간을 직접 해치는 행위가 아니므로 로봇은 시키는 대로 모든 나무에 불을 지를 것이다. 하지만, 지구상에서 삼림이 사라지면 인류는 엄청난 재앙을 맞이하게 된다.

 

이런 논리적 모순에 부딪힌 아시모프는《로봇과 제국》을 쓰면서 0번째 법칙을 추가하게 된다. 다른 세 법칙도 이 0번째 법칙을 위배할 수 없다.

 

0. 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가

   가도록 해서는 안 된다.

 

이 얼마나 단순하고 명쾌하며 효율적인 법률체계인가? 인간은 로봇의 영원한 주인이다. 따라서 로봇은 어떤 상황에서도 주인에게 반기를 들 수 없으며 명령에 절대복종해야 한다.

 

과학기술의 진보도 결국 인간을 배려하는 기본원칙을 지켜야 한다는 아시모프의 위대한 발상은 이미 완성된 것이 아니라 지금도 현재 진형형으로 진화하는 중이다.

 

Law 0. 로봇은 인간성을 다치게 하거나, 게으름으로 인하여 인간성에 해가 되어 돌아와서도 안 된다 (A robot may not injure humanity, or, through inaction, allow humanity to come to harm).

 

Law 1. 위의법칙을 위반하지 않는 한, 로봇은 인간을 다치게 해서는 안 되고, 게으름으로 인하여 인간에게 해가 되어 돌아와서도 안 된다 (A robot may not injure a human being, or, through inaction, allow a human being to come to harm, unless this would violate a higher order law).

 

Law 2. 첫 번째 법칙과 상충되는 명령을 제외하고는 로봇은 인간에 의해 주어진 명령에 복종해야 한다 (A robot must obey orders given it by human beings, except where such orders would conflict with a higher order law).

 

Law 3. 로봇은 첫째 법칙과 둘째 법칙에 상충되지 않는 한도 내에서 그 자신의 존재를 보호할 수 있다 (A robot must protect its own existence as long as such protection does not conflict with a higher order law). ........ source

 

나는 보통 과학적 구조를 생각해서 그 위에 소설을 구성했다.” 과학적 근거 위에 기발한 상상력을 덧씌운 아이작 아시모프의 작품이 등장하면서 SF의 역사는 새로운 단계로 접어들었다. 자신의 평생 업적을 상징하는 그림들이 새겨진 보좌에 앉아 있는 아이작 아시모프. 로웨나 A. 모릴의 그림. <출처: Rowena Morrill at en.wikipedia.org>

 

품질의식이 철저한 일본인들은 로봇 공학 3원칙을 가전제품의 세 가지 덕목으로 변형시켰다.

 

일본의 가전제품 3원칙

제1조. 위험하지 않을 것.

제2조. 사용하기 편할 것.

제3조. 튼튼할 것.

 

로봇에게 총을 쥐어주고 전쟁터로 내보낸다면 다음과 같은 행동수칙이 필요할 것이다.

 

전투로봇 3원칙

제1조. 전투 로봇은 아군에게 위해를 가할 수 없지만 적군은 죽일 수 있다.

제2조. 전투 로봇은 아군의 명령에 따라야 한다.

          명령이 1조에 어긋날 때는 따르지 않아도 된다.

제3조. 전투 로봇은 1조와 2조에 위배되지 않는 한 자신을 지켜야만 한다.

 

아시모프는 당시 SF소설의 단골 소재였던 기계 인간이 인간을 공격하는 상황을 무엇보다 우려했다. 결국, 그는 자동기계의 행동범위를 제한하는 '로봇노예헌장'을 제정한 셈이다.

 

그러나 현실세계에서 이 원칙은 그 뿌리부터 흔들리고 있다. 인간을 보호하라는 로봇 원칙 제1조를 무시하는 살인 로봇들이 각국 정부의 지원하에 확산되고 있는 것이다.

 

아시모프가 아직 살아 있다면 아프간 전쟁을 계기로 세계 각국에서 무인 장갑차, 무인 전투기, 자폭 로봇 등 사람을 죽이기 위해 개발된 전투용 로봇 기술이 급속히 보급되는 상황을 보고 아마 이렇게 경고했을 것이다.

 

"전시라 해도 기계 로봇이 자의적 판단으로 인간을 죽이는 것은 결코 허용해선 안 된다. 그건 로봇의 행동원칙에 어긋나는 행위다."

 

=======================================================================

 

아이작 아시모프 : 소설가, 화학자

 

      

(Isaac Asimov / 본명 Isaak Yudovich Ozimov)

출생 : 1920년 1월 2일 (러시아) - 사망 : 1992년 4월 6일 (국적 : 미국)

성별 : 남성, 별자리 : 염소자리, 띠 : 원숭이

데뷔 : 1951년 소설 '파운데이션' - 과학 대중화에 기여한 SF의 거장

학력 : 1948 컬럼비아대학교 대학원 생화학 박사

경력 : 1949~1951 미국 보스턴대학교 의과대학 생화학 교수

 

미국의 SF(과학소설) 작가 ·생화학자 ·과학해설자. 러시아 페트로비치 출생. 어려서 미국에 이주, 귀화하였다. 전공은 생화학이었으나 천문학 ·물리학 ·화학 ·생물학 등 광범위한 과학 일반에 대하여 뛰어난 해설자로서 유명하다.

 

또 수많은 SF 작품을 발표하여 미국 SF계의 제1인자로서 로봇이 발달한 미래사회를 무대로 하는 작품이나 광대한 우주에 흩어져 있는 인류의 모습을 묘사하는 ‘미래사(未來史) SF’를 장기로 하고 있다.

 

 

 

 

대표작은 《파운데이션(Foundation)》 《우주기류(The Currents of Space)》

             《강철도시(The Caves of Steel)》 《벌거숭이 태양(The Naked Sun)》

             《행복의 별 및 소행성(小行星)의 약탈자 (Lucky Stars and the Pirates

               of the  Asteroids)》 등이고, 그 밖에도 저서가 많아 모두 약 200권에

                달한다.

 

1934년경의 아이작 아시모프

 

아이작 아시모프는 러시아의 페트로비치(Petrovichi)에서 태어났으나 그가 세 살 때 온가족이 미국으로 건너왔다. 유태계인 집안의 성(姓)은 원래 러시아어로 오지모프(Исаак Озимов)였지만 미국에 정착하며 키릴문자를 영어 음가로 바꿔 아시모프가 되었다.

 

형제로는 여동생 마샤(Marcia)와 남동생 스탠리(Stanley)가 있다. 아이작은 부모가 늘 그와 이디시(Yiddish)어와 영어로 의사소통했기에 러시아어는 한번도 배운 적이 없다고 한다.

 

뉴욕 브룩클린에서 자란 그는 불과 다섯 살에 위 두 언어에 능통해졌고 읽기도 독학으로 깨우쳤다. 작가 자신의 회고에 따르면 부친은 정통 유태교도였지만 자녀가 부모와 같은 식으로 살도록 전혀 강권하지 않았다. 부모는 과자점 체인을 소유하고 있어 자녀들은 장성하면 모두 거기서 일하게 될 것이라 여겨졌다.

 

어린 나이에 과자점에서 함께 팔던 펄프잡지들을 통해 과학소설을 접한 아이작 아시모프는 정작 이러한 잡지류를 쓰레기 취급하며 읽지 못하게 하는 부친에게 잡지 이름에 ‘과학’이 들어 있으니 교육효과가 있지 않겠느냐고 설득하는 수완을 보인다.

 

이미 11살에 과학소설 습작을 쓰기 시작한 그는 1930년대 중반 과학소설 팬덤 ‘미래주의자들(Futurians)’에서도 적극적으로 활동했으며 19살 때 처음으로 자신의 과학소설을 잡지에 팔았다. 이 시기 그에게 가장 깊은 영향을 준 과학소설 잡지 편집자가 바로 존 우드 캠벨 2세로 이후 두 사람은 평생지기(平生知己)가 되었다.

----------------

1920 : 구소련 페트로비치의 유태인 가정에서 2남 1녀의 맏이로 출생,

          부친은 곡물상인

1923 : 가족들과 함께 미국으로 이민, 뉴욕시 부르클린에서 정착.

1925 : 2월 유치원입학, 9월초등학교입학, 한달뒤 월반.

1926 : 부모가 잡화소매점을 운영, 이곳에서 대중SF잡지들을 접하면서 성장,

         한편 부친은 대중잡지를 못보게 하기 위해서 지역 도서관의 대출증을

         만들어주었고, 이때부터 왕성한 독서를 시작

1930 : 중학교입학

1931 : 고등학교과정으로 월반, 전부터 열심히 다니던 도서관의 대출증을 즉시

          성인용으로 바꾸고 첫 습작을 시작.

1935 : 나중에 의과대학진학을 희망하여 컬럼비아대학의 컬럼비아칼리지에

          응시했으나 먼접에서 낙방하고 같은 컬럼비아대학의 학부학교인 세인로

          우주니어 칼리지에 입학, SF 잡지"어스타운딩 스토리"에 투고

1939 : 컬럼비아칼리지졸업, 여러 의과대학에 입학허가를 신청했으나 모두 거부

          당하고 컬럼비아 대학원 화학과에 응시, 자격미달로 조건부 가입학,

          단편"Marooned off Vesta"가 "어메이징스토리즈"에 실려 최초로 작품이

           활자화. 

1940 : 컬럼비아대학원 정규학생 자격취득, SF잡지"슈퍼사이언스 스토리즈"에

         최초의 "로봇"소설 "로비"발표

1941 : 석사학위취득, SF문학사상 가장 유명한 단편으로 일컬어지는 "전설의 밤

          (Nightfall) "을 "어스타운딩스토리즈"에 발표, 역시 SF문학사상 가장 유명

          한 대하소설인 "파운데이션"의 첫 번째 이야기를 발표.

1950 : 처녀장편 "먼지와 같은 별들(The Stars,Like Dust)"발표.

1954 : "로봇"시리즈의 대표적인 장편 "강철도시(The Cave of City)"발표

1955 : 장편 "영원의 끝(The End of Eternity)"출간 1957:"로봇"시리즈의 장편 "벌거

          벗은 태양(The Naked Sun)"출간

1963 : "파운데이션"시리즈의 장편 세 개를 묶어 3부작으로 출간

1965 : "파운데이션3부작"이 휴고상 특별상 수상 1966:장편 "마이크로 결사대

          (Fantastic Voyage)"출간

1969 : 논픽션 교양과학서의 본격 집필을 시작

1973 : "신들자신(The God Themselves)"으로 휴고상 및 네뷸러상 수상

1977 : "2백살맞은 사나이(Bicentennial Man)"으로 휴고상 중편 부문수상

1982 : "파운에이션의 변경"출간 1983:"파운데이션의 변경"으로휴고상수상, 장편

          "여명의 로봇(The Robbot of Dawn)"출간

1985 : 장편 "로봇과 제국(Robbota and Empire)"출간

1986 : 네뷸러상 특별상 '그랜드마스터'수상

1987 : "두뇌로의여행(Fantastic voyage:Destination Brain)"출간

1987 : 장편 "파운데이션의서곡" 출간 1989:"네메시스"출간

1992 : "골드(Gold)"로 휴고상 중편부문수상, 작고