‘불행의 씨앗’ 킬러 로봇을 막아라

‘불행의 씨앗’ 킬러 로봇을 막아라

 

                                                                     경향신문 | 배문규 기자

                                                                     입력 2012.12.28 21:08 | 수정 2012.12.28 22:05

 

서기 2029년,

인류의 또 다른 미래일 수도 있는 영화 < 터미네이터 > 의 배경은 기계가 지배하는 세상이다.

 

인간이 만든 지능형 컴퓨터 시스템 '스카이넷'이 1997년 핵전쟁을 일으켜 인류를 잿더미에

묻어버렸기 때문이다.

남은 인간들은 기계의 지배를 받으며 살아간다.

 

하지만 비상한 지휘력을 가진 존 코너가 반기계 연합을 구성해 저항에 나서면서 상황이 반전된다.

이에 스카이넷은 코너가 태어나기 전 '끝장내기' 위해 T-800을 1984년 미국 로스앤젤레스로 보낸다.

배우 아널드 슈워제너거가 분장한 T-시리즈 로봇은 인간과 똑같은 모습의 사이보그다.

영화 속 터미네이터는 총에 맞아도 끄떡없으며, 기계 조직이 노출돼도 멈추지 않는다.

사람들은 마지막 장면의 압축기에서 찌그러지는 로봇을 보며 안도의 한숨과 함께 어떤 오싹함을 느꼈다.

그러나 이러한 디스토피아의 서사가 사이언스 픽션에 국한되지 않는다고 경고하는 사람들이 있다.

 

국제인권단체 휴먼라이츠워치는 앞으로 20~30년 안에

'인간의 명령 없이 독자적으로 결정을 내리고 행동'하는 '킬러 로봇'이 개발될 것이라면서,

킬러 로봇에 따른 문제가 발생하기 전 이에 대비해야 한다고 밝혔다고

가디언이 지난 3일 보도했다.

 

 

 

 

 

▲ '아군 피해 줄이며 효율적 공격' 킬러 로봇 20~30년 내 개발될 듯
▲ 실수나 오작동으로 통제 벗어나 제멋대로 행동할 땐 역설적으로 인간에 치명적 해악
▲ 윤리·법적 책임도 물을 수 없어 차라리 막는 게 상책일 수도

휴먼라이츠워치는

하버드대 로스쿨의 국제인권클리닉과 공동으로 작성한 '인간성 상실: 킬러 로봇에 대해서'라는 보고서에서

"완전 독자 행동하는 킬러 로봇의 개발, 생산, 사용을 절대적으로 금지하는 국제법을 제정해야 한다"고 밝혔다.

일반적으로 킬러 로봇이라 하면 터미네이터와 같은 사이보그를 떠올리기 쉽다.

하지만 인간이 거의 개입하지 않은 채 스스로 작전을 수행하는 모든 무기 체계가 이에 포함된다.

킬러 로봇의 할아버지는 2차 세계대전 때 처음 등장한 군사 로봇이라 할 수 있다.

독일군이 1940년 개발한 골리아테는 길이 1.2m, 폭 0.6m, 높이 0.3m 딱정벌레 형태로

유선 조종이 가능한 이동식 지뢰다.

 

최대 100㎏의 폭발물을 장착할 수 있는 이 지뢰는 적 탱크를 파괴하거나 진영을 흩트리는 용도로 사용됐다.

하지만 느린 속도와 넘어지기 쉬운 형태, 조종의 어려움으로 큰 효과를 거두진 못했다.

소련군도 텔레탱크라는 원격조종이 가능한 탱크를 실전 배치했다.

탱크는 500~1500m까지 무선으로 조종 가능했으며 기관총, 화염방사기, 연막탄통, 폭발물을 장착할 수 있었다.

현재 킬러 로봇 개발의 선두주자는 미국이다.

 

미국은 2015년까지 육상 전투장비 3분의 1을 무인화하는 목표를 세웠다.

예산문제로 곤경에 빠졌지만 무인군사장비가 중요한 역할을 하는 2300억달러 규모의

미래 전투 체계(FCS) 프로젝트를 추진 중이다.

 

미군은 이미

'드론'이라 불리는 무인정찰기 겸 공격기 MQ-1 프레데터를 파키스탄, 아프가니스탄, 예멘 등지에서

사용하고 있다.

국제뉴스에 알카에다 요원을 살해했다거나 민간인 오폭으로 거센 비난을 받는다고 나오는 그 무기다.

 

준 자율 무기라 할 수 있는 프레데터는 중동에서 1만㎞ 떨어진 미국 네바다주 기지에서

원격 조종사가 목표물을 지정하면 헬파이어 미사일을 발포해 공격을 수행한다.

 

미국은

중거리 중고도용 프레데터, 장거리 고고도용 글로벌호크, 프레데터의 개량형 리퍼를 실전 배치했다.

또 무인 스텔스기 X-47B는 조종사 없이 항공모함 이착륙이 가능하며 공중 급유도 혼자 할 수 있다.

 

미 해군 함정에 설치된 레이시언의 팔랑크스 포 체계는 적의 미사일 발사를 찾아내 접근하는 발사체를

스스로 파괴한다.

한국도 킬러 로봇 개발 경쟁에 나섰다.

 

삼성 테크윈은 2006년 지능형 감시경계로봇 상용화에 성공했다.

이 '보초 로봇'은 서산 석유비축기지, 임진강 철책, 일반전초(GOP) 과학화 경계 사업 시범 단지 등에

설치됐다.

 

로봇은 카메라로 움직이는 물체를 탐지하고,

형상인식장치를 통해 주간 2㎞, 야간 1㎞ 반경 안에서 사람·차량·동물 등을 구분할 수 있다.

침입자나 이상물체로 확인돼 대응 명령이 떨어지면

로봇에 달린 K-3 기관총, 비살상 고무탄총으로 제압하거나 경보음을 울린다.

아직까지 인간이 개입하지 않는 완전 자율 무기는 존재하지 않는다.

미국, 한국, 중국, 독일, 이스라엘, 러시아, 영국 등이 자율 무기 체계 개발에 나서고 있다.

전문가들은 20~30년 내 독자 행동이 가능한 무기 체계 개발이 가능할 것으로 보고 있다.

각국이 자율 무기 체계 개발에 나서는 이유는 분명하다.

 

전장에서 적군을 효율적으로 공격하면서도 아군의 인명피해는 줄일 수 있기 때문이다.

상용화를 통해 대량생산이 가능해지면 방위 비용도 절감할 수 있다.

 

영국 시사주간 이코노미스트는 지난 6월

사람 대신 로봇이 전쟁을 치르는 '로봇전쟁시대'를 소개한 바 있다.

 

프랑스 육군의 군사로봇 전문가 제라르 드 브와스브와즈는

"2008년 8월18일 아프가니스탄 수도 카불 인근 우즈빈 계곡에서

프랑스 낙하산부대원 100여명 가운데 10여명이 탈레반의 매복 공격으로 숨진 사건은

충분히 예방할 수 있었다"고 밝혔다.

 

위험 없는 전쟁. 각국이 로봇군대 도입에 나서는 이유다.

하지만 킬러 로봇을 반대하는 사람들은 인명 피해를 줄이기 위한 로봇이

역설적으로 인류에게 치명적인 해가 될 것이라고 주장한다.

우선 실수나 오작동이 있을 경우 발생할 문제 때문이다.

 

미 국방부는 휴먼라이츠워치의 보고서 발표 사흘 뒤에

'무기 체계의 자율성'이라는 훈령을 발표하고

"인간의 개입 없이 목표물을 선택하는 자율·준자율 무기체계 개발과 사용에 대해

정책과 입안 과정에서 책임을 확실히 해야 한다"고 밝혔다.

 

2004년부터 자율 무기 체계를 연구해 온 미 국방부는 개발 전 과정을 관리하고 있다.

로봇에 대한 통제를 잃는 위험한 상황을 막기 위한 가이드라인 제정도 강조한다.

 

그러나 실수는 어디서든 발생할 수 있다.

인간의 실수, 기계 반응 오류, 오작동, 소통 오류, 소프트웨어 코딩 오류, 적군의 사이버 공격,

생산 과정에서의 적 개입, 해킹 등. 그 외 예측할 수 없는 경우가 얼마나 많을지 현재로선 알 수 없다.

문제는 이러한 실패가 대부분 개발자의 손을 벗어난 것이라는 점이다.

 

비상시 인간 조종자의 대응 절차를 아무리 강조해도

로봇과의 통신이 끊어지면 통제 수단은 없다.

 

시험, 인증을 아무리 강조한다 해도 이러한 절차는

"통제된 조건에서 적을 가정한" 상황에서 이뤄지는 것이다.

 

현재 무기 체계 개발은 예측 범위 안의 적을 상정한 채 이뤄지고 있다.

그러나 컴퓨팅 기술이 발전하면서 이제까지 알지 못했던 프로그램과 싸우게 되면

역으로 상대편이 우리 시스템을 장악하는 끔찍한 일이 벌어질 수 있는 것이다.

무엇보다 휴먼라이츠워치 보고서가 우려하는 점은 '인간성 상실'이라는 제목에서 보듯 윤리적 문제다.

 

본질적으로 인간과 동등할 수 없는 로봇이 인간을 대상으로 독자적 판단을 내리고

심지어 목숨까지 빼앗는 상황에서 법적, 윤리적 책임을 어떻게 물을 것인지에 대한 고민이다.

휴먼라이츠워치의 무기 부문 책임자 스티브 구스는

"전장에서 기계에 누군가의 생살여탈권을 부여하는 것은 지나치다"면서

"로봇에 대한 인간의 통제가 시민들의 죽음과 부상을 최소화하는 데 필수적"이라고 밝혔다.

현재 전쟁 범죄에 대해서는 '제네바 협약'과 같은 국제조약이 있다.

하지만 아직까지 전쟁 범죄를 저지른 로봇에게 적용되는 법은 없다.

 

그렇다면 앞으로 혼잡한 전장에서 독자적으로 민간인을 죽인 킬러 로봇의 책임은

어떻게 물어야 하는 것인가.

 

미 해군은 "사람은 사람을 상대"하고 "기계는 기계를 상대"하는 해법을 제시하기도 했다.

그러나 로봇이 분쟁지역에서 적 병사를 태운 버스와 학생들을 태운 버스를 구별할 수 있을까.

 

적의 속임수에 넘어가는 경우는 어떻게 해야 하는 것인가.

눈 앞의 사람을 두고 무장과 비무장의 경계를 파악하는 것도 간단치 않다.

어린 소녀가 로봇에게 아이스크림을 주기 위해 손을 뻗는 순간 공격을 당하는

참혹한 비극이 일어날 수도 있는 것이다.

하지만 독자 판단을 내리는 킬러 로봇은 법적 책임을 묻기 어렵게 만든다.

생산자, 국가, 지휘관 어느 쪽의 책임도 불분명하기 때문이다.

감정 없는 로봇 군단을

피도 눈물도 없는 독재자가 보유하게 된다면 '효율적인' 대학살을 벌이는 일도 가능하다.

구스는

"더 많은 나라들이 기술 개발에 돈을 쏟아 부을수록 포기를 설득하기는 어려워진다"면서

"각국의 병기고에 킬러 로봇이 들어차기 전에 막아야 한다"고 말한다.

 

그는

"킬러 로봇이 사이언스 픽션 너머 현실로 들어올 날이 머지않았다"면서

당장 행동에 나설 것을 촉구했다.

 

< 배문규 기자 sobbell@kyunghyang.com >