로봇이나 AI가 '권리를 갖는 것과 같은 존재'가 됐을 때 인간은 어떻게 생각해야 하나?

로봇이나 AI가 '권리를 갖는 것과 같은 존재'가 됐을 때 인간은 어떻게 생각해야 하나?

컴퓨터를 통한 인공지능(AI) 연구가 진행되면서 점차 '인격'이란 무엇인가에 대한 생각을 사람들에게 요구하고 있다. 인간이 가지고 있는 '자아'가 컴퓨터 속에도 생기게 되었을 때, 과연 그것들에게는 '권리'가 주어져야 하는지, 그런 것을 묻는 동영상이 다양한 문제를 풀어내는 'Kurzgesagt-In a Nutshell'에서 공개한 내용이다. 

Do Robots Deserve Rights? Whatif Machines Become Conscious? - YouTube
https://youtu.be/DHyUYg8X31c

당신이 먹고 싶어 하는 토스트의 종류를 토스터(기계)가 예상한다. 그런 미래가 올지도 모른다. 
그 토스터는 스스로 새롭고 자극적인 토스트를 구해서 인터넷에서 찾다. 

또한 당신에게 오늘 하루 있었던 일에 대해 묻거나 토스트 기술의 새로운 진전에 대해 이야기하고 싶다는 생각을 하게 될 수도 있다. 

그렇다면 도대체 어느 수준이 되면 그 토스터는 '인간과 같다'는 수준이 되는 것일까? 그 토스터에게 '감정이 있을지도 모른다'고 느끼기 시작하는 것은 어떤 타이밍일까? 또한 이 경우 전원을 꺼버리는 것은 토스터를 '죽이는' 것이 되는 것일까?

인공지능은 이미 우리 주변에 존재하고 있다. 인공지능은 상점이 충분한 상품을 재고할 수 있도록 정리하고 개인에게 적합한 인터넷 광고를 제공한다. 
하지만 만들어진 인격과 진짜 인격의 경계가 모호해진 경우의 대처가 필요한 것도 충분히 예상할 수 있다. 

현시점에서 '권리'를 줄 만한 기계가 있는가? 아마 지금은 없을 것이다. 하지만 만일 그것이 존재했다면 우리에게는 아직 준비가 부족하지 않다. 
인간 또는 동물에게 권리가 있다는 주장의 대부분은 의식의 유무를 전제로 하고 있다. 그러나 유감스럽게도 의식이 무엇인지 아는 사람은 어디에도 없다. 

정확한 정의가 무엇이든 우리는 의식에 대해 직관적으로 알고 있다. 의식을 갖는 경험이 있기 때문이다. 우리는 자기 자신과 그 주위에 대해 인식하고 있고 의식이 없는 상태가 어떤 느낌인지도 알고 있다. 

일부 신경과학자는 고도의 시스템이라면 '의식'을 만들어낼 수 있다고 생각한다. 
그 생각에 근거한다면, 만약 당신의 토스터 하드웨어가 충분히 강력했다면 자아를 가질 수도 있다. 
그 때, 그 토스터에게 권리를 부여할 필요는 있을까?

의식을 갖는 자에게 권리는 부여된다. 왜냐하면 의식을 가지는 것은 고통받는 능력을 가지고 있기 때문이다. 
로봇은 고통받지 않을 것이고 우리가 그렇게 프로그램하지 않는 한 계속 그럴 것이다. 

인권은 우리 몸의 프로그램과 깊이 관련되어 있다. 예를 들어 우리는 아픔을 싫어한다. 그것은 우리가 뜨거운 불에 닿지 않도록, 또 포식자로부터 도망치듯 뇌가 우리를 살면서 살게끔 진화했기 때문이다. 

그래서 우리는 고통을 가져오는 것으로부터 자신을 보호하기 위해 '권리'를 내세우게 된 것이다. 
하지만 애초에 이동할 수 없는 토스터가 우리에 갇혀 있는 것이 싫다고 느낄까?

죽음에 대한 두려움이 없다면 분해되는 것을 신경 쓸까?
자존심이 없다면 모욕을 당해도 신경 쓸까?

한편, 통증이나 감정을 느끼도록 로봇을 프로그램한 경우는 어떻게 될까? 부정보다는 정의를 선호하도록, 고통보다는 기쁨을 선호하도록, 그리고 그것을 의식하도록 프로그램한다면? 이것이 그들을 충분히 인간으로 만들 수 있을까?

많은 기술자들은 인공지능이 새로운 인공지능에 대해 학습하고 자신보다 우수한 인공지능을 창조할 수 있게 되었을 때 기술의 폭발이 일어날 것이라고 믿는다. 
통증을 느끼는 능력은 거의 모든 생물에게 필요하다고 진화생물학이 밝힌 것과 마찬가지로 통증을 프로그램할 필요성을 인공지능이 찾았다면? 로봇은 권리를 가질 만할까?

하지만 지금은 지극히 똑똑한 로봇이 우리에게 가져다 줄 위험에 대해서는 크게 걱정하지 말고 오히려 우리가 그들에게 가져다 줄 위험을 걱정해야 할지도 모른다. 
인류의 정체성은 우리가 특별히 독특하고 자연계를 통할 수 있는 권리를 갖는 예외라는 생각에 근거하고 있다. 

역사적으로 인류는 다른 존재가 인류만큼 고통을 느낄 수 있음을 부인해 왔다. 
과학 혁명의 한복판에 근대 철학의 아버지라 불리는 르네 데카르트는 동물이 단순한 기계인형(또는 "로봇")이라고 주장했다. 토끼를 손상시키는 것의 비도덕성은 인형을 펀치하는 것과 같은 수준이라는 것이다. 

그리고 인류에 대한 가장 큰 죄의 상당수에 대해 가해자는 "피해자는 문명화된 인류가 아니라 동물에 가깝다"며 타인의 권리를 빼앗는 것을 정당화해 왔다. 
더 문제되는 것은 우리가 로봇의 권리를 부정함으로써 경제적으로 이점이 있다는 것이다. 

의식을 가진 인공지능에게 우리에게 봉사를 강제할 수 있다면 이익을 창출할 가능성이 크다. 
그건 우리가 과거에도 했던 일이기도 하다. 사람들에게 노동을 강제하기 위해 폭력이 사용되었다. 

그리고 '하나님은 돈이 필요하다고 말씀하신다'는 등 강제를 정당화해 왔다. 
노예주들은 노예제도가 노예에게도 이익이 있다고 주장했다. 그들은 지붕 아래 살 수 있고 기독교를 배울 수 있다는 것을. 
여성의 투표권에 반대했던 남성들은 여성은 사실 어려운 판단을 남성에게 맡기고 싶을 것이라고 주장했다. 

농가들은 동물을 젊었을 때 죽여 식량으로 만들지만 '먹이를 주고 보살핀다'는 것으로 정당화될 수 있다고 주장하고 있다. 

로봇이 자아를 가질 경우 그들은 권리를 갖지 않고 있어야 한다는 주장이 제기될 것이 분명하다. 

인공지능은 철학의 경계에 대해 중대한 문제를 제기하고 있다. 감각을 가진 로봇에게 자아는 있는가, 또 권리를 가질 만한가. 또 '우리는 무엇을 가지고서 인간인가?' '우리는 무엇을 근거로 권리를 가지고 있는가?'라는 근원적인 물음을 던진다. 우리가 어떻게 생각하느냐에 관계없이 이 질문을 가까운 미래에 해결해야만 할 것이다. 

로봇이 권리를 요구함으로써 우리는 무엇을 깨닫게 되는가?