로봇이나 AI가 '권리를 갖는 것과 같은 존재'가 됐을 때 인간은 어떻게 생각해야 할까?

로봇이나 AI가 '권리를 갖는 것과 같은 존재'가 됐을 때 인간은 어떻게 생각해야 할까?

컴퓨터를 통한 인공지능(AI) 연구가 진행되면서 점차 '인격'이란 무엇일까 하는 생각을 사람들은 해야만 할 것으로 보인다. 인간이 가지고 있는 '자아'가 컴퓨터 안에도 생기게 되었을 때 과연 그들에게는 '권리'가 주어져야 하는지, 이런 종류의 영상으로 다양한 문제를 풀어내는 'Kurzgesagt – In a Nutshell'에 의해 공개되어 있어 정리한 내용이다.

Do Robots Deserve Rights? Whatif Machines Become Conscious? - YouTube
https://youtu.be/DHyUYg8X31c

당신이 먹고 싶어하는 토스트의 종류를 토스터기기가 예상한다. 그런 미래가 찾아올 수도 있다.
그 토스터기기는 스스로 새롭고 자극적인 토스트를 구하기 위해 인터넷에서 찾는다.

또한 당신에게 오늘 하루의 일에 대해 묻거나 토스트 기술의 새로운 진전에 대해 이야기하고 싶을 수도 있다.

그렇다면 도대체 어느 수준이 되면 그 토스터기기는 '인간과 같다'는 것일까? 그 토스터기기에게 '감정이 있을지도 모른다'고 느끼기 시작하는 것은 어떤 타이밍일까? 또한 이 경우 전원을 꺼버리는 것은 토스터기기를 '죽인다'는 것인가?

인공지능은 이미 우리 주변에 존재하고 있다. 인공지능은 상점이 충분하게 상품재고를 준비할 수 있도록 해 주고, 개인에게 적합한 인터넷 광고를 제공한다.
하지만 만들어진 인격과 진짜 인격의 경계가 모호해진 경우의 대처방안이 필요한 것도 충분히 생각할 수 있는 문제다.

현시점에서 「권리」를 부여할 만한 기계는 있는가? 아마 지금으로서는 없을 것이다. 하지만 만일 그것이 존재하고 있다면 우리에게는 아직 준비가 부족한다.
인간 또는 동물에게 권리가 있다는 주장의 대부분은 의식의 유무를 전제로 하고 있다. 그러나 안타깝게도 의식이 무엇인지 아는 사람은 어디에도 없다.

정확한 정의가 무엇이든 간에 우리는 의식에 대해 직관적으로 알고 있다. 의식을 갖는 경험이 있기 때문이다. 우리는 자기 자신과 그 주변에 대해 인식하고 있고 의식이 없는 상태가 어떤 느낌인지도 알고 있다.

일부 신경과학자들은 고도의 시스템이라면 '의식'을 만들어낼 수 있다고 생각한다.
그 생각에 근거한다면, 만약 당신의 토스터기기 하드웨어가 충분히 강력하다면 자아를 가질 수도 있다.

그 때 그 토스터에게 권리를 부여할 필요가 있는 것일까?
의식을 갖고 있는 자에게 권리는 부여된다. 왜냐하면 의식을 가지는 것은 고통받는 능력을 가지고 있기 때문이다.
로봇은 고통받지 않을 것이고 우리가 그렇게 프로그램하지 않는 한 계속 그럴 것이다.

인권은 우리 몸의 프로그램과 깊은 관련이 있다. 예를 들어 우리는 아픔을 싫어한다. 그것은 우리가 뜨거운 불을 건드리지 않도록, 또 포식자로부터 도망듯이, 뇌는 우리를 살아 남도록 진화했기 때문이다.

그래서 우리는 고통을 초래하는 것으로부터 자신을 보호하기 위해 '권리'를 내세우게 된 것이다.
그러나 애초에 이동할 수 없는 토스터기기가 우리에 갇혀 있는 것이 싫다고 느낄 수 있을까?

죽음에 대한 두려움이 없다면 분해되는 것을 신경이나 쓸까?
자존심이 없다면 모욕을 당해도 신경 쓸까?

한편, 통증이나 감정을 느낄 수 있도록 로봇을 프로그램한 경우는 어떻게 될까? 부정보다는 정의를 선호하듯이, 고통보다는 기쁨을 선호하도록, 그리고 그것을 의식하도록 프로그램한다면? 이는 그들을 충분히 인간답게 할 수 있을까?

많은 기술자들은 인공지능이 새로운 인공지능에 대해 학습하고 자신보다 우수한 인공지능을 창조할 수 있게 되었을 때 기술의 폭발이 일어날 것이라고 믿는다.

통증을 느끼는 능력은 거의 모든 생물에게 필요하다고 진화생물학이 밝힌 것과 마찬가지로 통증을 프로그램할 필요성을 인공지능이 찾았다면? 로봇은 권리를 가질 만 할까?
하지만 지금은 지극히 똑똑한 로봇이 우리에게 가져다 줄 위험에 대해서 크게 걱정할게 아니라, 오히려 우리가 그들에게 가져다 줄 위험을 걱정해야 할지도 모른다.

인류의 정체성은 우리가 특별히 독특하고 자연계를 통할 권리를 갖는 예외라는 생각에 근거하고 있다.
역사적으로 인류는 다른 존재가 인류만큼이나 고통을 느낄 수 있음을 부인해 왔다.

과학혁명이 한창일 때 근대 철학의 아버지로 불리는 르네 데카르트는 동물이 단순한 기계인형(또는 로봇)이라고 주장했다. 토끼를 다치게 하는 것의 비도덕성은 인형을 펀치하는 것과 같은 수준이라는 것이다.

그리고 인류에 대한 최대 죄의 상당수에 대해 가해자들은 "피해자는 문명화된 인류가 아니라 동물에 가깝다"며 타인의 권리를 빼앗는 것을 정당화해 왔다.
더큰 문제는 우리가 로봇의 권리를 부정함으로써 경제적으로 이점이 있다는 점이다.

의식을 가진 인공지능에게 우리에 대한 봉사를 강제할 수 있다면 이익을 창출할 가능성이 클 것이다.
그것은 우리가 과거에도 했던 일이기도 한다. 사람들에게 노동을 강제하기 위해 폭력이 사용되었다.

그러면서 "하나님은 돈이 필요하다고 하신다"는 등의 말로 그 강제를 정당화해 왔다.
노예주들은 노예제도가 노예에게도 이익이 있다고 주장했다. 그들은 지붕 밑에 살 수 있고 기독교를 배울 수 있다는 것을.

여성의 투표권에 반대하던 남성들은 여성은 사실 어려운 판단을 남성에게 맡기고 싶을 것이라고 주장했다.
농부들은 동물을 젊었을 때 죽여 식량으로 만들지만 먹이가 주어지고 보살핀다는 것으로 정당화될 수 있다고 주장한다.

로봇이 자아를 가졌을 경우 그들은 권리를 갖지 않고 있어야 한다는 주장이 제기될 것이 분명하다.
인공지능은 철학의 경계에 대해 중대한 문제를 제기하고 있다. 감각을 가진 로봇에게 자아는 있는가, 또 권리를 가질 만한가. 또 우리는 무엇을 가지고 인간이라 하는가? 우리는 무엇을 근거로 권리를 갖고 있는가?라는 근원적인 물음을 갖게 된다. 

우리가 어떻게 생각하느냐에 상관없이 이 질문을 가까운 미래에 해결할 과제가 될 것이다.
로봇이 권리를 요구해 옴으로써 우리는 무엇을 깨닫게 되는 것일까?

이 문제에 대한 자세한 내용은, In Anutshell의 YouTube 화상으로 자세하게 설명하고 있다.