인공지능(AI)은 의식을 갖게 되는가?를 신경과학자가 해설

인공지능(AI)은 의식을 갖게 되는가?를 신경과학자가 해설

2012년경 '딥러닝(deep learning)'과 '뉴럴 네트워크(neural network. 신경회로망)'가 많은 분야에서 사용되면서 인공지능(AI) 분야는 눈부신 발전을 보여왔습니다.
'100년 이내에 AI는 인간을 넘어선다'는 말을 듣기도 하지만, AI가 인간과 같은 '의식'을 갖는 것은 미래에 일어날 수 있는지, 신경학자가 '의식'과 '지능'의 차이를 언급하면서 설명하는 내용입니다.

캘리포니아공대 교수이자 신경학자인 크리스토프 코흐는 DNA의 이중나선 구조를 발견한 프랜시스 크릭과 함께 신경과학으로서의 의식을 연구하였습니다. 또 코흐는 같은 신경과학자인 줄리오 토노니와 함께, 의식의 발생을 설명하는 「의식의 통합 정보이론」을 주장하고 있습니다.

의식의 통합 정보이론은 「 '의식'이 태어나기 위해서는 정보의 통합이 이루어질 필요가 있다」라고 하는 생각을 기초로 하고 있으며, 인간에 해당시켜 말하면, 신경세포끼리 시냅스를 통해 조밀하게 정보를 주고 받는 것으로 정보가 통합되어 있다고 할 수 있습니다. 

 

코흐 등은 의식의 통합 정보이론에서 「네트워크 내부에서 통합된 정보의 양이 의식의 양에 대응하고 있다」라고 주장하고 있으며, 이 가설이 옳다면, 커뮤니케이션이 되지 않는 식물인간 상태의 사람도, 뇌 활동으로부터 통합 정보량을 계측하는 것으로 의식 수준을 측정하는 것이 가능하게 된다고 생각합니다. 실제로, 이 이론에 근거해 중증 환자의 의식 수준을 측정하는 '의식 미터(의식자동계기)'가 구축되어 미국이나 유럽에서 테스트되고 있다고 합니다.

코흐는 "이 이론을 본질적으로 말하면 그 자체에 인과적인 힘을 가진 모든 물리 시스템은 '의식적'이라고 할 수 있습니다"라고 말합니다. 인과적인 힘을 가진 것의 예로 '뇌 속에서 발화를 받아 조금 후에 다른 발화를 일으킬 수 있는 신경세포'가 꼽히고 있는데, 이와 병렬로 '직전 상태에 영향을 받아 바로 후의 미래 상태에 영향을 주는 컴퓨터 칩 트랜지스터 네트워크'도 예에 나와 있습니다. 컴퓨터 칩의 경우 시스템이 가진 전류상태가 더 큰 입출력을 갖고 영향이 커질수록 시스템이 가진 인과적 힘 또한 커진다고 합니다.

최근에는 IBM의 인공지능시스템 「Watson」이나 Google 자회사 「DeepMind」가 개발한 바둑 AI 「AlphaGo」 등 기술 기업에 의해 성능이 뛰어난 AI가 개발되고 있습니다. 코흐는 위의 두 AI가 특화형 AI(약한 AI)라는 점을 지적하면서도 조만간 기계가 인간과 같은 정도의 '지능'을 갖게 될 것이라는 견해를 밝히고 있습니다.

한편, 「의식」과 「지능」의 차이에 대해서도 말하고 있으며, 「많은 생물은 지능과 의식을 모두 갖고 있지만, 이 두 가지는 개념적으로는 전혀 별개입니다. 지능은, 「새로운 환경이 되었을 때 어떻게 살아남을 것인가?」와 같은 「행동」에 대한 것이며, 의식은 행동이 아니라 「존재하는 것」자체에 관한 것입니다」라고 양자를 나누어 생각할 필요성을 호소했습니다.

즉, 의식의 통합 정보이론의 입장에 서면, 기계가 의식을 가지고 있는지 어떤지는, 기계의 동작이 아니라, 인과적인 힘을 가지는 「회로기판」에 눈을 돌릴 필요가 있습니다. 현대 AI의 상당수는 하나의 트랜지스터가 여러 개의 트랜지스터로부터 입력을 받아 다른 몇 개에 반영한다는 노이만형이지만 인간의 뇌는 더 복잡하고 이와는 근본적으로 다른 인과적인 힘을 가지고 있습니다. 노이만형의 칩으로 실행되는 AI는, 지능적인 행동이 보여져도, 인간의 뇌처럼 「의식적」이 될 수 없다는 것입니다.

최근에는 슈퍼컴퓨터도 눈부신 진화를 보이고 있지만, 코흐는 슈퍼컴퓨터라도 통합 정보는 미세한 것이라고 합니다. 「노이만형의 컴퓨터가 하고 있는 것이 포커든 인간의 뇌의 시뮬레이션이든 관계 없습니다」 「의식은 계산이 아닙니다. 시스템의 물리학에 관한 인과적인 힘입니다」라고 강조했습니다.

코흐는 노이만형이 아닌 다른 아키텍처를 가진 머신에 의해 '의식'이 만들어질 가능성이 있다고 생각하고 있습니다. 고도의 통합 정보를 가능하게 하는 양자컴퓨터나 뇌형 컴퓨터가 그 후보로 꼽히고 있습니다.

코흐는 또 기계가 의식적이 되면 윤리적·법적·정치적 영향이 생긴다는 점도 언급했습니다. 「내가 테슬라 차를 망치로 때리면 이웃들은 미치겠다고 생각할지 모르지만 그 자체는 내 권리로 여겨집니다. 그러나 같은 것을 개에게 하면 경찰이 와서 나를 체포할 것입니다. 이 차이는 개가 '고통받을 수 있다'는 데 있습니다. 개는 의식적인 존재이기 때문입니다'라고 코흐는 말해 기계가 의식을 갖는 것이 우리 세계에 큰 영향을 끼친다는 것을 보여주었습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

 

Can AI Become Conscious? | | News | Communications of the ACM
https://cacm.acm.org/news/244846-can-ai-become-conscious/fulltext

Can AI Become Conscious? – Communications of the ACM