왜 AI는 인간에게 위협이 될 수 있나?

왜 AI는 인간에게 위협이 될 수 있나?

인공지능(AI)은 최근 들어 빠르게 발전하고 있으며 구글이 개발한 AI가 최고의 바둑기사를 이기거나 가공 인물 에피소드를 생성해 팟캐스트로 내보내는 등 놀라운 진화를 이루고 있다. 세계적인 연구자나 기술자 중에는 AI 기술 발달의 위험성을 주장하는 사람도 나타나고 있으며, '왜 AI는 인간에게 위협이 된다고 생각하는가?'라는 의문에 대해 과학관련  뉴스를 보도하는 온라인 사이트 Live Science가 정리한 내용이다. 

전기차 업체 테슬라, 우주사업체 스페이스X CEO인 일론 머스크는 AI가 북한보다 더 위험하다고 발언하는 등 오래전부터 AI의 위험성에 경종을 울려왔다. 머스크는 2017년 7월 열린 전미지사협회 회의에서 참석자들을 향해 AI 규제를 시작해야 한다고 호소했고, 8월에는 자율형 살인으로봇의 군확대 경쟁을 막기 위해 유엔에 공개서한을 보낸 바 있다. "나는 오랫동안 경종을 울려 왔지만, 사람들은 AI 탑재 로봇이 실제로 거리를 파괴하고 사람들을 죽일 때까지 AI에 대해 진지하게 생각하지 않으려 한다"라고 머스크는 말하고 있으며 AI가 사람들에게 실제 해를 입히기 전에 대처할 필요가 있다고 말한다. 

또한 2018년 3월 14일 세상을 떠난 이론물리학자 스티븐 호킹 박사는 2015년 진행된 컨퍼런스에서 "100년 안에 AI는 인간을 넘어설 것"이라고 경고하며 인공지능의 진화가 인류의 끝을 가져올 수 있다고 말했다. 

MIT 과학자들은 나이트메어 머신이라는 보통 이미지에서 악몽 같은 이미지를 생성하는 AI를 만들어냈다. 나이트메어 머신을 만들어낸 선임연구자인 마뉴엘 세브리언은 AI가 어떻게 감정을 공포라고 유발하는지에 관심이 있다고 말했다고 한다. 

코넬대에서 컴퓨터 사이언스학과 교수를 맡고 있는 킬리언 웨인버거는 AI에 대한 부정적인 시각은 AI 자신이 악의를 갖고 인간을 파괴하려는 패턴과 부도덕한 인간이 악의적 목적으로 AI를 이용하는 두 가지 패턴을 고려할 수 있다고 설명한다. 

"AI가 과도하게 발달함으로써 현재 인간이 원숭이를 다루는 것처럼 AI가 인간을 다루게 된다는 생각은 확실히 바람직하지 않은 일이다"라고 웨인버거는 인정했다. 그러나 웨인버거에 따르면 AI가 자기를 인식해 인간을 무찌르려고 반역을 일으킨다는 발상은 AI에 대한 오해가 바탕이 되고 있다고 지적했다. AI는 그 동작을 결정하는 알고리즘에 따라 매우 제한적인 범위에서 동작할 뿐이다. AI가 대처하기 쉬운 문제에 대해 AI는 알고리즘에 따라 인간보다 더 빠르고 문제를 해결하는 것이 가능하지만 세상에 있는 많은 문제들에 대해 AI는 무력하다고 웨인버거는 말했다. 

AI 기술의 발전은 확실히 AI가 고속으로 화상인식과 처리하는 것을 가능함에 따라 최고 바둑기사를 꺾는 것도 실현해 왔다. 하지만 AI가 의식을 갖게 한다는 점에 대해서는 전혀 연구가 진척되지 않고 있다는 것이다. "나는 가까운 미래에 AI가 의식을 갖는 사태가 발생할 것이라고는 조금도 걱정하지 않는다"라고 웨인버거는 말한다. 

한편 '악의 있는 인간이 AI를 이용한다'는 가능성은 AI가 의식을 갖는다는 위험성보다 훨씬 크다고 웨인버거는 보고 있다. AI를 군사기술로 전용하는 것은 매우 효과적이며 악의를 가진 인간이 AI를 탑재한 무기를 들고 사람들에게 해를 끼칠 위험은 존재한다는 것이다. 웨인버거는 "군사적인 분야에서만이 정부의 AI 규제가 도움이 될 것"이라고 말했다. 

그리고 AI의 공포를 극복할 수만 있다면 화상인식을 통한 질병진단을 AI가 보다 빠르고 정확하게 도움을 주거나 자율주행차를 통해 사람의 운전실수로 인한 사고를 줄이는 등의 장점으로 있다. AI를 '무서운 것'으로 멀리하는 것이 아니라 어떻게 효과적으로 활용할 수 있는지를 생각하는 것이 미래 이익으로 이어진다고 할 수 있다. 

Why Does Artificial Intelligence Scare Us So Much?
https://www.livescience.com/62775-humans-why-scared-of-ai.html

Why Does Artificial Intelligence Scare Us So Much?