인공지능의 1인자가 말하는 '인공지능이 가질 가능성과 위험성'은?

인공지능의 1인자가 말하는 '인공지능이 가질 가능성과 위험성'은?

기계학습을 이용한 인공지능이 발전하면서 다양한 분야에서 인공지능 기술이 이용되고 있다. 이런 가운데 독일 온라인 뉴스매체 SPIEGEL ONLINE이 인공지능 1인자인 페드로 도밍고스 워싱턴대 교수에 대해 '인공지능이 가질 가능성과 위험성'에 대해 인터뷰한 내용을 공개하고 있다.

도밍고스 교수는 「The Master Algorithm」이라고 하는 초보자용의 인공지능 입문서를 저술한 인물이다. 전 세계에서 베스트셀러가 된 'The Master Algorithm'은 그다지 어려운 수식을 사용하지 않고 인공지능과 SNS, 비즈니스나 정치에 군사기술 등과 관련해 '우리 삶을 인공지능이 어떻게 바꿀 것인가?'에 대해 설명하고 있다. 이 책은 Microsoft 창업자인 빌 게이츠가 극찬했으며 중국의 최고지도자인 시진핑의 책꽂이에도 진열돼 있던 것으로 일약 유명해진 바 있다.

러시아의 푸틴 대통령은 「AI를 제압하는 것이 세계를 지배한다」라고 학생들을 향한 연설에서 말했지만, 도밍고스 교수도 전적으로 푸틴 대통령의 의견에 찬동한다고 한다. "AI는 아직도 각국 간의 경쟁이 계속되고 있는 중이지만 러시아와 중국은 인공지능에 매우 큰 힘을 쏟고 있으며, 궁극적으로 중국이나 러시아가 AI 전쟁에서 이겨낼지도 모른다"고 도밍고스 교수는 말하면서, 시진핑의 책장에 자신의 책이 장식되어 있던 것은 중국이 자국의 AI 기술을 발전시켜 나가는 자세를 나타낸 것이라고 생각한다고 말했다.

또 SPIEGEL ONLINE의 '왜 AI의 지배가 세계의 지배로 이어질까요?'라는 질문에 도밍고스 교수는 "AI는 지식을 얻는 비용을 대폭 절감할 수 있다"라고 답하며 효과적인 기계학습 시스템을 구축함으로써 100만명의 인간이 작업함으로써 얻을 수 있는 지식을 기계가 쉽게 입수해 준다고 설명했다. 즉, 어떤 나라가 AI를 적절히 운용함으로써 AI 후진국에 대해 대폭적인 지식의 어드밴티지를 가질 수 있기 때문에 AI를 지배하는 것이 세계의 지배로 이어진다는 것이다.

시진핑의 책장에 The Master Algorithm이 진열돼 있는 것을 알게 된 도밍고스 교수는 흥분함과 동시에 공포를 느꼈다고 한다. 중국은 'AI 드림'을 내걸고 국가가 주도해 AI 연구를 추진하고 있는 중이며, 급속한 발전을 이루고 있는 중국이 AI 기술 발달을 대폭 추진한다면 중국 국민뿐 아니라 전 세계에도 혜택이 돌아갈 수 있다고 도밍고스는 말한다.

반면 중국은 정부의 권위가 매우 강한 나라이기 때문에 AI를 사용해 국민을 통제하는데 주력하는 것은 위협할 만하다고 보고 있다. 도밍고스 교수는 "많은 기술과 마찬가지로 AI는 좋은 일에도 나쁜 일에도 사용하는 것이 가능하다"며 AI는 인간에게 위협이 될 수 있는 존재라고 말했다.

도밍고스 교수는 'The Master Algorithm'의 호평을 받아 세계 각지의 AI 연구자나 정부 관계자들과 이야기할 기회가 있었다는 것이다. 이때 미국과 아시아, 유럽 등 지역마다 AI에 대한 느낌이 다르다는 점에 관심을 가졌다고 도밍고스 교수는 말했다.

미국 실리콘밸리가 갖고 있는 AI의 비전은 리버털리아니즘(libertarianism.  개인적인 자유, 경제적인 자유 모두 중시하는, 자유주의적 정치사상 · 정치철학)에 영향을 받아 낙관적이었지만 유럽인들에게는 실리콘밸리와 정반대의 반응을 보았다. 유럽에서 참여한 많은 세션에서 사람들은 AI에 대해 비관적인 생각을 갖고 있으며, "AI로 인해 인도가 붕괴된다"는 의식을 갖고 있었던 것 같다"라고 도밍고스 교수는 말했다. 미국이나 중국에서는 지방이나 국가 수준, 나아가 의학연구나 교통관리 등에 있어서 AI를 활용한 어플리케이션이 이용되고 있는 반면, 유럽에서는 AI가 그다지 활용되지 않는다고 한다.

또, 「The Master Algorithm」은 러시아어와 중국어로는 번역되고 있지만, 독일어나 프랑스어로는 인터뷰 시점에도 번역되지 않았다. 그 사실을 SPIEGEL ONLINE이 도밍고스 교수에게 전하자 도밍고스의 책 권리와 관련된 에이전트가 "이 책은 프랑스나 독일에서 팔리지 않을 것이다"라고 말했다고 한다.

유럽인들은 AI에 대해 위협을 느끼고 있으며 AI를 규제하려는 기능은 미국에 앞서 있다고 도밍고스 교수는 말한다. 그런데 규제가 선행되면서 AI에 대한 이해가 더디다는 점을 지적하며, EU의 데이터보호규제(GDPR)는 데이터가 어떻게 쓰이느냐는 설명책임을 요구하고 있는데, 이 생각은 난센스이다. 도밍고스 교수는 이미 기계학습이 도움이 되고 있는 암 진단을 예로 들며 80%의 정확성을 가지고 자신이 어떻게 데이터를 이용하고 있는지 설명할 수 있는 암진단시스템과 90%의 정확성을 가지지만 자신이 어떻게 데이터를 이용하고 있는지 설명할 수 없는 암진단시스템이 개발되었을 때 어떻게 할 것인지 자문한다. 그리고 EU의 이념상 80%의 정확성을 가진 시스템을 사용하지 않을 수 없지만, 본래라면 90%의 정확성을 가지는 시스템을 선택해야 하며, 물론 도밍고스 교수 자신도 그쪽을 선택할 것이라고 말했다.

이 점에 대해 도밍고스 교수는 「최선의 알고리즘은 인간이나 동물에 촉발된 신경망(뉴럴 네트워크)이며, 매우 복잡한 상황으로부터 세계를 인식하는 높은 정확성을 가지고 있다. 그런데 그 뉴럴 네트워크가 어떤 동작을 하고 있는지 전문가조차 완전히 이해할 수는 없고, 우리는 단지 그 시스템이 어떤 작용을 하는지 알고 있을 뿐이라며 완전히 시스템의 개요를 설명할 수 있는 알고리즘만 허용해서는 안 된다고 밝혔다.

도밍고스 교수는, AI의 규제는 사용자를 사이트에 머물게 해 이익을 극대화하는 페이스북의 알고리즘과 같이, 이익을 추구할 목적으로 개발되는 것을 규제해야 한다고 말한다. 한편 GDPR에 의한 데이터 보호처럼 AI 개발에 유용한 데이터 수집을 저해하는 데이터 보호 규제는 악수이며 모처럼 유럽에는 우수한 AI 연구자가 있는데도 이를 살릴 수 없다는 것이다. 현재로서는 중국보다 유럽이 연구의 질에서 앞서고 있지만 중국은 국가가 전적으로 AI 연구를 지원하는 체제를 갖추고 있어 기계학습에 필요한 데이터를 연구자들이 이용하기 좋은 환경에 있다고 지적했다.

하지만 유럽에는 데이터 샘플의 다양성이 있다. 중국에서는 데이터가 균질하고 획일적인 것이 되기 쉽지만 사람들의 다양성이 있는 유럽에서는 기계학습에 딱 맞는 다양한 데이터를 수집할 수 있을 것이라고 하며, 도밍고스 교수는 데이터 샘플로는 유럽의 데이터가 유효하다고 말하고 있다.

또 AI 개발을 주도하는 것은 더 이상 국가가 아닌 기업이라며 현재 AI 개발의 세계 최첨단을 달리고 있는 것은 구글이라고 한다. Microsoft가 그 뒤를 이어가고 있으며, 더 나아가 그 뒤에서 페이스북이나 아마존이 따라잡으려 하는 상황이라고 도밍고스는 분석하고 있다. 중국에서는 온라인숍 알리바바나 거대 인터넷 관련 기업 텐센트가 유력한 데, 검색엔진 바이두도 AI에 대해 큰 베팅을 하는 기업이라고 한다.

"페이스북 사용자의 정보유출 스캔들에 대해 어떻게 생각하십니까?"라고 SPIEGEL ONLINE이 질문하자 현재 페이스북에서 데이터가 유출되는 사태는 일어나기 어렵다면서도 페이스북이 사생활 관점에서 위험을 떠안은 기업임에는 틀림없다고 답변했다. 또 페이스북은 AI로 인한 이익을 극대화하고 있는데 그 과정에서 사용자들에게 가짜뉴스를 보여주는 등의 피해를 주고 있다. 어딘가 타이밍에 정부가 개입할 필요도 있을 것이라고 말했다.

그러면서 AI가 민주주의를 위협한다는 주장에 대해서는 AI는 민주주의를 밀어붙이는 유용한 도구가 될 수도 있고 위협이 될 수도 있다고 말한다. 민주주의를 추진하는 툴로서 AI를 이용한 알고리즘을 개발함으로써 사람들의 요망을 정치인에게 전달해 보다 민의를 반영한 정치를 하는 것이 가능해진다는 것이다. 한편 AI가 사람들을 감시하기 위한 도구로 이용되거나 사람들의 행동을 정부 마음대로 조작하는 수단으로 악용될 위험도 미래에 발생할 수 있다고 한다.

민주주의가 위협받는 독재적인 정부에 AI를 포함한 컴퓨터는 결코 정부의 명령을 거역하지 않는 최고의 관료가 되는 것이다. 본의 아닌 명령을 거부할 권리를 가진 서양 군대와 달리 컴퓨터는 "아니오"라고 말하지 않고 정확하게 명령을 실행해 준다"라고 도밍고스 교수는 말해, AI가 독재자에게 편리한 것이라고 인정했다.

도밍고스는 권위주의적인 정부가 AI를 장악함으로써 사람들의 권리가 침해될 수 있다고 우려하고 있다. 사람들은 AI에 관심이 없을지 몰라도 AI는 사람들에게 관심이 있다는 겁니다. 정치인들은 AI를 자기편한 방향으로 설계할 수 있고, 이처럼 매력적인 존재는 정치인들에게 흔치 않다.

"고도로 발달한 AI는 신과 구별이 안 된다"고 도밍고스 교수는 "The Master Algorithm"에서 말하고 있는데, 이는 SF 작가 아서 C. 클라크의 "진보된 기술은 마법과 구별이 안 된다"를 꼬집은 것이라고 한다. AI가 반항할까 두려워하는 사람들도 있지만 그럴 가능성은 거의 없다. 그보다도, 우리가 AI의 자발적인 제어를 포기해 버릴 가능성이 훨씬 높고, 사람들은 AI의 개발에 있어서 항상 AI를 제어하는 의식을 버리지 않는 것이 필요하다」라고 도밍고스 교수는 말한다.

AI는 매우 영리하지만 우리 생활에 미치는 영향을 결정하는 것은 AI가 아니라 AI를 제어하는 인물이다. AI를 제어하는 것이 민주주의적인 인물인지 아닌지, 그것이 핵심이 될 것이다」라고 도밍고스 교수는 말했다.

Pedro Domino s on the Arms Race in Artificial Intelligence - SPIEGEL ONLINE
http://www.spiegel.de/international/world/pedro-domingos-on-the-arms-race-in-artificial-intelligence-a-1203132.html