AGI(범용 인공지능)는 10년 이내에 실현할 것인가? 실현 가능성과 실존적 위험을 고찰하면

AGI(범용 인공지능)는 10년 이내에 실현할 것인가? 실현 가능성과 실존적 위험을 고찰하면

이 내용은 일본의 realsound라는 사이트에 게재된 내용을 정리한 것이다.

해당 사이트에 게재된 내용을 살펴보면 다음과 같다.
먼저 생성형 AI의 대두로 인해 일상적으로 AI 관련 뉴스가 보도되는 가운데, 최근에는 'AGI'라는 말이 나오고 있다면서 글을 시작한다.
구체적으로 보면  「Artificial General Intelligence(범용 인공지능)」의 줄임말인 이 단어는, 생성형 AI 대두 이전에는 AI 연구의 한정된 문맥에 있어서만 사용되는 것이었지만, 작금의 AI 붐이 일자 갑자기 비즈니스 용어가 되고 있다고 한다.

그래서 이 자료에서는 「AGI」를 둘러싼 다양한 발언이나 조사의 확인을 통해서, 그 실현 가능성과 리스크에 대해 고찰해 보고자 한다.

■ 경제계의 핵심 인물이 말문을 열면서 '꿈 이야기'를 벗어난 AGI

애초 AGI의 의미를 정확히 이해하기 위해서는 반대말로 자리매김하는 '특화형 AI'를 언급할 필요가 있다. 특화형 AI란 '특정한 목적을 위해 개발된 AI'를 의미하며, 대규모 언어 모델인 'ChatGPT'나 'Google Gemini'와 같은 AI는 이에 분류된다.

반면 AGI란, 인간과 같은 「폭넓은 지적 활동을 실행할 수 있는 AI」를 말한다. 음성 인식·화상 인식이라고 하는 단일의 과업에 얽매이지 않는 높은 범용성이나 취사 선택이 섞인 자기 학습, 높은 유연성을 특징으로 들 수 있으며, 이러한 대비만으로도, AGI의 실현이 곤란한 것을 알 수 있을 것이다.

그런데 생성 AI의 대두에 따라 AGI의 실현은 결코 꿈의 이야기가 아니라고 생각하는 분위기가 높아지고 있다. 이러한 분위기를 견인하는 것은, ChatGPT를 개발한 OpenAI사이다.

OpenAI사의 알트만 CEO는 2023년 2월 24일(GPT-4 공개한 앞달), AGI와 그것을 넘는 초지능을 실현하는 계획에 관한 블로그 기사를 투고했다(OpenAI「Planning for AGI and beyond」 https://openai.com/blog/planning-for-agi-and-beyond).
같은 해 12월 14일에 공개된 회사 블로그 기사에서는, 향후 10년 이내에 초지능이 실현될 가능성이 있다고 명시한 다음, 그러한 지능을 제어하는 방법에 관한 연구를 개시한 것을 보고하고 있다(OpenAI「Weak-to-strong generalization」 https://openai.com/research/weak-to-strong-generalization). 이와 같이 이 회사에 있어서는 AGI의 실현은 매우 분명하며, AGI의 끝에 있는 초지능도 연구대상으로 삼고 있는 것이다.

일본에서는 소프트뱅크주식회사 창업자 손정의가 AGI에 대해 적극적으로 발언하고 있다. 2023년 10월 3일부터 6일까지 개최된 법인용 이벤트 「SoftBank World 2023」를 보고한 2023년 10월 4일 공개의 회사 블로그 기사에 의하면(SoftBank 「AI는 「AGI」로 진화해, 향후 10년에 전 인류의 예지의 10배를 넘는다. 손정의 특별강연 리포트. 
https://www.softbank.jp/biz/blog/business/articles/202310/sbw2023-softbank-son-main-keynote/), 그는 특별 강연에 대해 「10년 이내에 AGI가 실현된다」라고 역설했다.

그리고 「AGI의 능력은 인류의 예지의 총화의 10배에 이르러, 모든 산업에 영향을 준다」라고도 말했다. 「AGI가 실현한 또 10년 후에는 초지능이 탄생해, 그 능력은 인류의 예지의 1만 배가 된다」라고도 말해, AGI 시대의 도래를 향해서 청중에게 분발을 촉구했다.

2024년 1월 18일에는, Meta의 저커버그 CEO가 회사의 장기전략을 Threads에 게시했다(Threads .... https://www.threads.net/@zuck/post/C2QBoRaRmR1). 그 게시물에서 그는, AGI의 실현을 장기적 목표로서 내걸었다. 그러면서 "AI와 메타버스는 연결돼 있다"며 "2020년대 말까지는 스마트 글래스를 통해 종일 AI와 대화하는 듯한 생활이 찾아올 것"이라는 전망을 선보였다.

이와 같이 경제계의 핵심 인물들은 AGI의 실현을 굳게 믿고 있는 것 같고, 그 실현에 비즈니스 기회를 보고 있는 것이다.

■ AGI의 실현 가능성에 대해 AI 연구자는 '2047년에 50% 확률로 실현'이라고 대답

AI 연구자가 AGI의 실현가능성에 대해 어떻게 생각하고 있는지에 관해서는 고도의 AI가 사회에 미치는 영향을 조사하는 연구기관·AI Impacts가 2024년 1월 5일에 발표한 논문으로 정리되어 있다. 이 논문은 2022년 AI에 관한 세계적 컨퍼런스에 논문이 채택된 AI 연구자 2,778명에 대해 AGI의 실현 가능성 등에 관한 설문조사를 실시한 결과를 보고한 것이다. 그 내용의 개요는, AI Impacts 공개의 Wiki 페이지에서 열람할 수 있다(AI Impacts「2023 Expert Survey on Progress in AI」
https://wiki.aiimpacts.org/ai_timelines/predictions_of_human-level_ai_timelines/ai_timeline_surveys/2023_expert_survey_on_progress_in_ai).

AI Impacts가 실시한 설문조사에서는 AGI와 거의 동의어인 '고수준 기계지능'의 실현 가능성에 관한 설문이 있었다. 그 질문은 고수준 기계지능의 실현 가능성이 시간의 추이와 함께 어떻게 변화하는지를 묻는 것이었다. 이 질문의 답변을 집계하면, AI 연구자는 「2047년에는 50%의 확률로 실현된다」라고 생각하고 있는 것으로 밝혀졌다.

이 기관은 2022년에도 같은 설문조사를 실시하였는데, 2022년 결과와 2023년 그것을 비교하면 2023년 결과에서는 실현 가능성이 50%에 달하는 시기가 13년 앞당겨졌다.

설문에서는 AI로 인한 노동의 완전 자동화 실현 가능성에 대해서도 질문했다. 그 응답의 집계 결과는 '2116년에는 50%의 확률로 노동의 완전 자동화가 실현된다'는 것이었다. 마찬가지로 이 결과를 2022년과 비교하면 48년 빨라진 것으로 나타났다. 하기야 반세기 가까이 앞당겨졌다고 해도 AI 연구자들은 금세기 안에 노동의 완전 자동화가 이뤄질 가능성은 낮다고 보는 것이다.

설문조사 중에는 39개의 작업에 관한 AI의 실현 가능성을 묻는 것도 있었다. 그러한 작업에는 「뉴욕 타임즈지가 출판하는 것과 같은 베스트셀러 소설을 집필한다」나 「특정의 아티스트에 관한 페이크 송을 제작한다」와 같은 것이 있었는데, 35개의 작업이 10년 이내에 실현 확률이 50%를 넘는다고 회답하고 있었다. 이 답변은 2022년과 비교해 평균 1년 앞당겨진 것이다.

AI Impacts의 설문조사에 근거하면, AI 연구자는 경제계의 핵심 인재보다 훨씬 신중하게 AGI의 실현 가능성을 바라보고 있음을 알 수 있다. 하지만 동시에 2022년 조사와 비교하면 AI의 진화가 가속화되고 있다고 생각하는 것도 밝혀졌다.

■ DeepMind가 주장하는 'AGI의 수준 나누기'

이상의 발언이나 조사에서는 AGI의 실현 시기에 언급되고 있어도, 그것이 어떠한 프로세스를 거쳐 실현되는지에 대해서는 불분명하다. 이러한 가운데 Google과 대규모 언어 모델 「Gemini」를 공동 개발한 DeepMind는 2023년 11월, AGI를 단계적으로 실현하기 위한 수준 나누기에 관한 논문을 발표했다(Google DeepMind「Levels of AGI: Operationalizing Progress on the Path to AGI」
https://arxiv.org/abs/2311.02462). 이 수준 나누기는 자율주행 수준 나누기에 영감을 주고 있어 개발한 AI가 얼마나 완전한 AGI에 접근했는지 파악하는 데 도움을 주는 것으로 알려졌다.

AGI의 수준(레벨) 구분에 있어서의 기본 컨셉은, 기존 AGI에 있어서의 지적 능력의 폭넓은 것이 주목받고 있던 것에 반해, 그 지적 능력을 인간의 그것과 비교했을 경우의 「이해의 깊이」에 주목하는 것이다. 예를 들면, 폭넓은 지적 작업에 대해 인간의 전문가의 50%의 스킬을 실현하고 있는 AI는, 레벨 2의 「유능한 AGI」로 분류된다. 이와 같이 제안된 수준(레벨) 구분은, 인간의 스킬과 비교한 퍼센티지(%)에 근거해 분류된다.

이 수준(레벨)로 나누고 싶어하면, 인간의 전문가 스킬의 99%를 실현한 AGI는 레벨 4의 「명인 AGI」가 되고, 인간을 능가하는 것은 「초지능」이 된다. 참고로 ChatGPT를 비롯한 현재의 대규모 언어 모델은 레벨 1의 '신설 AGI'로 분류되며, 마이크로소프트 워드와 같은 범용성이 없는 소프트웨어가 속한 레벨 0보다는 AGI에 가까운 것으로 간주되고 있다. AGI의 수준(레벨) 구분을 활용하면, 완전한 AGI를 실현할 때까지의 프로세스를 수준(레벨)의 상승이라고 하는 알기 쉬운 이벤트에 의해 파악할 수 있다.

이러한 가운데, 주식회사WEEL은 2024년 1월 25일, 이 레벨 구분에 고취하게(inspire) 된 「AGI 종말시계」를 출시했다(PRTIMES「AGI의 도래를 카운트하는 「AGI종말시계」를 월간 100만PV이상 생성 AI전문 미디어가 보도」
https://prtimes.jp/main/html/rd/p/000000007.000034375.html).

이는 AGI의 수준(레벨) 나누기와 세계 멸망까지의 남은 시간을 가시화하는 세계종말시계를 조합한 것으로 2024년 2월 시점에서는 2027년에 레벨 4의 AGI가 실현된다고 가정했을 때의 남은 시간을 표시하고 있다. 2027년에 AGI가 실현된다는 가정에 대해서는 논의의 여지가 있는 것도, AGI종말시계는 AGI의 실현에 주의를 기울이게 한다는 점에서 흥미로운 시도일 것이다.

■ '종이 클립 최대화 지능'에서 보는 실존적 위험

AGI의 실현에 관련해 흔히 되묻게 되는 것이, 그러한 고도의 AI가 인류에 적대할 가능성이다. 이러한 AI가 인류를 멸망시킬 것 같은 리스크는, 가짜 정보의 유포와 같은 기존의 리스크와 구별해 "실존적 리스크"라고 한다.

인간을 능가하는 초지능과 그 실존적 리스크는, 철학자의 닉 보스트롬가 2014년에 발표한 「슈퍼 인텔리전스 : 초절정 AI와 인류의 운명」에서 자세하게 분석하여 세상에 알려지게 되었다. 2023년 8월에는, 그의 인터뷰 기사가 클리어 재팬에 게재되었다(클리어 재팬 「닉·보스트롬 「의식을 가지고 있든 없든, AI가 인류를 멸망시킬 위험성은 있다」
https://courrier.jp/news/archives/335142/). 이 인터뷰에서 그는 실존적 리스크에 대해 다시 한번 말했다.

실존적 리스크를 말하는 데 있어서, 보스트롬은 유명한 「페이퍼 클립 최대화 지능」을 언급했다. 이는 한 초지능이 페이퍼 클립을 가능한 한 대량으로 제조하도록 명령받은 경우의 결말에 관한 사고(생각) 실험이다. 초지능은 자신이 우주를 지배할 수 있다면 페이퍼클립 제조를 멈출 사람이 없을 것이라고 생각할지도 모른다. 그리고 실제로 그렇게 생각하면 페이퍼 클립 제조를 방해할지도 모르는 인간을 섬멸할 가능성이 있는 것이다.

페이퍼 클립 최대화 지능으로부터 얻을 수 있는 교훈은, 고도의 AI는 인류를 멸하려고 하는 "적극적인 악의"가 없어도 인류를 멸할 리스크가 있다라고 하는 것이다. 이러한 리스크를 회피하려면, AI가 인간의 가치관과 양립할 수 없는 판단을 주지 않도록 개발해야 하는 것이다. 이러한 개발에 관한 사상은, 「AI 얼라인먼트」라고 한다.

사실 AI 얼라인먼트는 이미 Chat GPT 개발에서 활용되고 있다. 이 AI는, 전신 모델에 해당하는 GPT-3.5를 인간에게 바람직한 회답을 출력하도록 훈련시켜 탄생한 것이다. 훈련에 있어서는 인간의 작업자가 회답의 바람직함을 평가했다. 이런 훈련 덕분에 Chat GPT는 인간이 친숙한 대화형 AI가 된 것이다.

이 내용에서는 「AGI의 실현 가능성과 리스크」에 대해 살펴보았지만, 현 시점에서는 AGI가 2~3년 이내에 실현될 가능성은 없을 것 같다고 말할 수 있다. 그렇지만, AI 업계는 AGI의 실현을 향해 나아가고 있어, 그 실현에 접근함에 따라 리스크도 높아질 것이다. 안전하고 안심하고 AGI를 실현하기 위해서는 사회 전체가 AGI에 계속 관심을 가지면서 리스크가 높아질 때마다 적절히 대처·판단하는 것이 요구된다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.