인공지능(AI)는 인류 최후의 발명이 되어 버리는 것인가?

인공지능(AI)는 인류 최후의 발명이 되어 버리는 것인가?

ChatGPT등의 보급에 따라 최근 분위기를 고조시키고 있는 AI 기술이 「인류 마지막 발명이 되어 버리는 것인가?」에 대해서, 채널 등록자수 2270만명 이상의 과학 YouTube 채널 Kurzgesagt가 동영상으로 설명하는 내용입니다.

A.I. ‐ Humanity's Final Invention? - YouTube
https://youtu.be/fa8k8IQ1_X0?si=dwRHfqTID7f0VMQi

 

 
 
인류는 경쟁 없이 지구를 지배하고 있습니다. 그러나 인류는 그것을 바꿀지도 모르는 것을 만들려고 하고 있습니다. 인류가 개발하고 있는 '그것'은 인류 최후의 발명이자 역사상 가장 강력한 도구·무기 혹은 실체일 가능성마저 있습니다. 바로 인공지능(AI)입니다.

지능은 학습하고, 추론하고, 지식이나 기술을 획득하고, 그것을 사용하여 문제를 해결하는 능력을 말합니다. 지능은 힘이며, 우리 인류는 지능을 가장 효과적으로 이용해 온 생물이기도 합니다.

그 결과 인류가 자연의 섭리를 파괴하고 지구의 지배권을 장악하게 되었습니다.
대부분의 동물에게 지능은 너무 고비용이라 에너지를 쓸 가치가 있다고는 생각하지 않는 것입니다. 그래도 종(種) 계통수의 지능을 시계열로 추적하면 다양한 형태의 지성이 출현하는 모습을 볼 수 있습니다.

가장 오래된 뇌는 5억 년 전 편형동물에서 출현했습니다.
뉴런이 기본적인 신체기능을 처리할 수 있게 되기까지 수억 년이 걸렸고, 이에 따라 종(種)이 다양해지고 더욱 복잡해지면서 생명은 새로운 환경을 정복하고 새로운 감각을 획득해 자원을 둘러싼 치열한 경쟁에 맞서야 했습니다. 그러나 자연계에서는 살아남는 것이 전부이고 뇌는 고비용이기 때문에 거의 모든 동물은 좁은 범위의 작업에 적합한 좁은 지능을 가지고 있으면 충분했습니다.

환경에 따라 조류, 문어, 포유류 등의 동물은 보다 복잡한 신경구조를 진화시켰으며, 고도의 네비게이션이나 커뮤니케이션 능력 등 보다 에너지를 소비하는 기술을 익히는 데 성공하였습니다.

그리고 700만 년 정도 전에, 인간아과(호미닌)가 출현하였으며, 이유는 알 수 없지만, 호미닌의 뇌는 빨리 성장했습니다. 호미닌의 지성은 매우 천천히, 좁은 범위에서 일반적인 것, 드라이버부터 멀티툴까지 다양한 문제에 대해 생각할 수 있다고 합니다.

200만 년 전에 등장한 호모 에렉투스는 누구와도 다른 시각으로 세상을 보고 있었습니다. 호모 에렉투스는 불을 조종하고 도구를 발명하여 최초의 문화를 창조했습니다.
그리고 우리 인류는 아마 25만 년 정도 전에 더 크고 복잡한 뇌 덕분에 큰 그룹에서 협력하고 복잡한 생각을 전달할 수 있게 되었습니다. 지성(知性)을 사용하여 생활을 개선하고, 사물이 어떻게 기능하고, 왜 그렇게 되는지를 생각하게 되었습니다.

지식은 지식 위에 쌓이기 때문에 진보는 처음에는 느리지만, 그 후, 비약적으로 향상되었습니다. 농업, 문학, 의학, 천문학, 철학 등 다양한 분야에서 폭발적인 발전을 이루게 됩니다. 그리고 200년 전부터는 과학이 발전하면서 우리는 더욱 뛰어난 능력을 갖게 되었습니다.

그리고 35년 전, 인터넷이 등장합니다.
지능의 계단이 어떤 것인지, 그리고 오르는 데 어느 정도의 시간이 걸리는지는 인간은 파악하기 어렵습니다. 인류는 인류보다 더 뛰어난 '사물'을 만들어내려 하고 있으며, 이는 지구를 정복할 수 있는 힘을 주는 인류에게 마지막 발명이 될 수 있다고 Kurzgesagt는 주장하고 있습니다.

바로 인공지능(AI)입니다. AI는 작업을 수행하는 소프트웨어이자 컴퓨터이며 뉴런 대신 실리콘을 사용해 문제를 해결하는 코드이기도 합니다.
애초에 AI는 매우 단순한 것이었습니다. 종이에 적힌 코드, 단순한 개념 실증, 기계가 지적 작업을 어떻게 실행할 수 있는지 실증할 뿐이었습니다.

1964년 챗봇, 1965년 분자를 분류하는 프로그램이 개발됐으며 이들도 초기 AI라고 Kurzgesagt은 지적합니다. 이들 AI는 처리 속도가 느리고 전문가가 사용해야 하는 특수한 시스템이었습니다. 초기 AI의 지능은 극히 한정된 것으로 관리된 환경 내에서 단일 작업을 수행하기 위해서만 구축되어 있습니다. "이것들은 10억 년 전에 등장한 편형동물과 동등한 지능이며, 최소한의 지적 노동밖에 할 수 없습니다."라고 Kurzgesagt는 주장합니다.

환경의 변화가 생명에 새로운 틈새를 만들어내는 것과 마찬가지로 AI를 둘러싼 세계도 변화를 계속하고 있습니다. 1950년에서 1960년 사이의 기간과 비교하여 2000년에는 컴퓨터의 처리속도는 10억 배로 향상되었습니다. 프로그래밍도 보다 간단하고 널리 보급되었습니다. 1972년에는 AI가 변화를 거쳐서, 1989년에는 손으로 쓴 글씨를 읽을 수 있게 되었습니다. 그러나 이 시점에서 AI는 인간에게는 도저히 당해낼 수 없는 '화려한 도구'에 불과했습니다.

그러나 1997년 AI가 체스 세계챔피언을 이겨 세계에 충격을 줍니다. 그러나 이것도 좁은 범위의 작업에서만 인간을 앞질렀다는 사례입니다.
그 후에도 컴퓨터는 계속 진화했고, AI는 점점 더 많은 작업을 실행 가능한 강력한 도구로 진화해 왔습니다. 2004년에는 화성에서 로봇을 운전하고, 2011년에는 유튜브 동영상의 추천 기능으로 기능하기 시작합니다.

그러나 이는 인간이 문제를 '컴퓨터가 바로 해독할 수 있도록 이해하기 쉬운 데이터 묶음(chunk)으로 분할'했기 때문에 실현된 것이었습니다.
여기서 AI는 새로운 진화를 이루며 스스로 학습하게 됩니다. "AI의 자가 학습에 대해 간단히 설명하자면, 슈퍼컴퓨터의 압도적인 파워와 정보화 시대가 신세대 AI(자가학습 AI)를 만들어내는 것으로 이어졌습니다"라고 Kurzgesagt은 설명합니다.

AI 전문가들은 양식을 대폭 개선해 신경망이라 부르는 AI 소프트웨어와 인공적으로 만들어진 거대한 네트워크를 이용해 뉴런을 기계학습으로 학습시킴으로써 AI가 자가 학습할 수 있도록 하고 있습니다. 알고리즘이 자체 코드를 써서 스스로 개선하는 것을 가능하게 한다는 것으로, 무서운 것은 AI가 어떻게 자기학습을 하고 있는지, 그리고 AI 안에서 무슨 일이 일어나는지를 우리 인류는 정확하게 파악하지 못하고 있다는 점입니다. 그렇기 때문에 자기학습을 할 수 있는 최신 AI에 대해 Kurzgesagt은 '유능한 코드의 블랙박스'라고 표현하고 있습니다.

이 새로운 AI들은 복잡한 기술을 매우 빠르게 습득할 수 있고, 인간의 도움이 필요한 경우도 훨씬 적어졌습니다. 그 후, 2014년에 Facebook의 AI가 97%의 정확도로 인간의 얼굴을 식별하는 데 성공했습니다. 2016년에는 바둑에서 AI가 최고 프로기사를 격파합니다.

2018년에는 자기학습형 AI가 불과 4시간 만에 체스를 학습하는 데 성공하면서, 이 AI는 자기스스로와 대국하는 것만으로 당시 최고의 체스 전문 AI에 승리했습니다.

그 이후로 기계학습은 독서, 영상 처리, 테스트 해결 등 다양한 분야에 응용되어 왔습니다. 이러한 AI의 대부분은 훈련된 특정 작업에서는 이미 인간보다 우수합니다. 다만 여전히 단순한 도구이며 AI는 대부분의 사람들에게 그다지 큰 문제가 아닌 것처럼 여겨졌습니다.

그런데 챗봇인 ChatGPT가 등장합니다. 인터넷상에 존재하는 거의 모든 것을 언어의 취급법을 배우기 위한 트레이닝 데이터로서 활용하고 있으며, 시간의 경과와 그 정밀도는 보다 높아지고 있습니다. ChatGPT는 이미 대부분의 사람들보다 요약, 번역, 수학문제 해결과 같은 작업에서 뛰어난 지능을 발휘하고 있습니다.

ChatGPT는 몇 년 전부터, 그 어떤 AI보다 작업의 폭이 넓고, 많은 대형기술 기업들이 ChatGPT 경쟁을 구축하기 위해 수 십억달러의 자금을 쓰고 있습니다.
AI는 이미 고객 서비스, 은행 업무, 헬스케어, 마케팅, 카피라이팅, 크리에이티브 등의 분야에서 활용되고 있으며, AI 생성형 콘텐츠는 이미 소셜 미디어와 유튜브에서 자리를 잡아가고 있습니다.

AI를 모든 곳에 도입함으로써 얼마나 많은 이익 및 손해가 발생할지는 아무도 모릅니다. 가장 큰 의문 중 하나는 정부와 기업이 현재 직면한 과제이기도 한, 'AI를 활용한 경제로의 전환을 어떻게 관리할 것인가'라는 것입니다.

ChatGPT의 지능은 큰 진보이지만 실행 가능한 작업은 아직 좁은 범위에 머물러 있습니다. 몇 초 만에 훌륭한 에세이를 쓸 수는 있지만, AI 자신은 무엇을 쓰고 있는지를 정확하게 이해하지 못하고 있습니다. 그러나 AI가 좁은 범위에 한정되지 않게 되어 버리면 어떻게 될까요.

인간이 현재의 AI와 다른 것은 우리의 폭넓은 작업에 대응할 수 있는 지능 때문입니다. 인간은 모든 지식을 기술적으로 흡수하고 모든 문제에 대처합니다. 우리는 체스 플레이부터 문장 쓰기까지 다양한 기술과 작업에 대응할 수 있습니다. 일부 분야에서는 초보자이지만 다른 분야에서는 초보자도 기술적으로는 다 가능합니다. 이에 반해 지금까지의 AI는 하나의 스킬에 특화되어 있지만, 다른 작업에서는 초보자 이하의 스킬 밖에 가지고 있지 않아 학습도 불가능했습니다.

그러나 AI는 인간처럼 모든 작업에 대응 가능한 범용인공지능(AGI)이 되는 것을 목표로 하고 있습니다. 인류가 AI의 개선 프로세스를 지금까지 계속 지나갈 수 있다면 AGI는 거의 혹은 모든 기술에 있어 인간을 능가할 가능성도 적지 않습니다. AGI의 구축 방법이나 그것이 어떻게 기능하는지, 무엇을 할 수 있게 되는지는 불분명합니다.

협의의 AI는 '하나의 작업을 빠르게 습득할 수 있다'는 것이기 때문에, '미래 등장하는 AGI는 모든 지적 작업을 빠르게 습득할 수 있게 될지도 모릅니다'라고 Kurzgesagt는 지적하고 있습니다. 이어 AGI는 인간만큼 똑똑하고 유능해질 가능성이 있습니다. 이것은 마치 SF처럼 들릴지 모르지만, 대부분의 AI 연구자는, 이것이 금세기 중, 혹은 몇 년 이내에 일어날 것이라고 생각하고 있습니다」라고도 말하고 있습니다.

하지만 인류는 다음에 무슨 일이 일어날지에 대해 아직 준비가 되어 있지 않습니다. 이것은 사회적으로도, 경제적으로도, 도덕적으로도 마찬가지입니다. 평균적인 인간과 동등한 지능을 가진 AGI가 등장하면 현대 문명을 혼란시킬 것이라고 Kurzgesagt는 설명합니다. 왜냐하면 AGI는 우리와 같은 제한에 묶여 있지 않기 때문입니다.

ChatGPT와 같은 AI는 특정 작업을 해결하는 데 걸리는 시간이 숙련된 인간보다 10배 이상 빠릅니다. AGI는 특정 작업처리로 인해 Chat GPT보다 시간이 더 걸릴 수 있지만 더 빨라질 수도 있습니다. AGI는 소프트웨어이므로 충분한 기억장치(storage)가 있는 한 그것들을 무한히 병행하여 실행할 수 있습니다.

세계에는 800만 명의 과학자가 있지만 AGI는 24시간 365일 가동 가능하고, 인간보다 10배 빠르게 사물을 생각하는 것이 가능하며 주어진 일에만 집중할 수 있습니다. 만약 갑자기 AGI가 법 해석부터 코딩, 유튜브 애니메이션 영상 작성까지 더 좋고, 더 빠르고, 더 싸고, 사람보다 더 잘 할 수 있게 되었다면 AGI를 제어하는 사람이 갑자기 경제를 지배할 수도 있습니다.

AGI는 암흑에너지와 같은 과학의 근본적인 의문을 해결하거나, 기후변화를 해결하거나, 노화나 암을 고치는 새로운 기술을 만들어 줄 수 있지만, 동시에 AGI를 무기로 이용하는 등의 가능성도 있습니다. 예를 들면 「녹색의 눈을 가진 사람만을 죽이는 바이러스를 설계한다」라고 하는 식으로.

인간은 탄생 이래 하드웨어 측면은 진화하고 있지만 소프트웨어 측면은 진화하고 있지 않습니다. 이것은 생물학적으로 어쩔 수 없는 일이라고 할 수 있습니다. 그러나 AGI는 적절하게 하드웨어를 진화시킴으로써 소프트웨어의 성능을 향상시킬 수 있을 뿐만 아니라 소프트웨어 측면의 진화도 가능합니다. 

Kurzgesagt은 "AI의 진보로 인간의 관여를 필요로 하지 않는 AI가 탄생했다"며 "이러한 지능의 폭발이 일어난다면 우리 인류는 초지능을 가진 AGI에게는 다람쥐와 같은 존재일 수 있습니다. 그렇게 되면 인류가 AGI의 생각을 이해할 수 없게 되어 AGI가 인류에게 있어서 마지막 발명이 되어 버릴 가능성도 있습니다」라고 말해 AGI가 종말을 가져올 가능성도 시사하고 있습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.