(2) AI는 인간의 지능을 뛰어넘는가?AGI는 인류를 멸망시킬 것인가? 싱귤래리티(기술적 특이점. Singularity)에 대한 최근 논의

(2) AI는 인간의 지능을 뛰어넘는가?AGI는 인류를 멸망시킬 것인가? 싱귤래리티(기술적 특이점. Singularity)에 대한 최근 논의

이 내용은 최근 활발해지는 AGI를 둘러싼 논의와 조사에 의한 전문가의 예측을 소개하는 외국 자료를 정리한 것이다.

◆ AGI는 인류를 망친다? 안전한 AI 개발을 위해
AGI가 실현되면 그 앞으는 어떤 미래가 열릴 것인가?

AI 연구자이자 작가인 엘리에이저 유도코우스키는 AGI는 인류를 죽일 것이라고 경고했다. 그는 2023년 4월 강연에서 '내 예측에 따르면 이것은 결국 우리가 가치나 의미가 있는 것으로 인식하는 것을 원하지 않는 우리보다 더 똑똑한 무언가에 직면하게 될 것'이라고 말한 바 있다.

통상적인 과학 프로세스에서는 무제한의 시간 속에서 실패와 성공을 반복함으로써 문제를 해결해 왔지만 AGI의 경우 재시도할 수 없는 점이 문제라고 주장한다. "하하하, 이런, 확실히 잘 안 됐어요라고 말할 수는 없다. (그럴 경우는) 다 죽었으니까."(유도코우스키 씨)

그가 제안하는 해결법은 대규모 AI 훈련의 실행을 금지하는 것이다. 이를 위한 국제연합이 필요하다고 호소한다.

유도코우스키의 의견은 2010년대에 「극단적이다」라고 여겨졌지만, ChatGPT의 최신판인 「GPT-4」가 개발된 현재, 그 위험은 업계내에서도 실제적인 것으로 받아들여지게 되었다. 지난 3월 일론 머스크를 포함한 저명한 AI 관계자들이 GPT-4보다 능력이 높은 AI 시스템 개발을 6개월간 중단할 것을 촉구하는 공개 서한에 서명한 것은 기억에 새롭다.

앞서 언급한 러셀 교수도 2023년 9월 CNN 인터뷰에서 "현재의 접근 방식이 계속되면 최종적으로 우리는 기계를 제어할 수 없게 될 것"이라고 전망한 바 있다. 하지만 그는 "인간에게 유익한 AI 시스템으로 이어지는 또 다른 경로를 취할 수도 있다"며 이를 위해서는 현재 '블랙박스 상태'인 GPT-4의 내용을 오픈해 기존과 다른 기반 위에서 AI를 다시 개발할 필요가 있다고 호소한다.

그는 AI가 인간의 이익을 촉진하기 위해서는 미리 고정된 목적을 설정할 것이 아니라 오히려 인간이 추구하는 이익이 무엇인지를 AI가 모른다는 것을 최초로 인식하고 인간의 이익을 특정하고 이를 바탕으로 행동하기 위한 증거를 추구하도록 설계돼야 한다고 본다.

그러면, 예를 들면 「지구 온난화를 해결한다」라고 하는 목적을 위해서, 공기중으로부터 전체 이산화탄소를 제거하는 것과 같은, 인류에게 바람직하지 않은 결과는 피할 수 있다고 한다. 그는 또 AI 안전 확보를 위해 각국에서 AI 규제기관이 필요할 것이라고 전망했다.

실제로 2023년 11월 1일에는 런던 교외에서 각국 정부 고위 관계자와 기업 대표들이 모여 'AI 안전 서밋'이 개최됐다. 이 서밋에서는, 미·영 정부가 설립하는 연구기관에서, 기업이 개발하는 AI의 안전성을 사전에 검증하는 것등이 결정하였다. 통제불능의 AGI가 출현하기 전에 인류는 급속히 규제 환경을 정비할 필요가 있다.

◆ AGI가 가져올 사회적 변화
그렇다면 우리는 AGI로 무엇을 할 수 있게 되는가?

시험삼아 ChatGPT로 입력해보니

1. 문제해결과 의사결정: 의료진단, 과학연구, 경제예측, 환경문제해결 등 다양한 분야에서 효과적으로 활용할 수 있다
2. 노동력의 대안: 인간은 고도의 창조적 작업과 인간다운 상호작용에 집중할 수 있다
3. 새로운 과학적 발견: AGI는 방대한 데이터를 분석하고 패턴을 찾는 능력을 발휘한다
4. 교육과 개별지도: 개별 학습 스타일에 맞는 교육 제공한다
5. 대인 커뮤니케이션 : 고객 서비스, 상담, 교육, 오락 등의 분야에서 인간과의 커뮤니케이션이 가능해진다.
6. 윤리적 과제해결: 환경문제나 사회적 불평등 해결을 위한 제안 등을 할 수 있다
라는 대답이 돌아왔다.

특히 ②의 노동력 대체라는 관점은 AGI가 가져올 사회적 변화에 관한 논의에서 자주 거론되고 있다. 인간의 일이 AGI로 대체됨에 따라 일자리를 잃는 사람이 속출할 것으로 보여 기본소득 도입은 불가피하다는 의견도 많다. 또, AGI에 의해 모든 것의 생산 효율이 올라가면, 인간의 의식주 비용은 한없이 제로에 가까워진다는 견해에 따라, 인간이 노동으로부터 해방될 것으로 예상되고 있다.

반면 AGI가 모든 것을 고안·제작해준다면 인간이 무언가를 새롭게 탐구하려는 의욕은 사라질 수 있다. 애니메이션 영화 월리(2008년)에서는 미래 인류는 쓰레기 투성이가 된 지구를 떠나 우주선에서 살고 있으며, 그곳에서는 식량이 유동식이 돼 자동으로 공급되고 통통하게 살찐 사람들이 하루 종일 스크린을 보며 자율주행 의자에 앉아 지낸다. 이것은 우리가 원하는 미래의 모습일까?

AGI를 인류에게 안전하게 만들기 위한 논의와 함께 우리는 AGI로 무엇을 하고 싶은지 진지하게 생각할 때가 되지 않았을까.

참고：When will singularity happen? 1700 expert opinions of AGI [2023]
https://research.aimultiple.com/artificial-general-intelligence-singularity-timing/

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.