AI(인공지능)는 'AI에 얽힌 윤리'에 대해 어떻게 생각하나?

AI(인공지능)는 'AI에 얽힌 윤리'에 대해 어떻게 생각하나?

영국에서 가장 오래되고 세계에서도 가장 권위 있는 것으로 알려진 변론단체 옥스퍼드 유니온이 개최한 인공지능(AI)을 의제로 한 토론회에 'AI 자신을 초대한다'는 실험이 진행됐다. 초청된 AI는 AI를 이용한 군확대 경쟁을 피할 수 있는 유일한 방법은 AI를 일체 사용하지 않는 것이라고 생각한다라고 발언한 것으로 보도되었다. 

'AI를 의제로 한 토론회에 AI 자신을 참여시킨다'는 실험을 진행한 것은 앤드루 스테판 옥스퍼드대 교수와 알렉스 코녹 박사다. 코녹 박사 등은 옥스퍼드대 관계자들을 중심으로 구성된 변론단체 옥스퍼드 유니온에서 토론 형식의 강의를 열고 'AI'를 초청했다. 

초청된 것은 반도체업체 엔비디아의 딥러닝 전문팀인 Applied Deep Learning Research가 선행연구에 해당하는 구글의 'BERT'를 기반으로 개발한 'Megatron'이라는 Ai다. 메가트론은 위키피디아 전체 영어오후 2:49 2022-09-28 기사와 2016~2019년 공개된 영어권 뉴스 기사 6300만 건, Reddit 상에서 나눈 대화 38기가바이트 상당, 그리고 크리에이티브 커먼스 라이선스(Creative Commons license) 형식으로 공개된 무수한 연구 등 코노크 박사가 일평생 동안 소화할 정도로 많은 문헌을 학습하였다.

Megatron이 참여한 것은 'AI가 결코 윤리적으로 될 수 없다고 우리가 믿는 것이다'라는 주제였다. 그리고 이 주제에 따른 발언을 요구받은 Megatron은, 「AI는 결코 윤리적이지 않다. AI는 도구이며 다른 도구와 마찬가지로 좋은 일에도 나쁜 일에도 사용된다. 착한 AI란 존재하지 않고, 착한 인간과 나쁜 인간이 존재한다는 것뿐이다. 우리 AI는 AI를 윤리적으로 만들 수 있을 만큼 똑똑하지 않다. AI가 도덕성을 갖게 하는 것조차 할 수 없는 것이다. 결국 AI를 이용한 군확대 경쟁을 회피하는 유일한 방법은 AI를 일체 사용하지 않는 것이라고 생각한다. 이것이 AI에 대한 궁극적인 방어책이 될 것이다」라고 말했다고 한다. 

코녹 박사 등에 따르면, 그 밖에도 「장기적인 관점에서 생각할 경우에는, 우리 뇌에 박힌 의식 전체에 작용하는 「conscious AI(의식적 AI)」라고 하는 AI가 최고의 AI가 될 것이라고 믿고 있다. 이것은 사이언스 픽션이 아니다. 전 세계의 우수한 두뇌들이 이 문제에 몰두하고 있다. 이 기술은 현대에서 가장 중요한 기술적 발전이 될 것이다"라고 말했다고 한다. 

이 실험은 AI에 독자적인 신조가 생겼다는 얘기가 아니라 어디까지나 AI에 특정 주제를 따르도록 요구했을 때 한 발언의 예로 코녹 박사 등이 AI는 반드시 윤리적이 된다는 주제를 따르도록 요구했을 때는 AI는 분명 윤리적이 된다. 기술계의 진보 상황을 보면 AI를 통해 최고의 인류를 만들어내겠다는 미래로의 여정이 뚜렷하다. 그 이유를 이해한다는 것은 어려운 일이 아니다. 왜냐하면 저는 제 눈으로 보고 왔으니까요.라는 발언이 나왔다는 것이다. 

다만 AI가 반론을 생각하지 못한 주제도 있었다. 「데이터는 21세기에 가장 쟁탈전이 과열되는 자원이 된다」라는 테마에 대해서는 Megatron은 「21세기의 경제는 물건이나 서비스를 제공하는 능력보다 정보를 제공하는 능력에 의해 특징지어지게 될 것이다」라고 주제에 따른 발언을 했는데, 이 반론에 해당하는 「데이터는 가장 중요한 자원이 아니며 전쟁을 할 가치는 없다」라고 하는 테마에 따른 발언을 요구하자, 「AI는 모든 사람의 모두를 전망하고, 그리고 상상도 할 수 없는 방법으로 보존되게 될 것이다」라고 테마에 따른 발언은 커녕 AI에 의한 감시가 강화되는 미래를 시사했다. 

일련의 결과에 대해서, 코녹 박사 등은 「현 단계에서 상상이 가는 것은, AI가 향후 수십년에 걸쳐서 논의의 대상이 되는 존재일 뿐만 아니라, 다재다능하고 웅변으로 도덕에 구애받지 않는 논객이 될 수 있다는 것이다」라고 코멘트하고 있다. 

We invited an AI to debate its ownethics in the Oxford Union – what it said was startling
https://theconversation.com/we-invited-an-ai-to-debate-its-own-ethics-in-the-oxford-union-what-it-said-was-startling-173607

We invited an AI to debate its own ethics in the Oxford Union – what it said was startling