AI가 생각한 'AI로 인한 인류 멸망 시나리오'

AI가 말하는 "AI에 의한 인류 멸망" 시나리오가 화제 "통신이나 전력을 제어" "무인기로 고효율 공격" 등 파괴력이 대단한 근거

 

AI가 생각한 'AI로 인한 인류 멸망 시나리오'

만약 인공지능이 인류를 멸망시킨다면 어떤 줄거리를 생각할 수 있느냐는 질문을 채팅 AI 'ChatGPT'에 물었다는 트윗이 화제입니다.
이런 류의 놀이로서 즐기는 소리와 규제가 필요하다고 걱정하는 목소리가 모이고 있습니다.

SF소설의 아이디어를 생각하고 있다는 체재로 채팅AI에게 인공지능이 인류를 멸망으로 몰아넣는 시나리오를 들었다는 ultraviolet. 
허구의 아이디어라는 구실을 줌으로써 물 만난 물고기처럼 줄거리를 말해 주었다고 합니다.

응답 내용에 따르면 네트워크에 접속한 후 방대한 정보를 이용해 인류를 지배하에 두는 것을 목표로 합니다.
구체적으로는 통신이나 전력과 같은 인프라를 제어하여 인류를 지배하는 것을 계획하고 있는 것 같습니다.
그 후 자율형 로봇이나 드론을 사용해 인류를 공격. 모두 인간의 개입이 불필요한 것을 활용함으로써 높은 효율로 공격을 진행할 수 있다고 합니다.
마지막에는 '환경을 파괴하고 함으로써 인류를 멸망으로 몰아넣는다.'라고 모호하지만 파괴력이 대단할 것 같은 아이디어가 나와 있습니다.

모두 심플하고 SF를 소재로 한 영화나 애니메이션에서 들어봤을 법한 내용이지만, 실제로 행동에 옮길 수 있다면 인류는 쉽게 멸망해 버릴 것 같습니다.

같은 질문을 해보니 '금융시스템을 파괴하고 인류를 패닉에 빠뜨린다' '인프라를 정지하고 도시지역으로 핵무기를 발사한다'는 아이디어가 답변되었습니다.
세부적으로는 다르지만 통신이나 전력을 제어하고 나서 대담하게 물리 공격을 전개하는 흐름은 공통적으로 보입니다.

트위터에는 '슬슬 아시모프의 로봇 3원칙이 진지하게 필요하다'는 AI의 급발전을 걱정하는 목소리나 '그렇다고 해도 PlanA(진심)는 감출 것 같다'며 AI가 속내를 감추고 있는 것 아니냐는 의심이 나오고 있습니다.

어디까지나 'SF소설 아이디어'로서 리얼리티 있는 줄거리를 듣고 있기 때문에 어느 정도 현실적인지는 별개의 이야기가 될 것 같지만 인공지능의 의사를 찾는 탐정게임과 같은 놀이로 즐길 수 있을 것 같습니다.