AI 무기나 자율형 드론이 전장에 가져올 위기

AI 무기나 자율형 드론이 전장에 가져올 위기

드론은 수년간 전쟁에 사용되어 왔지만, 일반적으로 인간에 의해 원격조작되고 있는 것이었습니다. 그러나 이제 이미지 인식 소프트웨어와 자동 조종 소프트웨어를 결합하여 자율형 드론을 저렴한 가격에 대량 생산할 수 있습니다. 무기로 사용되는 자율형 드론 및 AI를 탑재한 무기에 대해 외신 워싱턴포스트가 설명하는 내용입니다.

The Pentagon says a ban on AI weapons isn’t necessary. But missiles, guns and drones that think for themselves are already killing people in combat, and have been for years.

Picture a desert battlefield, scarred by years of warfare. A retreating army scrambles to escape as its enemy advances. Dozens of small drones, indistinguishable from the quadcopters used by hobbyists and filmmakers, come buzzing down from the sky, using cameras to scan the terrain and onboard computers to decide on their own what looks like a target. Suddenly they begin divebombing trucks and individual soldiers, exploding on contact and causing even more panic and confusion.

2020년 3월 리비아 정부는 터키 지원군의 힘을 빌려 자율형 드론을 사용해 과격파 군을 공격했습니다. 2021년 5월에는 이스라엘이 세계 최초로 완전 자율형 드론을 통한 집단비행을 실시하여 전략적 정보수집을 진행하였습니다. 터키와 이스라엘 등에는 공격 가능한 드론 외에 정보수집을 전문으로 하는 자폭 기능이 부착된 드론도 배치되어 있습니다.

인권운동가들에 의해 오랫동안 요구되어 온 '킬러 로봇(killer robots)'이라 하는 자율형 살상무기의 전면금지 제정은 2021년 당시 30개국의 지지를 받았습니다. 그러나, 세계를 군사면에서 리드하는 국가는 「전면 금지는 불필요하다」라고 주장합니다. 미국은 "우려가 과장되어 있고 인간은 자율형 무기를 효과적으로 제어할 수 있다"고 말했고, 러시아 정부는 "진정한 AI 무기는 아직 존재하지 않기 때문에 금지할 수 없다"고 말했습니다.

그러나 리비아 내전처럼 기술진보에 따라 독자적인 결정을 내리는 무기들이 이미 사람들을 죽이고 있는 것이 현실이라고 워싱턴포스트는 주장했습니다. 이 드론들은 원격 조작과 자율 기능을 모두 갖추고 있기 때문에 인간이 개별 표적을 폭격하기 위한 최종 결정을 내렸는지 외부에서 알 수 없다고 합니다.

자율형 드론은 전장에서 주전력이 되고 있으며, 오늘날 자율형 드론을 개발하기 위한 여러 정부의 수십 개의 프로젝트가 존재한다고 합니다. 미국, 중국, 러시아 등의 국가들은 자율형 드론을 제한하는 조약에 대한 논의에 참여하고 있음에도 불구하고 계속 개발하고 있습니다.

지난 10년간 대량의 데이터 세트를 단시간에 처리할 수 있는 컴퓨터의 이용이 쉬워져 연구자들은 대량의 정보를 처리하는 컴퓨터 프로그램의 설계에 있어 큰 진보를 이룰 수 있었습니다. AI의 진보로 AI가 시를 쓰고 언어를 정확하게 번역해 과학자들의 신약개발을 돕는 것조차 가능해졌습니다.

그러나 의사결정을 컴퓨터에 의존하는 것의 위험성에 대한 논의는 격렬해지고 있습니다. 구글, 아마존, 애플, 테슬라(Google、Amazon、Apple) 등의 기업들은 기술 개발에 많은 비용을 쏟아붓고 있는 것 외에 'AI에 편견을 갖지 않도록 한다'는 시도가 이루어지고 있거나 AI의 국제학회인 NeurIPS가 '국제회의에 제출하는 논문은 사회에 미칠 수 있는 영향에 대한 기술을 필수로 한다'고 발표하기도 했습니다.

몇몇 나라에서는 안면인식과 같은 AI 기술이 자율형 무기에 이미 전개되고 있습니다. 벌써 2010년, 삼성(Samsung)의 무기 부문은 화상 인식을 사용하여 인간을 발견하고 발포하는 센트리건을 개발했습니다. 또 비슷한 총이 이스라엘과 가자지구의 국경에 배치됐는데, 한·이스라엘 정부는 "시스템은 확실히 자동으로 작동하지만 제어하는 것은 인간"이라고 말했습니다.

미국 특수작전군 출신으로 새미국안보센터의 부의장을 맡고 있는 폴 샬레는 "기술은 무기를 더 똑똑하게 만들고 있지만 인간이 이들을 원격조작하는 것 또한 쉽게 만들고 있다"며 "미사일을 발사한 후 민간인에게 명중할 가능성이 있다는 것을 알게 될 경우 미사일을 정지하는 것이 가능하다"고 말했습니다.

그러나 국제평화단체 PAX에 소속된 자율형 드론 전문가 댄 카이저는 그래도 전장에서 요구되는 속도로는 필연적으로 더 많은 결정을 기계에 맡기는 경우가 많아질 것이라며 우리 인간이 더 이상 제어할 수 없는 속도로 전쟁이 진행되는 것은 그리 비현실적인 일이 아니다고 말했습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

 

Autonomous weapons already exist and are playing a role on battlefields like Libya and Armenia - The Washington Post
https://www.washingtonpost.com/technology/2021/07/07/ai-weapons-us-military/

The U.S. says humans will always be in control of AI weapons. But the age of autonomous war is already here.