AI와 얼굴 인증을 결합한 '인간 사냥 AI 드론'이 불과 몇 시간 만에 완성되다

AI와 얼굴 인증을 결합한 '인간 사냥 AI 드론'이 불과 몇 시간 만에 완성되다

기업가이자 엔지니어인 루이스 웨나스는 소형 드론에 얼굴 인증시스템과 인공지능(AI)을 접목함으로써 게임 처럼 인간을 쫓는 드론을 만들었다고 SNS에 올렸습니다.

 

웨나스는 불과 몇 시간 만에 만들어낸 그 드론이 무기만 탑재하면 쉽게 자동으로 인간을 살해하는 드론으로 변모하는 것을 지적하며 AI 드론의 무기 이용에 대해 경고하고 있습니다.

https://twitter.com/luiswenus/status/1763979699045253359?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1763979699045253359%7Ctwgr%5E316e5e4177ce3b44e771dd6b9e488fc8263e1ed6%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fgigazine.net%2Fnews%2F20240312-drone-hunt-people%2F

X의 Luis Wenus님(@luiswenus)

 

웨나스는 동료 엔지니어 로버트 루코슈코와 협력해 물체 검출 모델을 사용해 사람을 찾고, 그 사람을 향해 전속력으로 비행하도록 AI로 제어된 드론을 설계했다고 영상으로 보고했습니다.

드론에는 얼굴 인증 시스템을 탑재.
이하의 화상에서는, 웨나스를 「Luis」라고 인식하고 있는 것을 알 수 있습니다.

실제로 AI 드론을 비행시켜 본 영상에서는 타깃을 인식한 드론이 일정한 고도에서 계속 쫓아오는 모습을 볼 수 있습니다.

영상에서는 "드론은 놀이처럼 인식한 사람을 쫓아옵니다"라고 말하고 있지만 웨나스는 동시에 "이 AI 드론은 불과 몇 시간 만에 구축한 것이지만, 이 드론에 소량의 폭발물을 탑재하는 것만으로 무서운 무기가 됩니다. 큰 이벤트나 공공장소에서 드론 대책시스템은 거의 없고, 간단하게 동작해 특정인을 덮치는 드론 무기가 얼마나 무서운 것인지 실감할 수 있었습니다'라고 발언하였습니다.

웨나스는 자신을 오픈소스 절대주의자라고 표현하고 있으며, 엔지니어로서 항상 소프트웨어를 오픈소스에 공유하는 것을 중요시한다고 합니다. 또, 「AI 개발에는 부정적인 면도 있지만, 좋은 면이 항상 나쁜 면의 우위에 있다는 신념에서, 부정적 면에 관계없이 AI 연구를 가속해야 한다」라고 하는 e/acc(Effective accelerationism, 효과적인 가속주의)의 생각도 웨나스는 권하고 있습니다. 

그러나 이번 AI 드론은 가까운 기술로 테러공격으로도 이어지는 극히 위험한 것이기 때문에 실험과 관련된 코드는 일절 공개하지 않을 것이라고 웨나스는 말하고 있습니다.

AI 드론 설계에는 기술적인 지식이 필요하지만, 진보된 AI가 고도의 코드 작성을 보조해 줄 수도 있어 소프트웨어 측면에서 작성은 점점 쉬워질 수 있습니다. 이를 위해 웨나스는 드론 무기의 위험성을 호소하고, 많은 인원이 모이는 장소에는 카메라와 음향 센서, 드론 탐지 레이더 등 드론 대책시스템을 시급히 구축할 필요가 있다고 이번 실험을 통해 경고했습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

 

AI drone that could hunt and kill people built in just hours by scientist 'for a game' | Live Science
https://www.livescience.com/technology/engineering/ai-drone-that-could-hunt-and-kill-people-built-in-just-hours-by-scientist-for-a-game

AI drone that could hunt and kill people built in just hours by scientist 'for a game'