사진 속 여성을 누드화하는 앱이 인기 급상승

사진 속 여성을 누드화하는 앱이 인기 급상승

이 내용은 Forbes에 게재된 자료를 정리한 것이다.

인공지능(AI)을 이용해 사진에 찍힌 인물의 옷을 벗기는 앱의 인기가 급상승하고 있는 것으로 최신 소셜미디어 조사 결과 밝혀졌다. 이러한 프로그램은, 실재하는 개인이 피사체가 되고 있는 기존의 사진이나 동영상을 가공하고, 피사체 본인의 동의 없이 전라로 만들어 버린다. 대부분의 누드화 앱은 여성 사진만을 대상으로 한다.

소셜미디어 분석업체 그래피카는 최근 실시한 조사에서 누드화 앱을 사용해 가공된 사진을 '비동의(非同意) 성적(性的)이미지(NCII)'로 규정하고 서비스를 제공하는 34개 업체를 분석했다. 각 웹사이트의 특이한(unique) 방문자 수는 2023년 9월에만 2400만 명에 달했다.

한 기업의 광고는 「궁금한 여자아이를 닥치는 대로 벗기자」를 캐치프레이즈로 내걸고 있었다. 이러한 「가상 탈의 산업」은, 2022년에는 거의 존재하지 않았다. 오픈소스 AI 이미지 확산 모델을 이용할 수 있게 됨에 따라 사진 가공 프로세스가 간소화되고 새로운 앱과 웹사이트를 론칭하기 쉬워졌다. Reddit(레딧)나 X(구 트위터)에서의 소개 링크수는 최근 1년간 2400%이상 급증하고 있으며, 현격한 성장을 뒷받침하고 있다.

그라피카의 보고서는 「이러한 AI 서비스에 지탱하는 합성 NCII 공급자(provider)는 이제 본격적인 온라인 산업으로서 운영되어 기존의 e커머스 기업과 같은 마케팅 전술이나 수익화 툴의 대부분을 활용하고 있다. 여기에는 주요 소셜미디어 플랫폼에 대한 광고 게시, 인플루언서 마케팅, 고객 소개 제도의 도입, 온라인결제 기술의 이용이 포함된다」라고 적고 있다.

피사체의 동의 없이 웹상에서 누드 사진이 공유되는 것은 어제오늘의 일이 아니다. 2018년에는 한 해커가 여배우 제니퍼 로렌스 등 유명인사의 실제 누드 사진을 인터넷상에 공개해, 금고 8월의 유죄판결을 받았다. 로렌스는 문제의 사진 해킹을 성범죄라고 비난했다.

이제는 유명인사의 누드 사진조차 몇 개의 간단한 키 조작으로 작성되고 만다. 그리고 그 이미지가 진짜인지, 아니면 조작된 것인지를 분간하기는 어려울 지경이다.

미 연방수사국(FBI)은 지난 6월 성적(性的) 협박이나 노골적인 콘텐츠 작성을 목적으로 한 사진 가공이 증가하고 있다는 경고를 했다. 「악의가 있는 행위자는, 컨텐츠 가공의 기술·서비스를 이용해, 주로 개인의 SNS 계정이나 오픈한 인터넷 환경으로부터 캡처하거나 피해자에게 요구해 입수한 사진이나 동영상을 악용해, 성적인 화상을 작성한다. 그리고 본인과 똑같이 생긴 가공 사진을 소셜 미디어, 인터넷 공공 영역, 포르노 사이트등에서 확산한다」라고 해 주의를 촉구하고 있다. 이러한 사진을 이용한 성적(性的) 협박에 사용되어 피사체가 몸값을 요구받는 사례도 있다고 한다.

더욱 우려되는 것은 이들 프로그램이 미성년자의 누드 사진 작성에 이용되고 있다는 점이다. 2023년 9월 스페인에서 20명이 넘는 소녀의 AI 생성 누드 사진이 적발됐다. 대부분의 이미지는 소녀들 자신이 인스타그램 계정에 올린 옷을 착용한 사진을 바탕으로 작성됐다. AI 탑재 앱 'Cloth Off'로 원본 이미지를 누드 사진으로 가공한 뒤 왓츠앱(WhatsApp) 그룹으로 공유하는 수법이었다.

미국 뉴저지주에서도 2023년 11월에 비슷한 수법으로 여러 고교생이 동급생의 누드 사진을 작성한 사실이 발각됐다.

유명인사, 동급생, 버스에 탑승한 낯선 사람들, 회사 임원, 동료, 아이들의 사진조차 단 몇 번의 클릭으로 옷을 벗길 수 있게 되었다. 현재로서는 이러한 사진 가공을 금지하는 미 연방법은 없다. 다만, AI를 이용해 미성년자의 포르노 이미지를 만드는 것은 위법이다. 2023년 11월에는 노스 캐롤라이나주의 아동정신과 의사가, 환자의 옷입은 사진을 AI로 성적인 이미지을 디지털 가공했다는 등의 혐의로, 아동 포르노법 위반으로 금고 40년의 판결을 받았다.

하지만, 어른의 사진에 관해서는 여전히, 일련의 앱과 그것을 사용해 작성된 이미지는 합법으로 취급되는 것 같다. 미국 잡지 Time에 Ekfm면, TikTok(틱톡)과 Meta(메타)는 「undress(탈의)」라고 하는 검색어를 블록으로 처리하는 것으로, 이러한 프로그램에 대한 접속을 줄이려고 하고 있다. 구글도 누드화 앱과 서비스 제공 사이트의 광고를 일부 삭제했다.

(forbes.com 원문)
https://www.forbes.com/sites/kimelsesser/2023/12/08/apps-that-undress-womens-photos-surge-in-popularity-what-could-go-wrong/?sh=53594ec423d3

Apps that use artificial intelligence to undress people in photos are surging in popularity, according to new social media research. These programs manipulate existing pictures and videos of real individuals and make them appear nude without consent. Many of these “nudifying” apps only work on women.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.