테일러 스위프트도 피해 SNS에 쏟아지는 'AI 키스 동영상' 앱

테일러 스위프트도 피해 SNS에 쏟아지는 'AI 키스 동영상' 앱

최근 인공지능(AI)으로 생성한 키스와 포옹 동영상이 SNS상에서 확산되고 있다. 테일러 스위프트가 김정은을 포옹하는 동영상은 인스타그램에서 약 3000만 번이나 시청됐고, 일론 머스크와 메로니 이탈리아 총리가 키스하는 딥페이크 동영상도 X(옛 트위터)에서 주목을 받았다.

그런 가운데 메타나 틱톡은 임의의 두 사람의 사진을 업로드하면 이를 AI가 키스신 동영상으로 변환하는 가짜 동영상 앱 광고를 게재하고 있다. 이들 앱은 누구와도 순식간에 키스를 할 수 있다고 홍보되고 있다.

AI를 이용해 타인의 누드영상을 생성하는 앱과 마찬가지로, 이들 AI 앱은 진짜처럼 보이는 가짜 동영상을 만들어내고 있다. 이런 종류의 앱 간편함은 딥페이크가 일상화되는 것에 대한 우려를 낳고 있다.

이들 앱의 광고는 인스타그램이나 유튜브 등에 범람하는 AI 포르노만큼 노골적이지는 않지만, 비슷한 위험으로 이어진다고 미국의 반포르노 단체인 성착취고발센터(NCOSE)의 임원 헤일리 맥나마라는 언론에 말했다.

이들 앱들은 성적(性的)으로 노골적이지는 않더라도 착취적이다. 현실 세계에서 상대방의 동의를 받지 않고 키스를 하거나 옷을 벗기는 행위가 허용되지 않는다면 온라인상에서도 허용되지 않는다고 맥나마라는 지적했다.

포브스는 메타가 인스타그램과 페이스북에서 2500건 이상의 AI 키스 앱 광고를 게재했고, 그 중 약 1000건이 현재도 활성화된 것을 확인했다. 또, TikTok은 유럽의 사용자들에게, 약 1000건의 이 같은 종류의 광고를 표시하고 있다(TikTok의 광고 라이브러리는 미국 사용자 전용의 광고를 포함하고 있지 않다).

이들 광고의 대부분은 스칼렛 요한슨이나 엠마 왓슨, 갈 가돗 등 유명 여배우가 키스를 하는 동영상을 이용하고 있다. 그 밖에는, 랜덤한 사람들이 키스를 하는 동영상도 있어, 「전 애인과 키스」 「짝사랑의 상대와 키스」가 가능 등이라고 외치고 있다. 이들 동영상 속 인물이 실재하는지, AI로 생성한 것인지는 불분명하다. 요한슨, 왓슨, 가돗은 코멘트 요청에 응하지 않았다고 한다.

메타는 또 'AI 포옹' 앱 광고도 게재하고 있으며, 이들 광고에서는 어린이가 미키마우스나 톰과 제리 등의 캐릭터를 포옹하는 동영상이 소개되고 있다. 또 일부 앱은 "만난 적 없는 조부모를 아이가 안을 수 있다"고 부모에게 호소하고 있다. 메타는 이 같은 광고를 1200건 이상 게재했으며, 그 중 300건 이상이 현재도 게재 중이다.

◆ 메타는 「정책 위반이 아니다」라고 회답
메타의 홍보 담당인 다니엘 로버츠는 포브스에 이 앱들의 광고가 이 회사의 정책을 위반하지 않았다고 말했다. 이 회사는 동의 없는 성적(性的) 행위를 묘사하거나 권장하는 광고를 금지하고 있지만 키스나 포옹 동영상은 허용하고 있는 것으로 알려졌다.

포브스의 지적에 따라 틱톡(TikTok)은 정책 위반으로 이들 광고를 삭제했다. 이 회사의 홍보의 아리안 드 세리에는, 회사의 정책으로는, AI로 생성한 컨텐츠라도 광고에 등장하는 사람에게 동의를 받아야 한다고 말했다.

이들 앱의 운영사는 아랍에미리트(UAE)와 이탈리아, 중국 등을 거점으로 하는 기업으로, 애플 앱스토어와 구글 플레이스토어를 통해 무료로 앱을 제공해 수백만 건의 다운로드를 받았다. 이 2사의 앱 스토어에서는, 그 밖에도, 낡은 사진을 수정하는 것이나, 정지화면을 동영상으로 만드는 것, 미래의 아이가 어떻게 보일지를 예측하는 것 등, 다양한 생성형 AI를 이용한 앱을 배포하고 있다. 애플과 구글은 확인 요청에 응하지 않았다.

SNS의 확산력에 힘입은 AI 키스 앱의 유행은 생성형 AI 시대에 새로운 위협의 대두를 보여준다. 맥나마라에 따르면, 일견 무해한 이러한 앱의 이용은, 딥 페이크 포르노 등의, 보다 성적(性的)으로 노골적인 컨텐츠를 만들어 내기 위해 툴의 이용으로 이어질 가능성이 있다고 한다. "즉, 이것은 판도라의 상자인 것이다"라고 그녀는 말했다.

이 트렌드는 착취적인 딥페이크를 정당화하고 동의 없이 다른 사람의 초상을 키스나 포옹 콘텐츠로 이용하는 것이 대수롭지 않게 여기는 경향을 조장하고 있다. 만일 당신이 자신이 원하지 않는 형태의 가짜 동영상을 누군가가 만들고, 당신이 원하지 않는 사람들에게 그것을 하는 것을 보여준다면, 이러한 행위가 명확한 침해임을 알게 될 것이다라고, 맥나마라는 말하고 있다.

이 같은 우려는 AI를 이용해 생성한 아동의 성적(性的) 학대 이미지(CSAM)가 어느 때보다 증가하고 있는 가운데 특히 커지고 있다. 성적(性的)으로 착취당한 아동의 문제에 대처하는 비영리조직 「전미 행방불명·피착취 아동센터(NCMEC)」에는, 최근 2년간, 7000건 이상의 생성형 AI 관련의 학대 동영상의 신고가 접수되고 있다. 어느 사례에서는, 소아성애자가 디즈니랜드에서 아이들을 촬영해, 인기의 AI 툴의 Stable Diffusion(스테이블 디퓨전)을 사용해 수천개의 불법 동영상을 생성하였다. 심지어 고등학생이 반 친구들의 누드 사진을 만들어 형사사건으로 발전한 사례도 여럿 있다.

메타도 이러한 AI 누드의 만드는 앱이나 사이트의 광고의 대응에 고전하고 있으며, 어느 사이트는 트래픽의 90%가 인스타그램과 페이스북으로부터 오고 있다고 보도하고 있다.

소셜미디어를 이용하던 중 AI 키스 앱 광고를 본 사람은 이를 불쾌하게 느꼈다고 말한다. 기술 컨설팅 기업에서 AI 애널리스트로 일하는 앨리스 시레갈은 지난달 틱톡에서 AI 키스 앱 광고가 급격히 늘어난 것을 깨닫고, 이 기술이 '매우 바람직하지 않은 형태'로 사용되는 것을 보고 실망했다고 밝힌 바 있다.

"그 광고를 봤을 때 정말 섬뜩하다고 생각했다"고 그녀는 말했다.

(출처) AI Kissing Apps Are Taking Deepfakes Mainstream
https://www.forbes.com/sites/rashishrivastava/2025/01/16/ai-kissing-apps-are-taking-deepfakes-mainstream/

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.