'AI 누드' 척결하라! 미 여성 의원들 분노의 법안 제출

'AI 누드' 척결하라! 미 여성 의원들 분노의 법안 제출

미국의 온라인 마켓플레이스 이베이(eBay)에는 인공지능(AI)으로 생성한 여배우, 가수 등 저명인사들의 누드가 넘쳐난다.
한 판매자가 400점 이상의 사진을 판매 중인 계정에는 테일러 스위프트, 셀레나 고메즈, 케이티 페리, 아리아나 그란데 등 민주당 알렉산드리아 오카시오 코르테스 의원의 누드 사진이 올라와 있었다. 또 다른 판매자는 제나 오르테가, 마고 로비, 갈 가돗 등 여배우들의 수백 점의 누드를 AI로 생성해 6.39달러에 판매하였다.

게다가 테일러 스위프트가 성조기를 장식한 비키니를 입고 있는 이미지를 포함해 1만 4000점 이상을 판매한 계정은 이베이의 '톱 클래스(top class) 셀러'로 자리잡고 있으며 '가장 평판이 좋은 셀러' 칭호를 얻고 있다.

이 플랫폼의 추천 알고리즘은, 구매자가 그 상품을 매입했을 경우, 플랫폼에 매출으로부터 %(percentage)를 지급하는 셀러로부터의 「스폰서(sponsor) 첨부 상품」을 구매자에게 소개한다.

「이는 판매자만의 문제가 아닙니다. 이베이(eBay) 같은 기업은 이런 이미지의 성적(性的) 피해로부터 이익을 얻고 있습니다」라고 여성권리옹호 단체인 National Center on Sexual Exploitation(NCOSE)의 간부 리나 니런은 지적한다. 
"그들은 거기에 그려져 있는 사람들의 동의를 받지 않고 여성의 몸을 상품화하고 있는 것입니다"

이베이(eBay)는 이들 누드 이미지가 미술품이나 수집품 카테고리에 올라 있는 한 실존하지 않는 인물의 AI로 생성한 누드를 게재하는 것을 허용하고 있으나 성인 아이템 정책에 따르면 공인의 누드를 AI로 생성한 이미지의 게재는 금지하고 있다. 그러나 실제로는 그런 이미지들이 넘쳐나고 있다.

이베이(eBay) 대변인은 외신 취재에 "딥 페이크(deep fake. 인공지능(AI) 기술을 이용해 특정 인물의 얼굴 등 영상에 합성한 편집물)에 관한 정책을 업데이트하는 중"이라며 플랫폼 상에서 무엇이 허용되고 무엇이 허용되지 않는지 셀러들에게 명확히 보여주도록 하고 있다고 답변했다. 또 이 회사는 'AI 기술이나 전문적인 훈련을 받은 조사원, 마켓플레이스의 도구'를 조합해 사용하며 금지 정책을 위반하는 출품을 특정해 삭제하고 있다고 밝혔다.

◆ 딥 페이크(deep fake)를 척결하는 법안
AI가 생성한 포르노 영상이 확산되고 있는 플랫폼은 이베이뿐만이 아니다. 게시판 레딧, X(옛 트위터), 심지어 핸드메이드 아이템을 사고파는 Etsy(엣지)조차 이런 이미지 대응에 애를 먹고 있다. 1월 하순에는 AI로 생성한 테일러 스위프트의 누드가 X로 확산돼 수백만 번이나 열람됐다.

이에 오카시오 코르테즈 의원을 포함한 의원들은 딥페이크(deep fake) 피해자가 소송을 제기할 수 있도록 하는 법안인 「성적(性的)으로 노골적인 생성 이미지나 동의를 받지 않는 편집을 척결하는 법(DEFIANCE 법)」을 제안했다. 
「동의 없이 만들어진 딥페이크(deep fake) 영상의 피해자들은 지금까지 방치돼 왔다. 의회는 행동을 일으킬 필요가 있다」라고, 오카시오 코르테즈 의원은 3월 7일의 보도자료에서 주장하고 있다.

딥 페이크(deep fake) 포르노 피해자를 보호하기 위한 연방법은 아직 없지만 NCOSE 니런에 따르면 의회에는 이외에도 이 같은 우려에 대처하기 위한 법안이 3개 제출돼 있다고 한다. 의회는 또 딥페이크 포르노 증가가 여성과 어린이에게 어떤 영향을 줄지, 또 피해를 줄이기 위해 어떤 조치를 강구할 수 있을지에 대한 공청회를 3월 12일 개최했다.

누드를 생성하기 위한 AI 앱이나 소프트웨어에 누구나 쉽게 접근할 수 있게 된 지금, AI가 생성한 포르노는 빠르게 퍼지고 있다고 니론은 말한다. 애플 앱스토어에는 누드화 앱이 여러 개 있다. 마이크로소프트 깃허브(GitHub)에도 악명 높은 딥페이크 도구가 넘쳐난다

1995년 설립된 이베이의 매출액은 2023년 101억달러를 기록했으며 시가총액은 약 260억달러에 달한다. 이 회사 마켓플레이스에는 20억건의 아이템이 출품돼 1억 3200만명의 적극적인 구매자가 몰리고 있다.

펜실베이니아대에서 미디어가 사회에 미치는 위험을 연구하는 소피 매덕스는 「인터넷의 오랜 역사를 돌이켜보면 섹스는 팔리고, 성적인 이미지도 팔린다. 이베이와 같은 플랫폼이 이러한 컨텐츠를 호스트(host)하고 있는 것은 우연이 아니라고 생각합니다」라고 말하고 있다.

「하지만 유명한 여성이라면 본인 동의 없이 발가벗겨지고 누군가 동의 없이 이것으로부터 이익을 얻을 수 있다는 생각에는 더 넓은 배경이 있다. 그리고 그런 피해는 누구에게나 파급되고 있습니다」라고 그녀는 계속 말했다.

(forbes.com 원문)
https://forbesjapan.com/articles/detail/69755?module=toppage_1st_05

“Top-rated sellers” on the online marketplace are selling thousands of AI-generated and photoshopped pornographic images of public figures.
EBay is teeming with thousands of AI-generated and photoshopped pornography of at least 40 celebrities including Margot Robbie, Selena Gomez and Jenna Ortega. After Forbes notified eBay, the ecommerce giant took down hundreds of photos and suspended accounts of sellers.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.