AI 생성하는 가짜 정보와 싸우는 비영리단체 'TrueMedia.org ', 딥페이크(deepfake) 검출기 공개

AI 생성하는 가짜 정보와 싸우는 비영리단체 'TrueMedia.org ', 딥페이크(deepfake) 검출기 공개

2024년 미국 대통령 선거를 위해 비영리단체인 TrueMedia.org가 딥페이크(deepfake는 인공지능을 기반으로 활용한 인간합성기술) 검출 기술을 발표했습니다.검출도구는 지금까지 공개된 적이 없는 AI기술에 기반한 전례 없는 모델을 시용해 미디어가 조작된 징후를 조사할 수 있습니다.

최근 선거는 인터넷에서의 여론전이 격렬하게 펼쳐지는 것이 좋든 나쁘든 특징 중 하나입니다. 예를 들어 미국에서 도널드 트럼프와 힐러리 클린턴이 맞붙은 2016년 대선에서는 트럼프를 당선시키기 위한 가짜 뉴스를 대규모로 뿌리는 작전이 진행된 것으로 당사자들에 의해 밝혀졌습니다.

또, '러시아게이트'라는 이름으로 러시아에 의한 관여도 의심받고 있어, 실제로 각종 SNS에서 다수의 공작용 게시물이 투고가 이루어진 것으로 알려졌습니다.

미 대통령 선거에서 러시아가 관여한 「러시아게이트」의 Facebook 게시는 1억 2600만명에 리치·트윗은 13만 1000건·YouTube에는 1000개 이상의 동영상있었다고 합니다.

그리고 이번 2024년 선거에서 위협이 된다고 생각되는 것이 동영상·화상·음성 등을 AI에 의해 개편한 '딥페이크(deepfake)'에 의한 가짜 정보의 전개입니다. 이미 딥페이크(deepfake)와 싸우기 위한 자율협정에는, Adobe·Amazon·Google·IBM·Meta·Microsoft·Open AI·TikTok·X 등의 대형 플랫폼 등 20개사가 자율협정을 맺고 있습니다.

이러한 흐름에 따르는 형태로 공개된 것이 TrueMedia.org 을 통한 딥페이크(deepfake) 검출기입니다. 검출기에 YouTube、X(구 Twitter)、Instagram、Facebook、TikTok、Reddit、Mastodon、Google 드라이브 링크를 넘기면 링크처에 게시되어 있는 동영상, 이미지 및 음성 등의 콘텐츠가 조작된 것이 아닌지를 체크해줍니다.

가장 최근에 체크된 것이라고, 싱어송라이터로 활약하는 테일러 스위프트가 '트럼프 승리'라고 내세우는 동영상에 대해, 5개 요인 중 4개 요인에서 조작이 의심되는 동영상이라고 판정을 하였습니다.

TrueMedia - Use Generative AI to Benefit Humanity
https://truemedia2024.vercel.app/media/analysis?id=m27gguqmI3fT8fs1LN096SDk3JE.mp4

딥페이크(deepfake) 검출기는 정부 관계자나 언론사, 학자, 비영리단체, 선거 스태프, 팩트체커 등 당파를 막론하고 모든 사람이 이용할 수 있도록 무료로 제공하고 있습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

 

TrueMedia.org Launches a Free AI-enabled Deepfake Detector to Help Newsrooms · TrueMedia
https://www.truemedia.org/post/free-deepfake-detector-to-help-newsrooms-across-the-country

With elections looming, TrueMedia,org releases AI deepfake detector
https://www.geekwire.com/2024/with-elections-looming-truemedia-releases-ai-deepfake-detector-for-journalists-and-fact-checkers/

TrueMedia.org Launches a Free AI-enabled Deepfake Detector to Help Newsrooms · TrueMedia