러시아가 AI합성 우크라이나인을 이용해 SNS상에서 정보전쟁을 전개. AI합성된 가짜 얼굴은 진짜보다 신뢰된다!?

러시아가 AI합성 우크라이나인을 이용해 SNS상에서 정보전쟁을 전개. AI합성된 가짜 얼굴은 진짜보다 신뢰된다!?

AI에 기반한 이미지 합성 '딥 페이크'가 등장한 이후 '진짜와 구별할 수 없는 가짜 이미지'가 생성되고 있다.

그리고 실제로 전쟁에서도 첩보전에 악용되고 있다.

최근에도, 러시아에서 활동하는 그룹이 「존재하지 않는 우크라이나인」을 만들어내 SNS상의 계정으로 우크라이나의 정치비판을 하고 있다가 발각되었다.

이러한 AI 합성의 가짜 얼굴을 사용한 정보전쟁은, 실제는 제법 유효할 수 있다고, 최근의 연구에서 나타나고 있다.

영국 랭커스터 대학(Lancaster University) 심리학부에 소속된 소피 나이팅게일 등의 연구팀은, 이들 AI합성 화상의 위험을 뒷받침하는 연구결과를 발표하였다.

연구는 이 뉴스보다 이전에 발표된 것인데, 사람들은 AI에 의해 합성된 얼굴을 진짜 얼굴보다 더 '믿을 수 있다'고 평가한다는 것이다.

연구에 대한 자세한 내용은 2022년 2월 14일자 학술지 'Proceedings of the National Academy of Sciences'에 게재되었다.

AI(인공지능) 합성 얼굴이 진짜보다 신뢰성이 높다
연구팀은 AI로 생성된 얼굴이 얼마나 사람을 속이게 하는지 조사하기로 했다.

그것을 위해서, 우선 미국의 반도체 메이커 「NVIDIA」의 AI를 이용하고, 400명의 합성얼굴을 만들었다.

"이들의 합성 얼굴은 남성과 여성의 2가지 성별, 흑인, 백인, 동아시아인, 남아시아인으로 이루어진 4가지 인종으로 분류되어 있다"

그리고 여기에 진짜 얼굴을 추가해 진짜와 가짜가 섞인 800개의 샘플을 준비했다.

최초의 실험에서는, 315명의 참가자에게 800의 샘플중 128의 얼굴 화상을 보여 주어, 각각이 진짜인지 가짜인지 판단하게 했다.

그 결과 정답률은 48.2%였습니다.

2가지 질문에서 정답률이 절반 이하로 나타난 것은, 진위 판별하는 것이 매우 어렵고, 오히려 「합성얼굴이 진짜 같다」라고까지 말할 수 있는 것이다.

두 번째 실험에서는 참가자들에게 몇 가지 판별을 하기 위한 단서가 주어졌다.

이미지를 평가하기 전에 AI로 생성된 얼굴의 특징을 강의를 한 다음이다.

그 결과, 정답률은 59%가 되었다.

판별 강의가 있어도 정답률은 조금밖에 상승하지 않았던 것이다.

3번째 실험에서는 참가자에게 128개의 얼굴 이미지를 얼마나 신뢰할 수 있는지 7단계로 평가하게 하였다.

그 결과, 「AI합성 얼굴이 진짜보다 평균 7.7%신뢰도가 높다」고 하는 결과가 나왔다.

연구진은 합성얼굴이 더 신뢰받는 것은 AI가 평균적인 얼굴을 바탕으로 생성하기 때문이라고 보고 있다고 한다.

「특징을 가진 진짜 얼굴」보다 「가짜의 평균적인 얼굴」이 신뢰받기 쉽다, 라는 것이다.

그런데 이번 결과를 정리하면, 「우리 인간은, 진짜보다 AI 합성얼굴을 신뢰하는 경향이 있고, 보다 리얼하게 느낀다」라고 말할 수 있다.

그럼 이 정도의 AI 합성기술은 현재 어떻게 악용되고 있는 것일까?


러시아와 우크라이나 간의 정보전쟁에 사용되는 AI 합성이다

「진짜보다 더 진짜다운 합성얼굴」은, 이미 다양한 분야에서 악용되고 있다.

대표적인게 합성 포르노이라고 한다.

유명인의 얼굴이 허락없이 합성돼 포르노로 만들어져 전 세계로 확산되는 거이다.

누구나 표적이 될 수 있는 것을 생각하면 무서움을 느낄 수도 있다.

또 AI 합성기술을 이용하면 가짜 정보를 쉽게 조작할 수도 있다.

현재 러시아와 우크라이나 사이의 전쟁에서 일어나고 있다는 사실에서도 드러난다.

최근 러시아의 한 그룹이 우크라이나인의 얼굴을 AI로 합성해 페이스북과 트위터 계정에서 정치적 발언을 한 것이 발각되었다고 한다.

생성된 '정말 우크라이나인 같은 얼굴'의 두 계정 프로필에는 각각 항공기사와 기타 교사 출신이라고 기재돼 있었다고 한다.

그리고 이들은 우크라이나에 대한 비판적인 정보를 계속 보내고 있었던 것이다.

언뜻 프로필 이미지는 아무 문제가 없어 보이고 SNS를 본 사람은 그들의 주장도 하나의 의견으로 받아들일 수 있다.

그러나 미국 방송사 NBC 소속 벤 콜린스는 이들의 영상에는 귀 모양 이상함, 좌우 귀걸이 부족함 등 AI가 만들어질 만한 결점이 보인다고 지적했다.


또 사기성 문서를 검출하는 서비스 「Sensity」도 이러한 이미지를 가짜라고 판정했다.

현재 이들 가짜 우크라이나인의 계정은 각 회사의 대응에 따라 삭제된 것으로 보인다.

이는 AI에 의한 합성화상이 이미 국가 간의 정보전쟁에 이용되고 있음을 알 수 있습니다.

이번 가짜정보는 전 세계의 관심이 집중되고 있는 문제이기 때문에 파헤쳐졌습니다.

그럼 좀 더 한정된 분야에서 가짜 정보가 나돌고 있으면 어떨까요?

분명 우리는 이번 연구결과에서 알 수 있듯이 "가짜 정보를 믿을 수 있다"고 오인해 버릴 수도 있을 것이다.

그동안 신뢰성이 높다고 여겨졌던 얼굴 사진 프로필도 이제 믿지 못할 시대가 온 거이다.