美정치인 AI 활용 2024년 선거 과열 우려

美정치인 AI 활용 2024년 선거 과열 우려

2024년 대선과 총선을 앞둔 미국에서는 일부 정치인이 유권자들을 위한 전화 메시지나 광고에 인공지능(AI)을 이용하고 있다. 이에 대해 유권자나 기술 기업에서는 그 영향을 우려하는 목소리가 나오고 있다.

 

As the 2024 elections ramp up, some candidates are using artificial intelligence to reach voters through calls and advertisements—raising questions from voters, candidates and tech companies over AI’s possible impact on elections in the U.S. and abroad.

AI는 정치인들이 전화나 챗봇을 통해 유권자를 투표를 하게 향하도록하거나 또는 대립 후보를 비방하는 광고나 메시지를 작성하는 데 사용되기 시작했다. 진짜 이미지와 AI가 생성한 이미지의 차이를 분간하지 못하는 유권자들은 판단을 잘못할 수 있다.

펜실베이니아州 하원 민주당 후보 샤메인 대니얼스는 최근 애슐리(Ashley)라는 이름의 AI 선거 자원봉사자를 출범시켰다. 애슐리는 유권자들에게 대니얼스의 정책안을 설명하고 유권자들에게 무엇이 중요한 과제인지 묻고 있다. 대니얼스에 따르면 애슐리는 정보 수집력을 높이고 유권자와의 대화를 진행하는 데 기여하고 있다.

애슐리를 개발한 곳은 9월 설립된 정치용 AI 전화 서비스기업 시박스(Civox)다. 이 회사는 20가지 이상의 오픈소스 AI 모델을 조합해 애슐리를 만들었지만 어떤 데이터를 기반으로 AI 모델을 훈련하는지 밝히지 않고 있다.

AP통신에 따르면 슈퍼PAC(특별정치행동위원회)가 지원하는 공화당 후보인 마이애미시장 프랜시스 수아레스는 대선 경선에서 철수하기 전 'AI 프랜시스 수아레스'라는 이름의 AI 챗봇을 사용해 수아레스의 정책 방안에 대한 질문에 답했었다.

4월에는 공화당 전국위원회(RNC)가 AI 생성 이미지를 사용해 바이든 대통령을 비방했다. 위원회는 바이든이 재선될 경우의 미래상을 보여주는 광고에 중국이 대만을 침략하는 장면, 미국과 멕시코 국경으로 이민이 몰리는 장면 등 AI 생성 영상을 이용했다.

또 공화당 대선후보 경선에 출마하고 있는 론 데산티스 플로리다 주지사는 지난 6월 최대 라이벌인 트럼프 전 대통령이 코로나19 대책으로 우파로부터 비판을 받은 바이든 행정부의 전 의료고문 파우치 박사와 포옹을 하고 있는 AI 생성 동영상을 공개했는데, 이때 가짜라는 주의사항을 기재하지 않았다.

에릭 애덤스 뉴욕시장은 2025년까지 재선 출마가 필요는 없지만 AI를 이용해 자신의 목소리를 흉내낸 음성에 스페인어와 이디시어(역주. 유럽이나 미국에 거주하는 유대인들이 쓰는 유대인어. 표기는 히브리 문자), 중국어 등을 말하게 하고 시민들에게 전화를 걸어 비판을 받았다. 이 전화는 시의 AI에 관한 행동계획의 일환으로 실시된 것으로 시민에 대한 서비스 제공·촉진이 목적이었다. 그러나 감시기술감시프로젝트(Surveillance Technology Oversight Project)는 이 같은 유권자 접근은 비윤리적이며 시장이 실제로는 할 수 없는 말을 할 수 있다는 오해를 낳는다고 비난했다.

트럼프 체포 현장의 가짜 이미지도 확산된다.
블룸버그에 따르면 지난달 열린 아시아태평양경제협력정상회의에서 ChatGPT와 이미지 생성 도구 DALL-E를 개발한 샘 알트먼 오픈AI 최고경영자(CEO)는 AI가 선거에 미칠 잠재적 영향에 대해 우려를 표하며 우려해야 할 것은 우리가 이미 파악하고 있는 이미지와 동영상의 문제가 아니라 아직 완전히 이해되지 않은 새로운 것들이라고 말했다. 알트만은 3월에 행해진 CNBC와의 인터뷰에서도, AI 툴이 선거에 미치는 영향에 대해 우려를 표명했었다. OpenAI에게 2024년 대선이 큰 초점이라며 AI 모델이 대규모 루머에 사용되는 것을 특히 걱정한다고 말했었다.

지난 3월 트럼프가 맨해튼 지역 대배심에 사기죄로 기소되기 전에는 트럼프가 체포되는 장면을 그린 AI 생성 가짜 이미지가 소셜미디어에서 확산됐다. AI 이미지 생성 서비스 Midjourney를 이용해 만들어진 이 이미지는 조사보도그룹 벨링캣(Bellingcat)의 창립자인 엘리엇 히긴스가 작성한 것이었다.

많은 이용자는 이 사진이 가짜라고 간파했지만 X(옛 트위터)상에서는 이 사진이 진짜라고 믿는 사람도 있었다. 히긴스는 AP통신에 "많은 사람들은 트럼프의 다리가 3개나 되는 것이 이상하다는 것을 깨달을 것이라고 생각했다"고 말했다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

https://www.forbes.com/sites/britneynguyen/2023/12/13/2024-candidates-are-using-ai-in-their-campaigns-heres-how-to-spot-it/?sh=6552c106c272

2024 Candidates Are Using AI In Their Campaigns—Here’s How To Spot It