가까운 장래에 온라인 사기는 AI끼리의 싸움이 된다(해외)

가까운 장래에 온라인 사기는 AI끼리의 싸움이 된다(해외)

하버드대 연구에서 AI에 의한 피싱 사기(phishing scams)에 인간에 의한 것과 동등한 효과가 있는 것으로 밝혀졌다.
AI의 대규모 언어 모델은 자동으로 피싱을 할 수 있어 비용도 95% 절감된다고 한다.

하지만 AI는, 피싱을 감지할 수도 있다.
온라인 사기는 가까운 장래에 AI끼리의 싸움이 될지도 모른다. 한쪽이 공격을 가하고 다른 한쪽이 그것을 막는다는 식으로.

온라인 사기는 점점 확산되고 있다. 하버드대의 조사에 따르면 새로운 AI 기술로 인해 막기는 더욱 어려워질 것이라고 한다.

하버드 경영대학원 연구자들이 참가자의 60%가 AI 자동 피싱 메일에 속았다는 연구 결과를 발표했다. 이는 인간이 만든 피싱 메시지에 버금가는 성공률이라고 하버드 비즈니스 리뷰(Harvard Business Review)에 썼다.

피싱 사기는 이용자를 속여 개인정보를 제공하게 요구한다. 통상 기업이나 개인을 가장해 메일, 기타 메시지를 보내 신용카드 정보나 패스워드, 기타 기밀정보를 요구하는 것이다.

피싱 사기는 인터넷과 거의 동시에 탄생했지만 AI 모델로 인해 '사기의 심각성'은 커지고 있다고 연구자들은 말했다. 이 연구로 대규모언어모델(LLM)은 피싱 전 과정을 자동화할 수 있다고 연구자들은 밝혔다. 정보를 모으고 목표물을 선별해 메일을 작성하는 비용을 AI로 95% 줄일 수 있다는 것이다.

「그러므로, 향후 몇년 안에 피싱은 극적으로 악질을 증가시켜, 횟수도 증가하게 될 것이다」라고 저자들은 쓰고 있다.
피싱 사기를 악화시키는 AI 모델이지만 그러면서도 피싱 사기 발견과 퇴치에 도움이 될 것이라는 점도 연구자들은 시사한다.

개중에는, 거기에 뛰어난 AI 모델도 있다. 클라우드는 "그렇게 분명하지 않은 피싱 메일일지라도 때로는 인간보다 더 높은 확률로" 특정했다고 연구자들은 쓰고 있다.

미국 연방거래위원회(Federal Trade Commission)는 피싱 사기를 피하는 가장 좋은 방법은 이메일이나 문자 메시지에 포함된 모르는 사람의 링크를 절대로 클릭하지 않는 것이라고 말한다. 소속 단체에서는 해당 회사계정이 있는지, 아는 사람인지 확인하고, 모르면 피싱방지워킹그룹에 신고하라고 한다 .

(원문) Online scams might soon just be a battle between AIs
https://www.businessinsider.com/ai-phishing-scams-automation-detection-2024-6

Online scams might soon just be a battle between AIs

 

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.