중국 DeepSeek뿐만 아니라 모든 AI 사용자가 유의해야 할 위험은?

중국 DeepSeek뿐만 아니라 모든 AI 사용자가 유의해야 할 위험은?

몇 주 전 앱스토어에 등장한 중국발 AI 어시스턴트 '딥시크(DeepSeek)'는 OpenAI나 구글(Google) 같은 기존 대기업 AI 어시스턴트와 동등한 성능을 훨씬 낮은 비용으로 구현할 수 있다고 약속하며 기술 업계와 금융시장을 뒤흔들었다.

하지만 일부 정부 관계자와 데이터 보안 전문가들로부터 들려오는 것은 이 갑자기 인기를 끌고 있는 오픈소스 AI 어시스턴트가 중국과 연결돼 있으며, 미국 데이터를 위험에 빠뜨릴 수 있다는 우려의 목소리다. 딥시크(DeepSeek)를 2024년 미 의회에서 압도적 다수의 찬성을 얻어 미국에서의 금지법이 통과된 소셜미디어 플랫폼 「TikTok」에 빗대는 이들도 있다.

무엇보다, 이러한 우려는 DeepSeek에 한정한 것은 아니다. 지금 미 의회에서 한창 논의되고 있는 국가안보상 리스크를 떠나 AI 챗봇 앱을 스마트폰에 내려받는 사람은 반드시 고려해야 할 문제이기도 하다. 이 내용은 AI를 이용할 때 주의해야 할 점을 정리한 것이다.

2월 6일, 미국의 2명의 하원의원이 정부기관의 디바이스에 DeepSeek를 설치하는 것을 전면적으로 금지하는 법안을 제출한다고 발표했다. 두 의원에 따르면 딥시크(DeepSeek) 등 중국계 앱이 수집하는 데이터는 중국 공산당에 이용될 수 있고 딥시크(DeepSeek)의 서비스 자체가 중국의 가짜정보 확산에 이용될 수 있다고 했다.

뉴저지 주 민주당 하원의원인 조쉬 고테히머는 성명에서 이는 국가안보상의 비상사태라며 중국이 미 정부 직원들의 기기에 침입해 미국의 국가안보를 위협하는 위험을 허용할 수 없다고 덧붙였다.

「중국의 방식은 TikTok에서 경험이 끝났다. 같은 상황을 다시 허용해서는 안 된다」라고, Gottheimer는 말한다.

호주도 2월 초에 DeepSeek를 정부 단말기에서 사용하는 것을 금지했다. 미국에서도 텍사스州 등을 필두로 일부 州가 이같은 조치를 취하고 있다. 2월 10일에는 뉴욕주지사가 주정부의 기기나 시스템에서 DeepSeek를 사용하는 것을 금지하는 명령을 내렸다.

DeepSeek는 중국과의 연결 뿐만이 아니라, 미국에서의 폭발적인 인기나 기사화 과열이라고 하는 점에서 TikTok과 비교되기 쉽다. 그러나 보안 전문가들은 딥시크(DeepSeek)가 데이터 보안상의 위협임을 인정하면서도 그 성질은 틱톡(TikTok)과 다르다고 주장한다.

지금은 딥시크(DeepSeek)가 최신 AI 어시스턴트로 주목을 받고 있지만, 앞으로도 새로운 AI 모델이나 버전은 속속 등장할 것으로 전망된다. 어떤 AI 소프트웨어를 사용하든 중요한 것은 신중한 태도다.

그러나, 일반 사용자에게 DeepSeek의 다운로드나 사용을 조심하라는 것은 쉽지 않다고 지적하는 것은 AI 시큐러티 컴플라이언스를 전문으로 하는 사이버 시큐러티 기업, BigID의 최고경영자(CEO), Dimitri Sirota다.

그는 「이것만 미디어에서 다루어지고 있으면, 사용해 보고 싶어지는 것도 무리는 아니다」라고 말한다. 중요한 것은 어느 정도 틀 안에서 적절히 사용한다는 의식이다

◆ DeepSeek가 우려되는 이유(Why are people worried about DeepSeek?)
틱톡과 마찬가지로 딥시크(DeepSeek)는 중국발로 사용자 데이터는 중국 내 클라우드 서버로 전송된다. 또 바이트댄스가 운영하는 틱톡(TikTok)과 마찬가지로 딥시크(DeepSeek)도 중국 법률을 따르고 있어 중국 정부가 요청하면 사용자의 데이터를 정부에 제공해야 한다.

틱톡(TikTok)에 관해서는, 미 의회에서는 민주·공화 양당의 의원으로부터, 미국의 사용자 데이터가 중국 공산당에 첩보 목적으로 빠지거나, 앱 자체가 변경되어, 중국의 프로파간다에 이용되거나 할 위험성이 지적되어 왔다. 그 결과 미 의회는 2024년 미국 사업을 적절한 매수자에게 매각하지 않는 한 미국 내에서 틱톡(TikTok)을 금지하는 법안을 통과시켰다.

그러나 딥시크(DeepSeek)에 국한되지 않고 AI 기술 이용을 관리하는 것은 특정 앱 사용을 금지할 정도로 쉽지 않다. 틱톡(TikTok)이라면 기업, 정부, 개인은 사용하지 않는 것을 선택할 수 있지만 딥시크(DeepSeek)의 경우 사용자는 자신도 모르게 정보를 제공해 버릴 수 있다.

「일반적인 소비자는, 자신이 사용하고 있는 AI 어시스턴트가 어느 AI 모델을 사용하고 있는지를 알 수조차 없다」고 한다. 이미 많은 기업이 여러 AI 모델을 운용하고 있어 처리하는 작업에 따라 AI 어시스턴트의 '두뇌'인 AI 모델이 해당 기업이 소유한 다른 모델로 '바뀌기'도 한다.

한편, AI를 둘러싼 열풍은 전혀 쇠퇴하는 조짐이 없다. 앞으로도 딥시크(DeepSeek)의 오픈소스 모델을 포함해 많은 AI 모델이 다양한 기업에서 등장해 기업과 소비자의 주목을 받을 것이다.

즉, DeepSeek에 대한 대책을 강구해도, 배제할 수 있는 것은 데이터 보안상의 위험의 아주 일부에 지나지 않는다고 Rapid7의 프로덕트 매니지먼트 담당 시니어 매니저, Kelcey Morgan는 주장한다.

기업과 소비자는 이슈의 AI 모델에만 주목할 것이 아니라 모든 종류의 AI를 대상으로 어느 정도의 위험이라면 허용할 수 있는지를 명확히 하고 데이터 보호책을 마련해야 한다.

「이 원칙은, 향후 아무리 자극적인 기술이 등장해도 변하지 않는다」라고 Morgan는 말한다.

◆ 중국 공산당은 딥시크(DeepSeek)의 데이터를 첩보 활동에 이용할 수 있는가(Could the Chinese Communist Party use DeepSeek data for intelligence purposes?)
중국은 딥시크(DeepSeek)가 수집한 대량의 데이터를 마이닝해 다른 정보원과 조합함으로써 미국 사용자의 프로파일을 구축할 수 있을 만큼의 인력과 계산능력을 갖고 있다고 사이버보안 전문가들은 말한다.

「이미 계산능력이 병목이 되던 시대는 끝나고, 새로운 시대가 시작되고 있다」라고 Sirota는 말한다. 그는 미국의 정부기관이 첩보 목적으로 대량의 데이터를 분석하기 위해 사용하는 소프트웨어 개발원 Palantir Technologies 등을 예로 들면서 이미 중국은 동등한 능력을 갖고 있다고 말했다.

지금, DeepSeek를 만지작거리며 놀고 있는 사람들은, 아직 아무것도 모르는 젊은이일 수도 있다. 그러나 TikTok의 사용자와 마찬가지로, 그 중에서 미래에, 큰 영향력을 가진, 표적으로 할 만한 인물이 나타나는 것을 차분히 기다린다고 하는 것이 중국의 전략이라고 Sirota는 말한다.

위협 데이터나 첩보 정보를 제공하는 세계 최대의 민간기업인 Flashpoint의 경영집행 이사, Andrew Borene는, 이것은 미국 정부의 정책 입안자가, 소속된 정당을 불문하고, 최근 점점 의식하게 되고 있는 위험이라고 지적한다.

「이러한 위험을 정책 입안자가 인식하고 있는 것은 틀림없다. 기술 업계도 마찬가지다」라고 Borene는 말한다. 「그러나 미국의 소비자는, 이러한 위험이나 자신의 데이터가 어디로 보내지고, 그것이 왜 문제가 될 수 있는지를 반드시 이해하고 있는 것 같지는 않다」

Borene는 정부 관계자가 딥시크(DeepSeek)를 사용할 경우에는 '최고 수준의 주의'를 기울여야 한다고 강조하는 한편, 일반 사용자도 자신의 데이터가 최종적으로 중국 정부의 손에 넘어갈 가능성이 있음을 의식할 필요가 있다고 지적했다.

「이것은 중요한 검토사항이다」라고, 그는 말한다. 「개인정보보호 방침을 읽어 볼 필요도 없다」

◆ 딥시크(DeepSeek)와 같은 AI 모델을 안전하게 사용하는 방법(How to stay safe while using DeepSeek or other AI models)
자신이 어떤 AI 모델을 사용하는지 알기 어려운 경우가 많기 때문에 전문가들은 어떤 AI를 사용할 때도 신중할 것을 권한다.

생각해야 할 포인트는 다음과 같다.
• 모든 기술과 마찬가지로 AI도 현명하게 사용한다(Be smart with AI just like with everything else)
기술의 모범사례는 AI에도 효과적이다. 길고 복잡하며 추측하기 어려운 패스워드를 설정하고, 가능한 경우 항상 2요소 인증을 유효하게 하는 것이다. 그리고 전자기기나 소프트웨어는 항상 최신 상태로 유지한다.

• 개인정보 공개를 하지 않는다(Keep personal info personal)
AI 챗봇에 개인정보를 입력하기 전에 잘 생각해 본다. 사회보장번호나 은행 계좌번호 등 기밀성이 높은 정보를 입력하지 않는 것은 당연하며, 자택이나 근무처의 장소, 친구나 동료의 이름 등 일견 무해하다고 생각되는 정보도 공개하지 않는다.

• 항상 의심한다(Be skeptical)
메일이나 문자 메시지, 소셜 미디어에서 개인 정보를 요청받으면 누구나 경계할 것이다. AI의 질문에도 똑같이 주의를 기울여야 한다. 첫 데이트 같은 것이라고 생각하면 된다고 Sirota는 말한다. 처음 사용하는 AI 모델이 이상하게 개인적인 질문을 해왔을 때는 바로 이용을 중단해야 한다.

• 새로운 것을 너무 추종하지 않는다(Don't rush to be an early adopter)
유행하는 AI나 앱이라고 해서 당장 손에 넣을 필요는 없다고 모건는 말한다. 신원을 알 수 없는 소프트웨어를 어디까지 신뢰하고 위험을 허용할 수 있을지 생각해 본다.

• 이용약관 읽어 본다(Read the terms and conditions)
약관을 읽는 것은 분명 수고스럽지만 어떤 앱이나 소프트웨어를 사용하든 데이터를 제공하기 전에 우선 제공한 데이터가 어디로 보내지고 어떤 목적으로 사용되며 누구와 공유될 가능성이 있는지 파악하는 것이 중요하다. Borene에 따르면, 이용 규약에는 AI나 앱이 전자기기의 다른 곳부터도 데이터를 모아, 공유하고 있는지 여부를 알 수 있는 단서가 포함되어 있을 가능성도 있다고 한다. 정보가 뺄 가능성이 있는 경우는 관련된 권한은 모두 끄도록 하자.

• 적대관계에 있는 나라에 주의한다(Be aware of America's adversaries)
중국계의 앱은 모두 의심해야 하지만, 러시아나 이란, 북한과 같은 적대적인 나라나 정정 불안을 안은 나라의 앱도 경계할 필요가 있다고 Borene는 말한다. 이용 약관에 어떻게 쓰여 있든, 이러한 나라들의 앱에는 미국이나 EU 여러 나라에서는 지켜지고 있는 개인적 권리가 적용되고 있지 않을 가능성이 있다.

(출처) Be Careful With the Data You Give DeepSeek... and Every Other AI
https://www.cnet.com/tech/services-and-software/be-careful-with-the-data-you-give-deepseek-and-every-other-ai/#google_vignette

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.