중국에서 AI칩은 '과잉공급되면서 연산능력 부족' 모순, 원인과 미래

중국에서 AI칩은 '과잉공급되면서 연산능력 부족' 모순, 원인과 미래

2024년 중국은 AI 칩과 관련해 복잡한 상황에 직면해 있다. 일부에서는 과잉공급에 빠지는 반면 고도의 AI 개발에 필요한 고품질 연산능력은 여전히 부족하다.

이 모순은 단순한 기술적 문제나 지정학적 흥정의 부산물에 그치지 않는다. 이는 야심과 즉흥적 대응, 그리고 골드러시(gold rush. 사람들이 금광을 찾아 몰려들 듯)적 열광이 빚어낸 뜻밖의 결과라는 인간적 요소가 깊은 이야기이기도 하다.

우선은 하나의 광경을 상상하기 바란다. 중국 각지의 광대한 데이터센터에는 세계 최고 수준의 GPU가 대량으로 설치돼 있지만 이들은 용도를 부여받지 못하고 대기하고 있다. 하지만 동시에 최근 획기적인 성과로 주목을 받는 AI 기업 딥시크(DeepSeek)는 차세대 AI 모델을 구축하기 위해 필요한 계산 리소스가 부족하다고 주장하고 있다. 어떻게 이 두 가지 상황이 동시에 이루어지는 것일까.

이를 이해하려면 먼저 최근 경과를 되돌아볼 필요가 있다. 미국이 중국에 대해 최첨단 AI 칩 접근을 제한했을 때, 중국 기업과 지방정부, 국영 통신 대기업들은 예상대로 빠르게 움직였다. 즉 재고의 증가다.

인간은 부족함을 느끼면 예로부터 물자를 모아왔다. 이들은 엔비디아 칩을 대량구매해 AI 데이터센터를 짓고 미래 수요를 내다보고 거대한 연산 클러스터를 구축했다. 더욱이 중국 구매자들은 다른 지역의 제3자를 통해 엔비디아의 최신 AI칩(새로운 Blackwell 시리즈 포함)을 주문하며, 미국의 수출규제를 계속 회피하고 있다. 하지만 AI 주도의 미래에 대비한 나머지 많은 기업들이 "이만큼의 연산능력을 실제로 무엇에 쓰느냐"는 근본적인 물음을 간과하고 말았다.

◆ 비효율성 문제
이 역설에 대한 첫 번째 설명은 물류와 배치의 문제다. 2024년 중국은 최소 100만개의 AI 칩을 추가해 계산능력을 확충한 것으로 알려졌다. 이는 큰 숫자이지만 미국은 이보다 몇 배나 많은 AI 칩을 가동하고 있는 것으로도 추정되고 있다. 다만, 중국에서 도입된 칩은 효율성을 중시해 배치된 것은 아니다. 오히려 질이 제각각인 데이터센터에 분산돼 수요가 부족한 곳에도 설치됐다. AI 붐을 타고 싶은 기업이나 지방정부는, 명확한 전략을 가지지 않고 인프라를 정비해, 그 결과 「저품질의 계산 자원」이라고도 부를 수 있는 것이 대량으로 생겨난 것이다.

예를 들어 언젠가 연주해 볼 수 있을 것이라고 믿고, 많은 사람들이 값비싼 콘서트 피아노를 수백만 대나 사들이는 세계를 상상해 보면 된다. 게다가, 그러한 피아노를 콘서트홀이나 음악학교에 두는 것이 아니라, 작은 창고에 난잡하게 흩어져 있는 것 같은 세계를. 피아노 자체는 존재해도, 그 잠재력은 전혀 살아나지 않는다. 이것이 중국의 AI 생태계에서 일어난 일의 본질인 것이다.

◆ 단기적 수요와 장기적 수요의 문제
두 번째 설명은 시기의 문제에 있다. 2023년에는 챗봇부터 공장자동화까지 모든 분야를 지탱하는 거대 AI 시스템, 이른바 기반모델 개발이 과열됐었다. 그러나 2024년이 되자, 이 대응의 대부분이 축소되었다. 자원 부족을 절감하고 철수한 기업도 있고, 기반적인 AI 연구에서 AI 애플리케이션 개발로 옮겨간 기업도 있다. 그 결과 AI 중 가장 연산 과부하가 큰 시범훈련 수요가 줄어든 것이다.

동시에, 이미 학습이 끝난 모델을 운용하는 「추론」수요가 높아지기 시작했다. 그러나 추론에는 다른 종류의 인프라가 필요하다. 모델훈련은 거대하고 집중화된 계산 클러스터가 필요한 마라톤과 같은 공정이다. 반면 추론은 스마트폰부터 공장 생산라인까지 다양한 환경에 AI 모델을 전개하는 복잡한 춤에 가깝다. 중국이 2023년 정비한 인프라는 훈련 용도를 예상했기 때문에, 2024년 시장이 변화했을 때 훈련용 자원이 과잉돼 추론용 자원이 부족하다는 불균형이 생긴 것이다.

◆ '페이크(Fake)' AI 클러스터
사태를 더둑 복잡하게 하고 있는 것은, 「페이크(Fake. 가짜)」 또는 「유사」적인 1만 GPU 클러스터다. 이론상으로는 대규모 AI 계산센터를 구축할 수 있을 만큼의 GPU를 구입해놓고 실제로는 여러 개의 소규모 데이터센터에 분산 배치해버리는 기업이 있다. 고속네트워크와 적절한 소프트웨어 아키텍처가 없으면 이들 칩을 일체적인 시스템으로 기능시킬 수 없다.

이는 전형적인 양의 축적을 능력으로 착각하는 사례다. 수천 개의 GPU를 가지고 있다고 해서 그것만으로 경쟁력 있는 AI 연구를 할 수 있는 것은 아니다. 마침 100대의 페라리를 소유하고 있다고 해서 일류 레이싱팀이 될 수 있는 것은 아닌 것과 같다. 중국에 다수 존재하는 AI 클러스터 중에는 실제 연구 도구라기보다는 금융자산으로 보유된 사례도 많다.

◆ 정부의 궤도 수정
중국 정부는 이러한 비효율을 깨닫지 못하고 있는 것은 아니다. 그 대책으로서 새롭게 데이터센터를 건설할 때에는 특정 입지조건이나 인프라 요건을 충족시키지 않으면 허가하지 않을 방침으로 바뀌었다. 또 클라우드 컴퓨팅을 권장하며, 기업이 자사 전용 GPU 클러스터를 갖는 것이 아니라 계산 자원을 공유하도록 독려하고 있다. 이론상으로는, 이러한 정책에 의해 고품질의 계산능력을 집중화해, 정말로 필요로 하고 있는 AI 연구자의 손에 골고루 가게 하는 것이 가능하게 될 것이다.

더욱이 중국 정부는 새로운 데이터 센터의 건설을 입지나 인프라의 기준으로 제한하고, 자원의 유효한 활용을 도모하기 위해 클라우드 컴퓨팅을 장려하고 있다.
그렇다고는 해도, 장기적으로 보아 이러한 대책이 어디까지 의미를 가지는 것인가 하는 의문이 든다.

◆ 역사적 사례
19세기 미국에서 일어난 철도 붐을 생각해 보면 된다. 산업화에 대한 열광 속에서 기업은 수요를 무릅쓰고 선로를 부설했기 때문에 무용지물이 된 노선도 있었고, 나중에는 주변 산업이나 도시의 발전에 따라 제 역할을 할 수 있었던 노선도 있었다. 처음에는 혼돈을 겪다가 결국 보다 효율적인 시스템으로 수렴해 갔다.

같은 일은 중국의 AI 인프라에서도 일어날 것으로 보인다. 현재의 과잉공급은, 머지않아 내일의 비약을 낳는 기반이 될 가능성이 있다. 현재는 가동되지 않고 방치되고 있는 GPU도 AI 응용이 광범위하게 보급되는 미래에 대한 투자라는 시각이 있다. 계산 자원을 통합하고 '추론' 주체로 전환해 도입 전략을 다듬어 나가는 기업이 최종적으로 살아남아 힘을 키울 것이다. 그렇지 않은 기업은 중국의 AI 대두 역사의 뒤 켠에 묻히게 된다.

◆ 고찰
딥시크(DeepSeek)의 성과가 주목할 만한 한편, 장기적인 AI 개발에 있어서는 여전히 첨단 칩에 대한 접근이 매우 중요하다는 점도 간과할 수 없다. 한 전문가가 말했듯이 "만약 차세대 모델 훈련에 10만 개의 칩이 필요하다면, 수출규제는 중국의 최첨단 모델 개발에 큰 영향을 미칠 것이다." 
AI의 동향은 계속 빠르게 변화하고 있으며 효율화와 첨단 하드웨어 접근의 두 고리가 향후 글로벌 AI 개발의 향방을 크게 좌우하는 것이다.

(출처) The Curious Case Of China’s Chip Surplus
https://www.forbes.com/sites/craigsmith/2025/03/08/the-curious-case-of-chinas-chip-surplus/

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.