中 딥식, 초저가 AI 모델로 시장 뒤흔들다… 엔비디아 17% 급락

중국 AI 연구소 딥식(DeepSeek)이 2025년 초 공개한 신형 언어 모델로 인해 전 세계 인공지능 시장에 예기치 못한 균열이 발생하고 있다. 딥식의 모델은 미국 기업 대비 훨씬 낮은 비용 구조에도 불구하고 경쟁력 있는 성능을 보이며 엔비디아(NVDA)를 비롯한 AI 관련 주가를 17% 끌어내리는 등 시장의 중심축을 흔들었다. 무엇보다 주목할 만한 점은 이 모델이 AI 훈련이 아닌 추론 단계, 즉 ‘테스트 타임 컴퓨트(Test-time Compute, TTC)’에 중점을 두어 혁신을 이뤘다는 점이다. 이는 기존의 ‘더 많은 데이터=더 강한 모델’이라는 공식을 뒤흔드는 대목이다.

기존 AI 업계는 웹 상의 공공 데이터를 거의 소진한 상태로, 더 나은 모델을 만들기 위한 학습 데이터는 사실상 한계에 다다른 상황이다. 이로 인해 주요 AI 연구소들은 질문에 응답하는 실시간 처리 과정에서 연산 자원을 효율적으로 사용하는 TTC 방식에 주목하고 있다. 오픈AI(OpenAI)의 GPT 시리즈나 딥식의 신형 모델처럼, 질문에 응답하기 전에 몇 차례 연산 단계를 거쳐 ‘사고’하는 방식이다. 이러한 추론 중심 접근법은 훈련 방식과 달리 실시간으로 첨단 연산 능력을 요구하므로, AI 인프라 측면에서도 새로운 방향 전환이 예고되고 있다.

딥식이 도입한 방식은 두 가지 중대한 변화를 수반한다. 첫째, 소규모 예산의 AI 랩도 여러 거대기업과 대등한 수준의 모델을 제작할 수 있게 됐다. 둘째, TTC가 AI 성능 개선의 새로운 주력 수단으로 떠오르면서 하드웨어, 클라우드, 소프트웨어 등 연계 산업 전반에 지각변동이 발생하고 있다.

대표적으로 하드웨어 측면에서 대규모 교육용 GPU 클러스터보다 추론에 최적화된 반도체의 수요가 증가할 가능성이 높다. 이미 업계에서는 GPU를 대체할 수 있는 ASIC(특수 목적 집적회로)에 대한 관심이 높아지고 있으며, 실시간 연산에 특화된 저지연 칩 기술의 중요성이 부각되고 있다. 클라우드 시장 역시 유사한 변화에 직면해 있다. 응답 속도나 API 안정성 등 품질 보장 서비스(QoS)를 내세운 클라우드 인프라 기업이 TTC 시대의 핵심 플레이어로 자리잡을 가능성이 크다.

또한 기존 AI 플랫폼뿐 아니라 응용 계층에서도 영향이 뚜렷하게 나타난다. 딥식과 같은 신흥 기업들이 전통적인 사전 학습 기반 모델의 우위를 점차 약화시키면서, 도메인 특화 기업들이 TTC 기반의 후처리 알고리즘을 통해 경쟁력을 확보할 기회가 열리고 있다. 특히 분야별 구조화된 프롬프트 설계, 대기시간 대응 전략, 효율적 샘플링 기법 등을 통해 추론 품질을 높이는 기업들이 실시간 서비스 분야에서 차별화된 입지를 다질 수 있다.

다만 딥식 자체의 상용화 여부는 여전히 불확실성이 크다. 중국에서 개발된 인공지능인 만큼, 미국과 캐나다 등 서방국가는 보안 및 개인정보 보호 이슈를 이유로 딥식의 API 사용을 제한하거나 차단하는 움직임을 보이고 있다. 특히 기업 고객을 중심으로 딥식의 웹사이트 접속 제한이나 데이터 유출 우려가 확대되면서, 서구권 시장에 딥식 모델이 직접 진출하는 데는 상당한 장벽이 존재한다.

그럼에도 불구하고 딥식의 등장은 기존 AI 산업에 강력한 경고 메시지를 전달한 사건이라는 점에서 의의가 크다. 자사 모델의 TTC 기술력을 개선하는 계기로 삼은 오픈AI, 앤스로픽(Anthropic), 코히어(Cohere) 등 기존 거대 연구소들은 빠르게 딥식의 방식을 자체 시스템에 도입하고 있다. 이로 인해 모델 개발 비용이 줄어들고, 역설적으로 연산 수요는 더 증가할 전망이다. 이는 효율이 높아지면 오히려 사용량이 증가한다는 ‘제번스의 역설’을 떠올리게 한다.

AI의 다음 도약은 더 많은 훈련 데이터가 아니라, 추론 단계에서의 연산 혁신에 달려있다. 딥식이 촉발한 변화는 기존 질서에 균열을 내며, 변방에서 새로운 가능성을 보여주고 있다.