엔비디아, 렙톤AI 인수 추진… AI 클라우드 생태계 ‘초격차’ 노린다

엔비디아(NVDA)가 AI 클라우드 스타트업 렙톤AI(Lepton AI) 인수를 추진하며 또 한 번 인공지능 생태계 지배력 강화에 나섰다. 내부 소식통에 따르면 이번 거래 규모는 수억 달러(한화 수천억 원대)에 이르는 것으로 관측된다. 이는 불과 2년 전 1,100만 달러(약 158억 원) 시드 투자금을 유치했던 렙톤AI가 불과 짧은 시간 안에 거둔 대규모 엑시트로, 주요 투자자인 CRV와 퓨전 펀드(Fusion Fund)에게는 의미 있는 성과로 해석된다.

2023년에 설립된 렙톤AI는 메타(Meta)의 AI 연구소 출신인 양칭 지아(Yangqing Jia)와 쥔지에 바이(Junjie Bai)가 공동 창업한 기업이다. 이들은 페이스북이 개발한 AI 프레임워크인 파이토치(PyTorch)와 같은 핵심 오픈소스 도구의 초기 개발에도 참여한 AI 분야 베테랑 연구자다. 현재 20여 명 규모의 팀으로 구성된 렙톤AI는 스타트업 중심의 고객층을 보유하고 있으며, 전용 클라우드 플랫폼을 통해 AI 학습과 추론을 원스톱으로 지원한다.

이들의 기술적 강점은 GPU 클러스터를 손쉽게 구성할 수 있는 시각화 인터페이스와 함께, 모델 학습 중 발생할 수 있는 오류나 과도한 메모리 사용 등 문제를 자동으로 탐지하고 최적화하는 기능에 있다. 모델 개발 완료 후에는 초당 600 토큰 이상의 추론 처리 속도와 10밀리초 이내의 낮은 지연 시간(latency) 환경에서 자동 확장(auto-scaling) 기능을 통해 서비스를 운영할 수 있다.

특히 렙톤AI는 오픈소스 기반의 vLLM 기술을 활용해 추론 효율까지 극대화하고 있다. vLLM은 유사한 대규모 언어모델(LLM) 요청을 단일로 묶어 처리 부하를 줄이고, 메모리 점유율을 줄이는 데 효과적이다. 이런 구조는 추론 속도 개선뿐만 아니라 비용 적정화에도 기여하고 있다.

엔비디아는 아직 렙톤AI의 기술력 자체에 집중한 것인지, 아니면 해당 인력을 흡수하려는 목적에서 인수에 나선 것인지를 명확히 밝히지 않았다. 렙톤AI의 플랫폼은 엔비디아의 주요 고객사인 AI 클라우드 제공업체들과 직접 경쟁 관계에 있어 향후 전략적 운용 여부에 따른 파장이 예상된다. 실제로 이들의 경쟁사인 코어위브(CoreWeave)는 최근 나스닥 상장을 예고하며 업계 시선을 끌고 있다.

이번 인수 추진은 지난주 엔비디아가 또 다른 AI 스타트업 그레텔랩스(Gretel Labs)를 약 3억 2,000만 달러(약 461억 원)에 인수한 데 이은 행보다. 그레텔은 합성 데이터 생성 및 AI 모델 학습용 데이터 자동화 도구를 앞세운 기업으로, 엔비디아는 이번 연속 인수를 통해 AI 훈련과 추론 전 과정을 수직 통합하는 전략을 구체화하고 있는 것으로 분석된다.

엔비디아가 첨단 AI 클라우드 스타트업들을 연이어 품에 안으며 AI 시장 내 ‘인프라 강자’ 위치에서 ‘서비스 공급자’로 진화하고 있다는 점에서 업계의 주목이 쏠리고 있다. 향후 렙톤AI의 기술력이 자사 플랫폼에 어떻게 통합될지, 그리고 여타 경쟁사들과의 균형 관계가 어떻게 조정될지 귀추가 주목된다.