AI 시대의 실전 해법…네비우스, 1년 만에 초대형 AI 클라우드 완성

AI와 클라우드, 오늘날 기술 산업에서 빠질 수 없는 두 단어다. 이 흐름 속에서 주목받고 있는 기업이 바로 네덜란드에 본사를 둔 네비우스(Nebius)다. 이 회사는 최근 미국 샌호세에서 열린 엔비디아(GTC) 콘퍼런스에서 자사의 AI 클라우드 플랫폼 구축 사례를 공개하며 업계의 시선을 집중시켰다. AI 시대의 도래에 발맞춰 자체 인프라를 바닥부터 다시 설계한 이들의 사례는 AI 클라우드 시장에 진입하려는 기업들에게 중요한 시사점을 던진다.

원래 야심 차게 주권 클라우드를 구축하려던 네비우스는 ChatGPT의 급부상이라는 시장 변화에 주목, 전략을 AI 중심으로 급선회했다. 이는 러시아 야ндекс(Yandex)로부터의 분사 이후 제한적인 기술 사용 라이선스를 받고 시작된 도전이었다. 네비우스는 제한된 선택지 속에서 플랫폼을 ‘0’부터 재구성해야 했고, 실제로 불과 1년 만에 수만 개의 엔비디아(GPU)를 400Gbps 인피니밴드 네트워크로 연결한 대규모 AI 클라우드를 완성했다. 이 엄청난 속도는 기술적 선택과 조직적 집중의 결합에서 비롯됐다.

네비우스가 가장 먼저 바꾼 것은 '리전 배치' 전략이었다. 기존의 대용량·복합 리전 중심 모델은 AI 워크로드에 부적합하다는 판단 하에, 더 작지만 독립적인 리전들을 구축하는 방향으로 방향을 틀었다. 이 구조는 장애 복원력은 물론 데이터 주권에 유리하면서도, 하나의 통합 관리 콘솔로 전체를 제어할 수 있는 유연성을 제공한다. 분기마다 1개 리전을 구축하겠다는 목표 아래, 이들은 하드웨어 사전 배치, 설치 자동화, 운영 효율성 확보 등 전방위적 프로세스 개선에 나섰다.

하드웨어 설계에서도 혁신은 계속됐다. 서버 손쉬운 유지보수를 위해 ‘한 손으로 정비할 수 있는 설계’를 기준으로 잡았고, 포뮬러 1(F1) 레이싱에서 가져온 열제어 알고리즘으로 냉각 효율성도 극대화했다. GPU 중심 연산을 위한 최적 공기흐름 설계와 PID 알고리즘 적용, 23% 에너지 효율 향상 등 모든 면에서 기존 데이터센터 한계를 넘어서려는 노력이 강조됐다. 심지어 테스트 단계에서부터 데이터를 모사한 부하 환경을 생산 공장에 구성하는 방식으로 품질 관리를 철저히 했다.

운영체계 측면에서는 쿠버네티스(Kubernetes)를 기초 플랫폼으로 채택했다. 쿠버네티스가 퍼블릭 클라우드 설계에 흔한 선택은 아니지만, 빠른 개발과 유연한 확장을 이유로 과감히 선택했다. 초기에 구축한 가상 머신 환경은 이후 네트워크, 스토리지, 컴퓨팅 가상화를 아우르는 스택으로 확장하며 맞춤화했다. 필요한 기능은 직접 코드로 구현해 고객에게는 단순한 가상 머신처럼 보이도록 복잡한 내부 구조를 은닉시켰다.

엔비디아와의 협력도 산업적 신뢰도를 높이는 데 큰 기여를 했다. 네비우스는 엔비디아의 레퍼런스 아키텍처를 충실히 반영해 AI 컴퓨팅, 네트워킹, 가상화 등에서 검증된 파트너로 인정받았다. 이를 통해 고밀도 GPU 클러스터 기반 AI 워크로드 운영에 적합하다는 평가도 받았다. 일부 고객은 4,000개 이상의 GPU를 단일 클러스터에서 운용하고 있으며, 네비우스는 이러한 대규모 처리 능력에도 안정적인 인프라를 제공하고 있다.

무엇보다 핵심은 변화에 대한 적극적 수용 자세다. 네비우스는 처음엔 예측 가능성과 완벽한 설계를 추구했으나, AI 시대의 본질은 불확실성과 빠른 진화임을 깨달았다. 초기 설계가 언제든 바뀔 수 있다는 점을 받아들이고, 유연한 인프라와 민첩한 조직 문화를 구축하며 결과적으로 산업 트렌드에 앞서갈 수 있었다.

AI 클라우드를 준비하는 기업들에게 네비우스 사례는 다음과 같은 교훈을 남긴다. 먼저 기술은 단순히 빠르게 도입하는 것이 아니라, 그 변화에 맞춰 끊임없이 설계와 전략을 조율해야 한다는 점, 그리고 자기만의 비전을 실현하되 고객 중심적 유연성과 협업 능력을 유지해야 한다는 전략적 균형이 필요하다는 것이다. AI가 필수가 된 지금, 네비우스는 스스로 가장 빠르고 실전적인 성공 방정식을 증명해 보이고 있다.