델(DELL)·엔비디아(NVDA), 기업용 ‘AI 팩토리’ 공개… AI 인프라 혁신 박차

델 테크놀로지스(DELL)와 엔비디아(NVDA)가 AI 인프라를 혁신하는 새로운 ‘AI 팩토리’ 전략을 공개했다. AI 팩토리는 단순한 AI 솔루션 조립 라인을 넘어, IT 인프라 전반을 최적화하고 기업의 AI 도입을 가속화하는 종합 플랫폼으로 자리 잡고 있다.

델은 올해 3월 AI 인프라 확장 계획을 발표하며 AI 팩토리를 ‘엔드투엔드 AI 솔루션’으로 소개한 바 있다. 이후 11월 ‘SC24’ 컨퍼런스에서 엔비디아와의 협업을 기반으로 한 고성능 서버 및 고밀도 랙 등 새로운 업그레이드를 선보이며 기업 시장 내 AI 도입을 본격화하고 있다.

IT 업계 전문가들은 이번 변화를 ‘기존 IT 패러다임에서 새로운 AI 중심 시스템으로의 전환’으로 평가하고 있다. 리서치 업체 더큐브(theCUBE)의 수석 애널리스트 존 퓨리어는 “이제 하드웨어가 단순한 장비를 넘어 시스템으로 변모하는 시점”이라며 “전통적인 IT 시대가 마무리되고 AI 중심 시스템이 본격적으로 자리 잡는 계기가 될 것”이라고 분석했다.

델과 엔비디아는 특히 AI 팩토리를 통해 기업들이 소규모 AI 인프라를 구축한 후 점진적으로 확장할 수 있도록 지원하는 것이 핵심 전략이라고 강조하고 있다. 델의 AI 포트폴리오 마케팅 이사 아담 클릭은 "기업들이 작은 규모로 시작해 이를 쉽게 확장할 수 있도록 설계됐다"며 "엔비디아와 긴밀히 협력해 최적의 하드웨어와 소프트웨어를 통합한 솔루션을 제공하고 있다"고 설명했다.

주목할 신기술 중 하나는 ‘RAG(검색 증강 생성)’. 이는 대형언어모델(LLM)과 정보 검색 시스템을 결합해 AI가 더욱 정확하고 관련성 높은 답변을 생성할 수 있도록 하는 기술이다. 델과 엔비디아는 이 기술을 활용해 ‘에이전틱 RAG(Agentic RAG)’ 솔루션을 발표했으며, 이를 통해 기업들이 다양한 AI 워크로드를 더욱 효율적으로 운영할 수 있도록 지원하고 있다.

또한 델은 AI 팩토리 내 엔비디아 ‘그레이스(Grace) CPU’와 ‘블랙웰(Blackwell) GPU’를 통합해 대규모 병렬 연산과 AI 슈퍼컴퓨팅에 최적화된 성능을 제공한다. 엔비디아의 데이터센터 가속화 컴퓨팅 그룹 제품 매니저 이안 핀더는 “AI 인프라에서 가장 중요한 요소는 전체적인 균형”이라며 “그레이스는 소켓당 512GB/s의 메모리 대역폭을 제공해 고성능 AI 작업을 원활하게 처리할 수 있다”고 밝혔다.

AI 팩토리를 통해 델과 엔비디아는 하드웨어뿐만 아니라 네트워크 최적화 및 데이터센터 기술까지 재설계하고 있다. 특히 AI 확장을 위해 고성능 네트워킹 솔루션인 ‘인피니밴드(InfiniBand)’와 ‘RDMA(Remote Direct Memory Access)’를 적용해 GPU 클러스터 간 연결을 최적화하는 방식도 도입됐다.

AI 산업이 빠르게 확장되는 가운데, 델과 엔비디아의 이번 협력은 단순한 인프라 제공을 넘어 AI를 중심으로 한 IT 생태계를 재편하는 방향으로 나아가고 있다. AI 팩토리를 통해 기업들은 보다 빠르고 효율적으로 AI 기술을 도입할 수 있을 것으로 기대된다.