AMD가 AI 워크로드 관리를 최적화하기 위해 스타트업 랩트 AI(Rapt AI)와 협력한다고 발표했다. 이번 협업을 통해 AMD의 인스팅트(Instinct) GPU 제품군에 AI 자동화 기능이 접목되면서, 기업들이 보다 효율적으로 AI 훈련과 추론 작업을 수행할 수 있을 것으로 기대된다.
랩트 AI는 AI 기반 자동화 플랫폼을 개발하는 스타트업으로, 고성능 GPU 클러스터의 활용을 극대화하고 애플리케이션 배포를 간소화할 수 있도록 지원하는 기술을 보유하고 있다. AMD와 랩트 AI는 AI 애플리케이션을 운영하는 기업들이 GPU 자원을 효과적으로 관리하는 데 어려움을 겪고 있다는 점을 지적하며, 이번 협업을 통해 기업들이 AI 워크로드 성능 병목을 최소화하고 리소스를 보다 효율적으로 활용할 수 있도록 할 계획이라고 밝혔다.
랩트 AI의 최고기술책임자(CTO) 아니르 라빈드라나스(Anil Ravindranath)는 "AI가 본격적으로 산업 현장에 적용됨에 따라 인프라의 효율성과 비용 절감이 무엇보다 중요해지고 있다"고 강조했다. 랩트 AI의 소프트웨어는 AMD 인스팅트 MI300X, MI325X, 그리고 향후 출시될 MI350 GPU와 완벽히 연동되며, 기업들은 이를 활용해 AI 워크로드의 총소유비용(TCO)을 낮출 수 있다.
랩트 AI의 솔루션은 온프레미스뿐만 아니라 클라우드 환경에서도 AI 애플리케이션 배포를 단순화할 수 있도록 설계됐다. 이 소프트웨어는 다양한 GPU 클러스터에 걸친 최적의 워크로드 균형을 자동으로 조정해 기업이 개별 설정에 시간을 낭비하지 않고 신속한 AI 개발을 추진할 수 있도록 돕는다.
특히, 랩트 AI의 자동 확장 기능은 애플리케이션 수요에 맞춰 리소스를 최적화함으로써 AI 추론 및 훈련 성능을 극대화하고, 배포 확장성을 향상시키는 데 기여할 것으로 보인다. AMD의 AI 및 데이터센터부문 주요 책임자들은 이번 협력을 계기로 자사 GPU 제품군이 더욱 경쟁력을 확보할 것이라며 기대감을 드러냈다.
랩트 AI의 최고경영자(CEO) 찰리 리밍(Charlie Leeming)은 "AMD와의 협력을 통해 더욱 정교한 성능 최적화 기능을 개발하고 있으며, 이는 양사의 고객들에게 최상의 AI 인프라 환경을 제공하는 데 도움이 될 것"이라며 "이번 공동 솔루션을 통해 AI 인프라 관리의 혁신을 이끌어나갈 것"이라고 밝혔다.
AMD와 랩트 AI는 앞으로도 GPU 스케줄링, 메모리 활용 최적화 등 다양한 영역에서 지속적인 협력을 이어가며 AI 시장에서의 입지를 더욱 강화할 계획이다.