AMD, Rapt AI와 협력… AI 인프라 최적화로 GPU 성능 극대화

AMD가 AI 인프라 최적화를 목표로 Rapt AI와 전략적 협력을 맺으며, GPU 활용도를 극대화하는 솔루션을 선보인다.

빠르게 성장하는 AI 시장에서 기업들은 연산 자원의 최적 배분과 성능 병목 현상 해결에 어려움을 겪고 있다. 이를 해결하기 위해 Rapt AI는 자사의 AI 워크로드 자동화 플랫폼을 AMD Instinct MI300X, MI325X, 그리고 향후 출시될 MI350 시리즈 GPU에 통합해 AI 추론과 훈련 성능을 획기적으로 개선하는 방안을 마련했다.

Rapt AI의 CEO 찰리 리밍은 "오늘날 AI 모델은 더욱 복잡하고 예측하기 어려운 형태로 진화하고 있다"며, "기존 최적화 도구로는 대응이 어렵다"고 설명했다. 그는 기업들이 AI 인프라에 천문학적인 비용을 투자하면서도 기대한 성과를 내지 못하고 있으며, Rapt AI의 솔루션이 이러한 문제를 해결할 수 있다고 강조했다.

Rapt AI의 플랫폼은 AI 연산을 최대 10배까지 처리할 수 있도록 하면서도 동일한 지출 수준에서 최대 90%의 비용 절감 효과를 제공한다. 또한, 데이터 과학자들이 인프라 조정에 시간을 낭비하지 않고 연구와 개발에 집중할 수 있도록 지원한다.

AMD Instinct GPU와 결합된 Rapt AI의 기술은 GPU 활용도를 극대화하면서도 총소유비용(TCO)을 절감할 수 있도록 돕는다. 특히, AMD의 강력한 메모리 성능과 Rapt AI의 자동 리소스 최적화 기능이 결합되며 AI 워크로드의 효율성이 눈에 띄게 향상될 전망이다.

AMD 데이터센터 GPU 사업 부문 네긴 올리버 부사장은 "AMD는 고성능 AI 솔루션을 제공해 기업들이 AI 워크로드의 잠재력을 최대한 활용할 수 있도록 돕는다"며, "Rapt AI와의 협력으로 AI 인프라의 효율성과 유연성, 비용 절감 효과를 극대화할 것"이라고 밝혔다.

이번 협력을 통해 AMD와 Rapt AI는 AI 추론 및 훈련을 위한 보다 완성도 높은 GPU 관리 솔루션을 제공하며, 향후 GPU 스케줄링 및 메모리 최적화 등 다양한 영역에서 추가 개선을 진행할 계획이다.