레드햇, AI 배포 가속화 위한 신규 기능 공개… 기업용 AI 강화

레드햇(Red Hat)이 인공지능(AI) 개발 및 배포 가속화를 위한 새로운 기능을 발표하며 기업용 AI 시스템 구축의 핵심 플랫폼으로 자리매김하려 하고 있다.

레드햇은 지난해 9월 출시한 ‘레드햇 AI(Red Hat AI)’ 제품군의 업데이트를 통해 AI 훈련 및 추론의 효율성을 높이고, 하이브리드 클라우드 환경에서 보다 유연한 배포가 가능하도록 개선했다고 밝혔다. 레드햇 AI는 주요 두 가지 요소로 구성되어 있다. 첫 번째는 대형 언어 모델(LLM) 배포를 위해 최적화된 ‘레드햇 엔터프라이즈 리눅스 AI(RHEL AI)’이며, 두 번째는 확장 가능한 AI와 머신러닝 개발 플랫폼인 ‘레드햇 오픈시프트 AI(OpenShift AI)’다.

레드햇에 따르면, 기업들은 여전히 AI 모델과 자체 보유 데이터를 통합하는 데 어려움을 겪고 있으며, 이는 데이터를 온프레미스 서버, 클라우드 인프라, 엣지 네트워크 등 다양한 위치에 분산 저장하는 방식에서 기인한다. 레드햇은 이번 업데이트를 통해 이러한 한계를 극복하는 동시에 AI 모델의 성능을 더욱 최적화하고 보안을 강화할 수 있도록 했다.

오픈시프트 AI 2.18 버전은 분산 서빙 기능을 추가해 모델 실행을 여러 GPU에서 나누어 처리할 수 있도록 했다. 이를 통해 AI 모델의 학습 및 추론 속도를 크게 높이고 서버 인프라의 부담을 줄일 수 있다. 또한, AI 모델의 성능을 평가할 수 있는 새로운 기능도 포함됐다. 대규모 프로덕션 환경에서 AI 애플리케이션의 검증을 강화하고 보안을 향상시킬 수 있도록 설계됐다.

한편, RHEL AI는 IBM의 최신 ‘그래나이트 3.1 8B(Granite 3.1 8B)’ 모델을 지원한다. 이는 다국어 추론 기능이 추가되었으며, 128K 컨텍스트 윈도우를 제공해 요약 생성 성능을 향상시켰다. 또한, 개발자가 자체 데이터를 활용해 쉽게 AI 모델을 개선할 수 있도록 설계된 그래픽 인터페이스가 도입돼 데이터 관리가 더욱 용이해졌다.

레드햇의 AI 부문 부사장 조 페르난데스(Joe Fernandes)는 “기업들이 AI 모델과 사유 데이터를 보다 쉽게 통합하고, 운영 비용을 절감할 수 있도록 돕는 것이 우리의 목표”라며, “레드햇 AI는 온프레미스, 클라우드, 엣지 환경 전반에서 효율적이고 최적화된 AI 솔루션을 제공할 것”이라고 강조했다.

이와 함께, 레드햇은 IBM 클라우드에서도 ‘인스트럭트랩(InstructLab)’을 지원할 계획이라고 밝혔다. 이를 통해 AI 모델 학습을 단순화하고 보안성을 강화할 수 있도록 하겠다는 전략이다. 해당 기능은 오는 봄 출시될 예정이며, 독자적인 데이터를 기반으로 모델을 미세 조정해야 하는 기업들에게 특히 유용할 것으로 예상된다.

레드햇은 그 외에도 AI 관련 온라인 교육 과정을 무료로 제공한다고 전했다. 기존 고객은 비용 없이 AI 학습 인증 프로그램을 이수할 수 있으며, 이를 통해 AI 기술이 기업 운영과 혁신을 어떻게 가속화할 수 있는지에 대한 실질적인 지식을 습득할 수 있을 것으로 보인다.