엔비디아, 'AI 동료' 만드는 NeMo 툴킷 공개…에이전트 혁신 본격화

AI 에이전트 시대를 앞당기기 위해 엔비디아(NVDA)가 본격적인 도구 생태계 확장에 나섰다. 엔비디아는 23일(현지시간) 개발자들이 손쉽게 AI 에이전트를 구축하고 배포할 수 있도록 지원하는 ‘NeMo 마이크로서비스’ 툴킷을 공식 출시했다.

NeMo 마이크로서비스는 단순한 챗봇 수준을 넘어 더욱 *자율적*이고 *능동적인* 에이전트 개발에 최적화됐다. 이른바 ‘디지털 동료(digital teammate)’로 불리는 이들 에이전트는 지식을 검색하거나 지시에 따라 업무를 처리하는 것은 물론, 스스로 데이터를 분석하고 결정을 내리는 능력을 갖췄다. 따라서 이들이 제대로 작동하기 위해선 방대한 양의 고품질 실시간 데이터에 대한 접근이 필수적인데, 이를 손쉽게 구현하도록 돕는 것이 이번 툴킷의 핵심이다.

이번에 공개된 주요 구성 요소는 총 다섯 가지다. ‘Customizer’는 LLM(대형 언어모델)을 특정 기업 데이터에 맞게 세밀하게 조정할 수 있도록 지원하며, 최대 1.8배 향상된 학습 처리 속도를 제공한다. ‘Evaluator’는 API 기반에서 다양한 업계 기준이나 자체 테스트 기준에 따라 간편하게 모델 성능을 점검할 수 있도록 해준다. 또 ‘Guardrails’는 에이전트가 비정상적이거나 위험한 행동을 하지 않도록 제어하는 보안 계층을 추가해, 기업용 AI로서의 신뢰성을 높인다. ‘Retriever’는 기업 내부 시스템에서 필요 데이터를 정확하게 추출하고 활용하도록 설계됐으며, ‘Curator’는 데이터 정제와 가공 기능을 통해 데이터 파이프라인을 더욱 효율적으로 구축할 수 있게 한다.

엔비디아 측은 이번 툴킷이 온프레미스와 클라우드 환경 어디서든 동일한 성능과 보안을 제공하도록 설계됐다고 강조했다. 특히 AI 구축 경험이 많지 않은 개발자도 단순한 API 호출으로 복잡한 에이전트를 운영할 수 있도록 설계되어, AI 개발의 진입 장벽을 크게 낮췄다.

현재 기업들 사이에선 다수의 에이전트들이 협업해 단일 목표를 추진하는 ‘멀티 에이전트 시스템’에 대한 관심이 높다. NeMo 툴은 이러한 복잡한 구조를 갖춘 시스템을 보다 원활하게 구축할 수 있게 해주며, 실제 기업 적용 사례도 속속 등장하고 있다.

예를 들어 AT&T는 이 툴을 통해 Mistral 7B 모델을 자사 목적에 맞게 커스터마이즈하여 고객 서비스를 최적화하고, 사기 탐지 정확도를 높이는 데 성공했다고 밝혔다. 블랙록(BlackRock)은 자사 투자 플랫폼 ‘알라딘(Aladdin)’ 내에서 NeMo 컴포넌트를 활용해 투자관리를 위한 공통 데이터 언어 기반을 강화하고 있다고 전했다.

지원 모델도 다양하다. 메타(META)의 Llama를 비롯해 마이크로소프트(MSFT)의 Phi, 구글(GOOGL)의 Gemma, 미스트랄 등의 오픈 모델을 모두 호환하며, 엔비디아 자체 모델인 ‘Llama Nemotron Ultra’도 지원 대상에 포함된다. 이 모델은 과학적 추론과 수학 문제 해결 능력에서 최상위 수준 성능을 기록 중이다. 엔비디아는 NeMo 마이크로서비스가 Haystack, LangChain, LlamaIndex 등 주요 AI 프레임워크들과의 통합도 지원한다고 밝혔다.

NeMo의 이번 출시는 단순한 툴 배포를 넘어 기업의 AI 활용 수준을 한층 끌어올릴 계기를 제공한다는 데 의미가 있다. 데이터 기반 의사결정을 자동화하고, AI의 역할을 단순 지원 도구에서 *결정권을 가진 협업 파트너*로 승화시킬 수 있도록 돕는 기술이 본격적으로 시장에서 실전을 시작한 셈이다. 인프라부터 응용까지 AI 활용 전 과정에 걸친 기술 스택을 갖춘 엔비디아가 AI 에이전트 혁신의 선두주자로 발돋움할 수 있을지 주목된다.