뉴스
코인정보
라운지
커뮤니티
TPI 
매체소개
고객센터
2
Cohere가 최신 인공지능(AI) 모델 ‘Command A’를 공개하며 AI 시장에서 주목을 받고 있다. 이번 모델은 고성능을 유지하면서도 경쟁 제품 대비 하드웨어 요구 사항을 대폭 낮춘 것이 특징이다.
Cohere에 따르면 ‘Command A’는 OpenAI의 GPT-4o와 DeepSeek-V3 등 기존의 주요 AI 모델을 능가하는 성능을 보인다. 특히 엔비디아(NVIDIA)의 A100 또는 H100 그래픽 처리 장치(GPU) 두 개만으로도 동작이 가능하며, 경쟁 모델들은 최대 32개의 GPU를 필요로 하는 것과 비교해 인프라 비용을 대폭 절감할 수 있다.
기업 고객을 염두에 두고 개발된 이번 모델은 금융 및 헬스케어 산업처럼 내부 네트워크에서 AI 모델을 운영할 필요가 있는 조직에 적합하다. AI 모델을 온프레미스 환경에서 사용하려면 막대한 하드웨어 투자가 필요하지만, ‘Command A’는 최소한의 장비로도 원활하게 운영될 수 있어 비용 효율성을 극대화했다.
Cohere 측은 “‘Command A’는 비즈니스, STEM(과학, 기술, 공학, 수학), 코딩 작업에서 기존 보다 크고 느린 모델들을 능가하며, 처리 속도와 효율성 면에서도 우수하다”고 강조했다. 실제로 초당 156개의 토큰을 생성할 수 있어 GPT-4o보다 1.75배, DeepSeek-V3보다 2.4배 빠른 성능을 제공한다.
이 모델은 256,000개의 토큰까지 처리할 수 있는 대형 문맥창(context window)을 지원해 대량의 문서를 한 번에 분석할 수 있다. 이는 최대 600페이지 분량의 문서를 단번에 처리할 수 있는 수준으로, Cohere의 기존 모델인 ‘Command R+’ 대비 두 배 이상의 용량을 갖췄다.
Cohere의 공동 창업자인 닉 프로스트(Nick Frosst)는 “‘Command A’는 사용자들이 업무를 더욱 효율적으로 수행할 수 있도록 돕기 위해 설계됐다”며, “사용자들에게 지적 능력을 확장하는 도구처럼 느껴질 것”이라고 설명했다.
이와 함께 Cohere는 AI 모델을 보다 유연하게 활용할 수 있도록 도움을 주는 ‘North’라는 엔터프라이즈용 AI 플러그인 플랫폼도 제공한다고 밝혔다. 이를 통해 기업 고객들은 인공지능 에이전트(AI agent)를 활용해 고객 관계 관리(CRM), 자원 계획(ERP) 등의 소프트웨어와 결합해 자동화된 업무 처리를 할 수 있다.
업계에서는 Cohere의 이번 발표가 기업용 AI 시장에서의 경쟁 구도를 변화시킬 가능성이 크다고 본다. 특히 AI 모델의 성능과 비용 최적화를 동시에 달성하려는 기업들에게는 상당한 매력적인 선택지가 될 전망이다.
