TOKENPOST

기업용 AI, 최신 모델보다 비용·업무 적용성 검토

샌프란시스코 기업용 AI 행사장 전경 / TokenPost.ai

드림포스 2026에서 기업 관계자들이 최신 인공지능 모델보다 이미 검증된 이전 세대 모델의 실용성과 비용 효율성을 우선시하는 흐름이 나타났다. 현장에서는 모델 성능 경쟁보다 업무 적용성과 사용량 관리가 기업용 AI 도입의 주요 기준으로 거론됐다.

세일즈포스($CRM)의 연례 행사 드림포스 2026은 9월 15일부터 17일까지 미국 샌프란시스코에서 열렸다. 세일즈포스는 현장 참석자가 5만명 이상이었다고 밝혔다.

행사에서는 AI 안전성과 최신 모델 개발 속도가 논의됐으며, 참석자 일부는 현재 이용 가능한 도구를 실제 업무에 연결하는 데 초점을 맞췄다. 소매 데이터 기업 스핀스(Spins)의 알렉 브론스턴 세일즈포스 디렉터는 “이미 따라가기도 충분히 어렵다”고 말했다.

브론스턴의 발언은 AI 개발 속도가 늦춰질 경우 기업이 현재 기술을 업무에 적용할 시간을 확보할 수 있다는 취지다. 최신 모델이 계속 출시되는 상황에서 기업 고객은 모든 업무에 최고 성능의 모델을 사용할 필요가 없다고 보고 있다.

소프트웨어 리뷰 기업 G2의 팀 샌더스 최고혁신책임자는 에이전트 업무 대부분이 최신 모델이 아니어도 처리할 수 있다고 말했다. 클라우드 컨택센터 기업 NICE의 케빈 리 기술 책임자도 한 세대 이전 모델이 고객사 업무에 충분히 효과적이라고 밝혔다.

세일즈포스는 이번 행사에서 AIforce와 CRM 특화 추론 모델 코아(Koa)를 공개했다. 코아는 엔비디아($NVDA)의 네모트론(Nemotron)을 기반으로 복합적인 다단계 CRM 업무를 처리하도록 설계됐다. 세일즈포스는 코아를 자사 CRM 데이터와 업무 흐름에 맞춘 모델로 소개했다.

코아 공개는 기업용 AI가 범용 모델의 성능만으로 평가되지 않는다는 점을 보여준다. 기업은 모델이 내부 데이터 환경과 업무 절차에 맞게 작동하는지, 보안·비용 조건을 충족하는지도 함께 검토한다.

기업들은 앤트로픽과 오픈AI의 독점 모델, 오픈웨이트 모델을 업무별 비용과 성능 기준으로 비교하고 있다. 이 과정에서 하나의 모델을 모든 업무에 적용하기보다 요청의 난이도에 따라 모델을 나누는 방식이 부상했다.

전자서명 기업 도큐사인(DocuSign)은 요청의 복잡도에 따라 서로 다른 모델로 보내는 '모델 라우팅'을 활용하고 있다고 밝혔다. 복잡한 계약 조항 분석이나 여러 문서의 추론에는 대형 모델을 배정하고, 단순 업무에는 상대적으로 저렴한 모델을 사용하는 방식이다.

모델 라우팅은 업무별 요구 성능과 호출 비용을 함께 고려해 적합한 모델을 선택하는 기술이다. 이번 사례는 기업들이 모델 성능뿐 아니라 호출 비용과 사용량 관리도 함께 검토하고 있음을 보여준다.

AI 에이전트가 기존 구독형 소프트웨어의 일부 기능을 대체할 경우 비용 구조가 달라질 수 있다는 지적도 나왔다. 샌더스는 기존 SaaS 사업의 총이익률이 85% 이상에서 에이전트형 모델에서는 45% 수준으로 낮아질 수 있다고 말했다.

다만 이 수치는 샌더스가 제시한 전망이며, 업계 평균으로 확인된 수치는 아니다. 샌더스는 에이전트가 처리하는 작업량과 모델 호출 비용 통제가 기업 수익성에 영향을 줄 수 있다고 말했다.

최신 모델의 효용이 없다는 뜻은 아니다. 데이터 분석 기업 데이터브릭스(Databricks)의 패트릭 웬델 엔지니어링 부사장은 SNS 게시물에서 GPT-6 Astra가 이전 최고급 모델보다 복잡한 작업에서 명확히 앞선다고 밝혔다.

오픈AI는 9월 3일 GPT-6 Astra를 공개하면서 추론 능력과 안전성이 개선됐다고 발표했다. 동시에 Astra의 모니터링 가능성이 이전 모델보다 낮아졌다는 평가도 공개했다.

드림포스에서 확인된 흐름은 최신 모델 경쟁이 끝났다는 의미가 아니다. 기업 현장에서는 이미 이용 가능한 모델을 업무에 연결하고 비용을 통제하는 동시에, 최신 모델이 복잡한 작업에서 제공하는 성능 개선이 추가 비용을 정당화하는지 검토하고 있다.

AI 모델의 잠재력 가운데 실제 활용 비중이 5~10%에 그친다는 진단과도 맞닿은 대목이다. 기업용 AI 도입은 모델 출시 속도보다 업무별 성과와 비용 구조를 확인하는 단계로 이어지고 있다.

오늘의 스탬프0명이 오늘 찍었어요

댓글0

첫 댓글을 남겨 보세요.