스탠퍼드 인공지능연구소(Stanford HAI)가 최근 발간한 2025년 AI 인덱스 보고서는 AI 기술의 급격한 발전과 변화를 데이터 중심으로 분석하며, 기업 기술 전략 수립에 중요한 인사이트를 제공하고 있다. 특히 이번 보고서는 AI가 점점 더 저렴하고 접근 가능해졌다는 점을 지적하며, 기술 민주화가 실질적으로 이뤄지고 있다는 점에서 눈길을 끈다.
보고서에 따르면, 2024년 한 해 동안 미국은 총 40개의 주목할만한 AI 모델을 개발해 중국(15건)과 유럽(3건)을 크게 앞질렀다. AI 모델 학습에 필요한 컴퓨팅 리소스는 약 5개월마다 두 배로 증가하고 있으며, 데이터셋 규모는 8개월마다 두 배로 커지고 있다. 하지만 모델 추론 비용은 급격히 낮아지는 추세로, GPT-3.5 수준 모델의 추론 비용이 2022년 11월 1백만 토큰당 20달러에서 2024년 10월 기준 0.07달러(약 100원)로 떨어지며 280배나 감소했다.
AI 산업에 대한 민간 투자도 크게 확대됐다. 2024년 전 세계 AI 분야 민간 투자금은 약 2,523억 달러(약 363조 3,000억 원)로 전년 대비 26% 증가했다. 이와 함께 전 세계 기업 78%가 적어도 하나의 비즈니스 기능에 AI를 도입했다고 답했는데, 이는 2023년의 55%에 비해 큰 폭으로 늘어난 수치다.
그러나 보고서는 기업들이 AI를 도입한다고 해서 무조건 의미 있는 실질적 성과로 이어지는 것은 아니라고 경고하고 있다. 조사에 따르면 생성형 AI를 도입한 기업 중 매출 증가를 경험했다는 응답은 과반에 이르지만, 대부분 그 비율은 5% 미만에 그쳤다. 이에 대해 연구진은 “AI 확산 속도에 비해 투자 대비 성과를 거두는 기업 수는 여전히 적다”며 “중요한 분석 영역”이라고 밝혔다.
특정 비즈니스 기능에서 AI의 성과는 더욱 뚜렷하게 나타났다. 예를 들어 공급망과 재고 관리에 AI를 도입한 기업의 61%는 비용 절감 효과를 경험했다고 답했으며, 전략기획 및 재무 분야에서도 70%에 달하는 기업이 매출 증가를 체감했다고 전했다. 고객 서비스, 마케팅 및 영업 부문도 높은 가치를 창출한 영역으로 언급됐다.
흥미로운 점은 AI가 노동 생산성 향상에 있어서도 특정 계층에 더욱 긍정적인 영향을 주고 있다는 것이다. 보고서는 고객 지원과 컨설팅, 소프트웨어 엔지니어링 분야에서 상대적으로 낮은 숙련도의 근로자들이 AI의 지원을 통해 더 큰 생산성 향상폭을 보였다고 분석했다. IT부서 입장에서는 AI 도입을 단순한 자동화 수단이 아닌 인력 역량 균등화 도구로 활용할 수 있다는 시사점을 제공한다.
하지만 AI 윤리와 위험 관리 측면에서는 여전히 갈 길이 멀다. 보고서는 사이버보안, 규제 대응, 지식재산 침해 등 주요 위험 요소에 대한 인식은 높지만, 실제 대응 조치는 이에 크게 미치지 못한다고 지적했다. 실제로 2024년 보고된 AI 관련 사고는 233건으로 전년 대비 56.4% 증가했다는 수치가 이를 뒷받침한다.
스탠퍼드 HAI 측은 "기술 역량은 눈부시게 발전 중이지만, 인프라와 거버넌스, 가치 창출 전략은 여전히 정비가 필요한 단계"라고 강조하며, 현 시점에서 기업들이 ROI가 검증된 영역 중심으로 선택과 집중 전략을 택하고, 동시에 책임 있는 AI 도입을 위한 체계 구축에 나설 것을 권고했다. AI 기술이 자원과 기술 인프라에 국한되지 않고 점차 보편화되는 흐름 속에서, 기업들이 전략적 구상을 구체화할 시기가 다가왔다는 분석이다.