구글, 엔터프라이즈 AI의 왕좌 탈환…'제미니2.5·TPU'로 초격차 나섰다

구글이 엔터프라이즈 AI 분야에서 다시 중심으로 부상하고 있다. 변곡점은 2025년 4월 열린 '구글 클라우드 넥스트(Google Cloud Next 2025)' 행사다. 공개적으로는 조용했지만, 실상은 AI 인프라 개선, 독보적인 모델 성능, 기업용 통합 상품 전략 등에서 강한 자신감을 드러낸 시간이었다. 불과 1년 전만 해도 오픈AI, 마이크로소프트, 앤스로픽에게 밀린다는 평가를 받던 구글은 이제 "우리를 따라잡으라"며 자신 있게 나서고 있다. 딥마인드, TPU, GCP(구글 클라우드 플랫폼)를 모두 보유한 유일한 기업인 구글은 AI 생태계를 수직 통합하며 경쟁 우위를 확대 중이다.

한때 막대한 기술 자산에도 불구하고 구글은 AI 주도권을 놓치는 듯한 흐름을 보였다. 오픈AI가 챗GPT로 시장에 빠르게 확산되었고, 앤스로픽은 코딩 분야에서 두각을, 마이크로소프트는 오픈AI와 손잡으며 기업 시장을 급속히 잠식했다. 특히 2023년 바드 시연 실패, 이미지 생성기 논란 등은 구글의 AI 경쟁력에 대해 회의적인 시선을 낳았다. 그러나 이는 전면에 드러나지 않았던 ‘기초 인프라 재정비’의 시기였다는 평가다.

구글 내부에서는 엔터프라이즈 AI 주도권을 되찾기 위한 ‘조용한 전환’이 진행됐다. 이탈한 인재보다 돌아온 인물이 많았고, 하드웨어(AI 칩), 소프트웨어(모델 훈련), 제품(엔터프라이즈 적용) 영역이 통합 실행되기 시작했다. 특히 구글 클라우드 최고기술책임자 윌 그라니스는 수백 건의 제품 뒷단 정비가 이 같은 반전을 이끌었다고 설명했다. 배경에는 '우리는 AI의 출발점(Gemini, Transformer, TPU)의 주인이다'라는 내부 자부심이 있었다.

가장 눈에 띄는 부분은 새로운 AI 모델 ‘제미니(Gemini) 2.5 프로’다. 이는 오픈AI의 GPT-4o를 능가하는 성능을 보여주며 독립 벤치마크 플랫폼 챗봇 아레나에서 선두에 올랐다. 특히 다단계 추론 및 셀프 리플렉션 기능을 탑재에서 ‘생각하는 모델’이라는 평가를 받았으며, 기존 모델들과 달리 프로그래밍, 분석, 대용량 문서 이해 등에서 실사용 수준의 출력을 안정적으로 제공한다는 점이 강점이다. 이 모델은 구글의 초고속 맞춤형 AI용 칩 TPU와 함께 최적화되어 작동하며, 단순한 API 모델 그 이상의 플랫폼 진화 방향을 제시하고 있다.

하드웨어 측면에서도 구글의 차별화는 명확하다. 7세대 TPU인 ‘아이언우드(Ironwood)’는 현재 세계 최강 슈퍼컴퓨터보다 24배 많은 계산력을 제공하며, 액체 냉각 방식으로 집적도와 효율성 모두에서 경쟁 업체에 없던 성능을 확보했다. 특히 전력 소비 대비 성능, 즉 전력당 지능 효율성은 기업 고객들의 대규모 AI 배치에서 결정적 요소다. 구글은 엔터프라이즈 고객을 위한 비용 대비 최적 성능의 모델 제공을 강조하며 ‘인텔리전스 퍼 달러(Intelligence per Dollar)’라는 새로운 기준을 제시하고 있다.

이와 함께 ‘버텍스(Vertex) AI’를 중심으로 구글의 모델, 인프라, 워크플로우가 하나로 통합되었다. 이는 경쟁사들이 외부 파트너와의 협업으로 제품군을 구성하는 것과 대비된다. 예컨대 마이크로소프트는 오픈AI의 GPT를 활용하지만, 자체 모델 개발 및 애저(Azure) 플랫폼 이해 관계와 엇갈리며 전략적 혼선을 노출하고 있다. 반면 구글은 모델, 플랫폼, 데이터 전송망, 검색엔진과의 통합까지 전부 내재화되어 있어 속도, 유연성, 일관성 측면에서 한발 앞서 나가고 있다.

AI 에이전트 전략도 주목할 부분이다. 구글은 ‘에이전트스페이스(Agentspace)’를 통해 AI 에이전트 허브를 선보이며, 고객 지원, 보안 분석, 코드 어시스턴트 등 산업별 문제 해결을 위한 AI 비서를 기업에 제공하고 있다. 모든 사용자가 크롬 브라우저에서 바로 사용할 수 있는 접근성과 더불어, 개발자에게는 오픈소스로 제공되는 에이전트 개발 키트(ADK), 복수 에이전트 간 상호작용을 위한 A2A 프로토콜도 공개하며 생태계를 확장 중이다. 이 프로토콜은 특히 봇 거래가 문제인 소매 유통 기업에서 실사용 검토가 활발히 진행되고 있다.

이미 많은 대기업들이 구글의 AI 전략에 응답하고 있다. 웬디스는 수천 개 매장에 구글의 드라이브 스루 AI를 도입했고, 세일즈포스는 AWS 외에도 구글 클라우드를 새롭게 활용하기 시작했다. 도이체방크, 웰스파고, 월마트, 로우스 등도 데이터 분석 및 고객 서비스 개선에 제미니를 활용 중이다. 구글은 이에 힘입어 2024년 연매출 440억 달러(약 63조 원)를 기록하며 아마존과 마이크로소프트 대비 가장 빠른 성장률을 보였다.

전반적으로 보면 구글은 지금까지 오픈AI와 마이크로소프트가 주도했던 엔터프라이즈 AI 경쟁 판도를 뒤흔들 수 있는 역량을 갖췄다. 전체 AI 스택을 소유하고 직접 통제하는 유일한 하이퍼스케일러라는 점에서, AI, 인프라, 클라우드, 워크플로우 전환까지 무리 없이 통합된 전략을 통해 '순간적 반등'이 아니라 '지속가능한 우위'라는 평가가 잇따른다. 앤써로픽이나 오픈AI도 빠르게 기술을 진화시키고 있고, 마이크로소프트는 여전히 MS 오피스와 365에 AI 퍼뜨리기에서 경쟁우위를 지니고 있지만, 구글의 일관된 실행력과 기술력은 후발 주자라는 이미지를 더 이상 붙이기 어렵게 만들고 있다.

결국 지금이 구글의 시간이라는 것에 시장은 대체로 동의하고 있다. AI의 초격차는 단일 모델의 성능을 넘어서, 플랫폼 전체의 통합, 하드웨어 최적화, 비용 효율성, 그리고 현장 문제 해결력에 달려 있다. 지금 구글은 이 네 요소 모두에서 가장 앞서 있는 주자로 올라섰다. AI 기업의 향후 성패는 기술력과 실행력의 균형에 달렸다는 점에서, 현재 구글의 위치는 경쟁사들에게 뼈아픈 기준이 되고 있다.