구글, AI 인프라 단순화 승부수…쿠버네티스로 자동화·ROI 잡는다

인공지능(AI)의 성장은 폭발적이지만, AI를 뒷받침하는 인프라의 진화는 체계와 표준화 방향으로 전개되고 있다. 구글(GOOGL)은 자사 클라우드 기반 인프라를 단순화하고, 엔터프라이즈 고객이 유연하게 활용할 수 있도록 하는 전략을 본격화하고 있다. 이를 통해 기업들은 구체적인 하드웨어나 설정에 대한 부담 없이, 목표 지표 중심의 AI 워크로드 운영이 가능해질 전망이다.

구글 클라우드의 핵심 엔지니어인 로만 아르체아와 제레미 올름스테드-톰슨은 최근 방송 인터뷰에서 “AI 인프라의 유연성과 자동화를 유지하면서도 복잡성을 줄여야 한다는 요구가 급증하고 있다”며, 그 중심 기술로 *쿠버네티스*를 지목했다. 아르체아는 “이제 쿠버네티스는 단일 API로 컴퓨팅 자원 소비를 표준화할 수 있는 가장 유망한 대안”이라며, “애플리케이션 생태계와 개발자가 동시에 통합을 원하는 시점에 도달했다”고 강조했다.

구글은 이러한 접근의 일환으로, GKE 오토파일럿(Google Kubernetes Engine Autopilot) 기반에서 컴퓨팅 클래스를 도입했다. 이 방식은 설정 부담을 줄이고, 플랫폼 관리자는 사전 정의한 정책에 따라 필요 자원을 설정하며, 개발자는 하드웨어 세부사항을 신경쓰지 않아도 된다. 올름스테드-톰슨은 “예를 들어, 특정 컴퓨팅 클래스를 ‘스팟 인스턴스 우선, 필요 시 온디맨드 전환’으로 구성해두면 개발자는 그 뒤의 자원 충돌이나 캐시 전략에 신경 쓰지 않고 개발에만 집중할 수 있다”고 설명했다.

무작정 단순화하는 것이 아니라, 필요한 세부 설정을 유지하면서도 기본값은 안정적인 상태로 제공되는 구조다. 이는 *정책 엔진*, *모니터링 도구*, *컴퓨팅 클래스 제약 조건* 등 강력한 보안장치와 함께 구현되며, 기업들은 위험을 최소화하면서도 자동화를 수용할 수 있게 된다. 아르체아는 “정책 기반 인프라 소비는 각 기업의 요구 조건을 반영할 수 있는 유연성을 제공한다”고 말했다.

구글의 전략 중심에는 *ROI(투자 수익률)*가 있다. 고객들은 불필요한 오버헤드를 지양하고, 실제 수익을 가져다주는 자원 할당에만 비용을 지출하고 싶어 한다. 아르체아는 “과잉 할당이 유의미한 수익을 창출하지 못한다면, 더 이상 유지할 필요가 없다”면서 인프라 구성의 판단 기준이 ‘가능 여부’가 아니라 ‘효율 성과’로 이동했음을 강조했다.

GKE 사용자 기반의 급증도 이를 방증한다. 최근에는 사용자의 40배 증가와 함께 자동 크기 조정 기능 활용이 표준으로 자리잡고 있다. 실제로 많은 기업이 “메모리, CPU 등 세부 리소스를 직접 관리하고 싶지 않다. 대신 가격, 성능, 출시 속도, 운영 간편성만 보장해 달라”는 니즈를 명확히 하고 있다는 설명이다.

점점 더 많은 엔터프라이즈가 생성형 AI를 본격 도입하고 있는 현재, 구글의 전략은 '복잡성은 내부에서 흡수하고, 사용자에게는 가능한 단순한 인터페이스 제공'이다. 이는 인프라 투자의 방향이 기술 자체가 아닌 비즈니스 의사결정 중심으로 옮겨가는 흐름과 맞물린다. 구글이 제시한 새로운 AI 인프라 로드맵은 바로 이 흐름의 선두에 있다.