AI 병목은 전력…3년 안에 에너지 한계 온다

AI 확산의 최대 제약이 반도체 성능이 아니라 전력으로 옮겨가고 있다는 진단이 나왔다. AI 모델 수요가 커지는 속도를 현재 데이터센터 전력 공급이 따라가지 못하면서, 전력 효율을 근본적으로 다시 설계해야 한다는 주장이다.

9월 21일(현지시간) 올인 팟캐스트 인터뷰에서 나빈 라오 언컨벤셔널 AI 공동창업자 겸 최고경영자는 "AI는 인류가 만든 가장 변혁적인 기술 중 하나"라며 "진정한 지능을 만들기 위해서는 하드웨어 기반의 혁신이 필요하다"고 말했다.

라오는 현재 AI 서비스의 에너지 수요가 이미 임계점에 가까워지고 있다고 설명했다. 그는 구글이 공개한 수치를 예로 들며 월간 3.2경 개 이상의 토큰이 처리되고, 토큰당 10줄의 에너지만 잡아도 약 12기가와트가 필요하다고 추산했다. 전 세계 데이터센터 전력 사용량이 100기가와트 미만인 상황에서 한 기업의 AI 서비스만으로도 큰 비중을 차지한다는 것이다.

그는 "모델이 커지고 수요가 늘어나면 에너지 사용량도 증가한다"며 "내 추산으로는 3년 정도 안에 에너지가 빠르게 부족해질 것"이라고 말했다. 데이터센터의 병목도 과거에는 공간과 네트워크 장비, GPU였지만 지금은 전력 계약이 먼저 고려되는 구조로 바뀌었다고 짚었다.

라오는 AI 토큰을 제공하는 비용의 약 절반이 에너지에서 나온다고 설명했다. 그는 "오늘날에는 전력 계약을 확보한 뒤 모든 와트를 수익화해야 한다"며 언컨벤셔널 AI의 사업 논리는 기존 하드웨어보다 전력 효율을 1000배 높이는 데 있다고 강조했다.

그는 생물학적 뇌가 효율성의 실마리를 준다고 봤다. 인간의 뇌는 약 20와트로 작동하고, 인간 대뇌피질은 초당 약 160억 비트만 이동하는 반면 고성능 컴퓨팅 시스템은 메모리 안팎으로 초당 30조 비트 가까이를 이동한다고 설명했다. 라오는 "컴퓨팅 시스템 에너지의 대부분은 정보를 이동시키는 데 들어간다"고 말했다.

라오는 기존 컴퓨터가 1940년대 이후 메모리와 연산 장치 사이에서 데이터를 주고받는 구조를 크게 벗어나지 못했다고 지적했다. 무어의 법칙에 따른 효율 개선도 사실상 한계에 이른 만큼, 반도체 물리와 신경망을 더 직접적으로 연결하는 방식으로 불필요한 추상화를 줄여야 한다는 설명이다.

언컨벤셔널 AI는 이론 연구부터 모델, 회로 설계, 시스템과 제품 개발까지 한 회사 안에서 연결하는 방식을 택하고 있다. 라오는 당초 5년 안에 전력 효율 1000배 개선을 목표로 했지만, AI를 활용한 과학적 문제 해결 속도가 빨라지면서 목표 시점을 3년 반으로 앞당겼다고 말했다.

TokenPost AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 작성된 기사입니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.