GPU 병목 잡는다…라이트매터, 64TB 광통신 칩 공개

GPU 클러스터 간 연결의 병목 현상을 해결하기 위한 광학 인터커넥트 기술이 본격적인 상용화 단계에 진입하고 있다. 실리콘 포토닉스 전문기업 라이트매터(Lightmatter)가 포토닉스 기반의 차세대 칩-간 연결 시스템을 공개하며 GPU 네트워킹 판도를 바꾸겠다는 포부를 밝혔다.

이번에 발표된 ‘패시지 L200(Passage L200)’과 ‘패시지 M1000(Passage M1000)’은 높은 대역폭과 초저지연 통신을 특징으로 하는 3D 칩 패키징 기반 솔루션이다. 특히 L200 제품은 32TB와 64TB 대역폭 구성으로 제공되며, 수천 개의 GPU를 단일 클러스터로 연결해 기존 솔루션 대비 최대 100배 빠른 데이터 전송을 가능하게 한다. M1000은 고객이 포토닉스 기술을 직접 활용해 맞춤형 GPU 통신 솔루션을 설계할 수 있도록 설계된 레퍼런스 플랫폼으로, 보다 넓은 다이 영역에서 통합된 입출력 연결을 구현할 수 있다.

이번 제품군은 시리즈 D 투자 라운드에서 4억 달러(약 5,760억 원)를 유치하며 세간의 이목을 끌었던 라이트매터의 실리콘 포토닉스 개발 역량이 본격적으로 결실을 맺는 신호탄으로 해석된다. 닉 해리스(Lightmatter CEO)는 “현대의 GPU는 10년 전보다 1,000배 이상 연산 능력이 증가했지만, 이를 연결하는 네트워크는 발전 속도가 따라가지 못한다”며 “GPU 간 연결만 개선해도 인공지능 분야의 병목 현상을 획기적으로 해소할 수 있다”고 강조했다.

패시지 시리즈는 전통적인 계층형 데이터센터 아키텍처에서 벗어나 GPU 간 직접 연결을 가능하게 하는 평면형 네트워크 구조를 택하고 있다. 기존 방식에서는 GPU가 서로 통신하기 위해 여러 개의 스위치를 거쳐야 했지만, 라이트매터의 ‘엣지리스 I/O’ 구조는 각 GPU가 수천 대의 다른 GPU와 직접 연결을 지원해 레이턴시를 대폭 줄인다. 이는 AI 훈련과 추론 시간 단축은 물론, 전력 효율성 측면에서도 큰 이점을 제공한다.

개별 다이의 쉐어라인(edge) 한계에서 벗어나 다이 전체 표면에 걸쳐 I/O를 구성할 수 있게 된 점도 기술적으로 주목할 만하다. 이러한 설계를 통해 GPU 칩 내 수천 개 소자로 구성된 연산 유닛 간 데이터 흐름이 원활해지고, 칩 면적 대비 최대 대역폭이 극대화된다.

라이트매터는 이번 신제품을 대량 양산에 최적화된 설계로 제작했으며, 글로벌파운드리즈(Global Foundries) 등 주요 반도체 위탁생산 업체들과 긴밀히 협력해 제품의 양산 준비를 마친 상태다. 64TB 구성의 패시지 L200은 최대 200TB/s의 입출력 대역폭을 제공하며, 출시되면 AI 훈련 속도를 기존 대비 8배 이상 가속할 수 있다는 게 회사 측 설명이다.

AI, 자율주행, 과학 계산 등 GPU 자원 집약적 워크로드가 폭증하는 현 상황에서 라이트매터의 시도가 인프라계에 미칠 파장은 적지 않다. 데이터센터 구조의 재편 속도에 따라 AI의 진화 속도도 좌우되는 만큼, 이번 제품이 차세대 고성능 컴퓨팅(HPC) 시장에서 키 플레이어로 자리매김할 공산이 크다.