[DePINA 부트캠프] 서강대 김태훈 교수 "DePIN 기반 탈중앙화 AI 학습, 대규모 혁신 가능성 열어"

김태훈 서강대학교 메타버스 전문대학원 교수는 27일 열린 'DePINA: DePIN Accelerator KOREA' 부트캠프에서 "DePIN(탈중앙 물리 인프라 네트워크)을 활용한 탈중앙화 AI 학습은 대규모 AI 혁신의 문을 여는 핵심 열쇠가 될 것"이라고 강조했다. 그는 EXAONE 프로젝트 경험을 바탕으로 중앙집중형 인프라의 한계를 지적하며, 탈중앙화 인프라를 통한 AI 학습 체계 전환의 필요성을 제시했다.

김 교수는 LG AI 연구소에서 EXAONE, 한국 최초의 멀티모달 대형 언어모델(LLM)을 개발했던 경험을 소개했다. 350만 장 이상의 고해상도 이미지와 텍스트를 활용해 모델을 학습시키는 과정에서, GPU 클러스터 운영과 네트워크 오버헤드 관리에 막대한 비용과 인력이 소요됐다고 설명했다. 그는 "GPU 성능이 문제가 아니라, 스토리지와 네트워크 비용이 숨은 비용을 압도적으로 늘렸다"며, "보다 민주화된 컴퓨팅 모델이 필요함을 절감했다"고 말했다.

서강대학교로 자리를 옮긴 후, 김 교수는 메타버스와 AI, DePIN을 융합한 새로운 연구를 시작했다. 그는 "메타버스는 실시간 생성형 모델을 요구하며, DePIN은 글로벌 크라우드소싱 인프라를 통해 이를 지원할 수 있다"고 강조했다. 탈중앙화 인프라는 기존 중앙 집중형 데이터센터를 대체하거나 보완해, 보다 유연하고 확장 가능한 AI 생태계를 구현할 수 있다고 설명했다.

김 교수는 DeepMind의 분산 학습 알고리즘인 DiLoCo(Distributed Low-Communication Training)를 소개하며, 탈중앙화 인프라에 최적화된 AI 학습 방식을 제시했다. DiLoCo는 각 노드가 일정 횟수 로컬 학습을 진행한 후, 최소한의 통신만으로 글로벌 모델을 업데이트하는 방식으로, 네트워크 부담을 획기적으로 줄이면서 정확도를 유지할 수 있다는 것이다. 그는 "이 접근법은 DePIN처럼 이질적이고 저대역폭 환경에서도 대규모 AI 훈련이 가능하다는 가능성을 열어주었다"고 평가했다.

김 교수의 연구팀은 현재 DePIN 클러스터 상에서 DiLoCo 원칙을 적용해 대형 모델을 학습할 수 있는 프레임워크를 구축 중이다. 이 프레임워크는 글로벌 모델을 각 노드에 배포하고, 각 노드가 자체 데이터를 기반으로 로컬 학습을 진행한 후, 모델 업데이트를 블록체인 기반으로 검증하고 통합하는 과정을 포함한다. 기여도에 따라 토큰으로 보상하는 Proof-of-Uptime과 Proof-of-Useful-Work 메커니즘도 적용될 예정이다.

그는 이와 관련된 주요 과제로 ▲악성 노드 대응을 위한 안전한 데이터 집계 ▲페타바이트급 대규모 데이터 분산 처리 ▲AI 개발자 친화적 플랫폼 구축 등을 꼽았다.

김 교수는 "DePIN 기반 탈중앙화 AI 학습은 대규모 AI 연구의 접근 장벽을 낮추고, 커뮤니티가 직접 소유하고 가치 창출에 참여할 수 있는 새로운 생태계를 열어줄 것"이라고 전망했다. 그는 "앞으로는 특정 기업에 종속되지 않는, 진정한 커뮤니티 주도의 대규모 AI 모델들이 탄생하게 될 것"이라며 강연을 마무리했다.