블록체인 활용 AI 집단학습 진보, 인류 생존 위협 우려

벨기에 과학자들이 블록체인 기반 분산 훈련 방식을 통해 인공지능(AI) 분야의 가장 큰 과제 중 하나를 해결했을 수 있다는 연구 결과를 발표했다. 이 연구는 우주 탐사 혁명부터 인류 생존 위협까지 광범위한 잠재적 영향을 미칠 수 있다.

5일(현지시간) 코인텔레그래프에 따르면, 벨기에 연구팀이 시뮬레이션 환경에서 개별적이고 자율적인 AI 에이전트 간의 학습을 조정하는 방법을 개발했다. 연구팀은 블록체인 기술을 사용해 에이전트들의 통신을 용이하게 하고 보안을 강화함으로써 분산형 'AI 군집'을 만들었다.

군집 내 각 에이전트의 개별 훈련 결과는 더 큰 AI 모델을 개발하는 데 사용됐다. 데이터가 블록체인을 통해 처리됐기 때문에 이 더 큰 시스템은 개별 에이전트의 데이터에 접근하지 않고도 군집의 집단 지능의 혜택을 받을 수 있었다.

기계 학습은 여러 형태로 이뤄진다. 오픈AI의 챗GPT(ChatGPT)나 앤프로픽(Anthropic)의 클로드(Claude)와 같은 일반적인 챗봇은 여러 기술을 사용해 개발된다. '비지도 학습'이라는 패러다임을 사용해 사전 훈련되고 '인간 피드백을 통한 강화 학습'이라는 다른 패러다임으로 미세 조정된다.

이 접근 방식의 가장 큰 과제 중 하나는 일반적으로 시스템의 훈련 데이터를 중앙 집중식 데이터베이스에 격리해야 한다는 점이다. 이는 지속적인 자율 학습이 필요하거나 개인정보 보호가 중요한 애플리케이션에는 실용적이지 않다.

연구팀은 '분산 연합 학습'이라는 학습 패러다임을 사용해 블록체인 연구를 수행했다. 이를 통해 데이터 분산을 유지하면서 모델을 성공적으로 조정할 수 있다는 사실을 발견했다.

연구팀의 연구는 주로 다양한 공격 방법에 대한 군집의 회복력을 연구하는 데 집중됐다. 블록체인 기술이 공유 원장이고 실험에 사용된 훈련 네트워크 자체가 분산돼 있었기 때문에 연구팀은 전통적인 해킹 공격에 대한 견고성을 입증할 수 있었다.

그러나 연구팀은 군집이 처리할 수 있는 불량 로봇의 정확한 임계값을 발견했다. 연구원들은 네트워크에 의도적으로 해를 끼치도록 설계된 로봇이 등장하는 시나리오를 개발했다. 여기에는 악의적인 의도를 가진 에이전트, 오래된 정보를 가진 에이전트, 단순한 방해 지침으로 코딩된 로봇 등이 포함됐다.

단순하고 오래된 에이전트는 비교적 쉽게 방어할 수 있었지만, 연구팀은 악의적인 의도를 가진 스마트 에이전트가 충분히 침투할 수 있다면 결국 군집 지능을 방해할 수 있다는 사실을 발견했다.

이 연구는 여전히 실험 단계이며 시뮬레이션을 통해서만 수행됐다. 하지만 로봇 군집을 분산된 방식으로 상호 조정할 수 있는 시기가 곧 올 수 있다. 이는 언젠가 서로 다른 회사나 국가의 AI 에이전트 팀이 데이터 프라이버시를 희생하지 않고 협력해 더 큰 에이전트를 훈련시킬 수 있게 할 수 있다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기