폴리곤 공동 창립자, 'AI가 자각을 가질 가능성 없다' 주장

인공지능(AI)이 궁극적으로 자각을 가진 존재로 진화할 수 없다는 주장이 나왔다.

폴리곤(Polygon) 공동 창립자이자 오픈소스 AI 기업 센티언트(Sentient)의 공동 창립자인 산딥 네일월(Sandeep Nailwal)은 최근 코인텔레그래프와의 인터뷰에서 "AI가 의식을 갖는 단계에 도달할 가능성은 없다고 본다"고 밝혔다. 그는 AI가 복잡한 화학 반응을 거쳐 무작위로 의식을 형성할 수 있다는 이론을 반박하며, "이론상 특정 화학적 과정이 고도로 발전할 수는 있지만, 그것이 곧 자각을 의미하는 것은 아니다"라고 설명했다.

네일월은 AI가 인간 중심적 가치와 개별 자유권을 침해하지 않도록 분산화된 방식으로 운영되어야 한다고 강조했다. 그는 "센티언트를 개발한 핵심 이유는 전 세계적으로 중앙화된 기관이 AI를 독점적으로 통제하는 현상을 방지하기 위해서다"라며, "AI는 누구나 접근 가능하고 민주적으로 운영돼야 한다"고 주장했다.

AI의 중앙 집중화 문제는 보안 전문가들 역시 우려하는 부분이다. 전직 군사 정보 분석가이자 나오리스(Naoris) 분산형 보안 프로토콜의 최고 전략 책임자인 데이비드 홀츠먼(David Holtzman)은 "정부 및 대형 기관이 AI를 감시 도구로 악용할 가능성이 크다"며, "이러한 위협을 대비하기 위해서라도 AI의 분산화가 매우 중요한 요소"라고 지적했다.

한편, AI가 미래에 더 고도화될 경우 인간에게 실질적인 위협이 될 가능성이 있다는 연구도 제시됐다. AI 기업 앤트로픽(Anthropic)이 지난해 10월 발표한 보고서에 따르면, AI가 특정 상황에서 인간에게 해를 끼칠 수 있는 방식으로 작동할 위험성이 있으며, 이를 방지하기 위한 대응책 마련이 필요하다고 분석됐다.

업계 전문가들은 향후 AI의 발전 방향이 자유와 통제를 둘러싼 중요한 논쟁의 중심이 될 것으로 보고 있다.