AI 발전 제어 위해, 분산화와 규제 함께 필요

김민준 기자

2024.10.10 (목) 16:00

AI 발전 제어 위해, 분산화와 규제 함께 필요 / 셔터스톡

현재 소수 기업이 독점하고 있는 AI 기술 발전이 역사 왜곡과 같은 위험을 초래할 수 있어 규제와 분산화를 통한 민주화가 시급하다는 주장이 제기됐다.

9일(현지시간) 코인텔레그래프에 따르면, 페테르 이오노프(Peter Ionov) 우크라이나 기업가는 "AI 기술 발전이 소수 기업에 의해 독점되면 역사적 사실을 왜곡하거나 대중을 조작하는 등 위험한 결과를 초래할 수 있다"며 AI 규제와 분산화의 필요성을 강조했다.

이오노프는 "현재 AI 기술은 주로 강력한 기업들이 지배하는 비공개 영역에서 개발되고 있어 진실이 왜곡될 수 있는 디스토피아적 미래의 위험이 있다"고 지적했다. 그는 오픈AI(Open AI)가 초기의 오픈소스 접근법에서 벗어나 폐쇄적 모델로 전환한 것이 이러한 우려를 더욱 키웠다고 말했다.

그는 "중앙집중화된 기관들이 알고리즘을 공개하지 않는 한, 데이터 조작과 그로 인한 정치·사회경제적 불안정이 인류 역사의 흐름을 바꿀 수 있다"고 경고했다. 이오노프는 최근 iOS 18의 AI 기능이 이메일과 타사 앱의 메시지를 읽고 요약할 수 있다는 소식에 대해 "빅테크 기업들이 개인 채팅과 데이터에 접근할 수 있다는 점에서 우려스럽다"고 덧붙였다.

이에 대한 해결책으로 이오노프는 규제와 함께 블록체인 기술을 활용한 AI의 분산화를 제안했다. 그는 "분산화된 접근법은 투명성을 통한 신뢰를 촉진할 뿐만 아니라 더 나은 협업, 대규모 감시와 검열에 대한 견제, 네트워크 복원력 향상, 그리고 단순히 노드를 추가하는 것만으로도 효과적인 확장이 가능하다"고 설명했다.

이오노프는 "AI 개발의 모든 구성 요소가 컴퓨팅 파워, 데이터, 모델 훈련, 미세 조정, 추론에 이르기까지 재정적 인센티브와 함께 조정된 방식으로 구축되어야 한다"며 "블록체인이 분산화된 소유권을 통한 수익 창출을 가능하게 하면서 빅테크의 폐쇄형 모델에 대항할 수 있는 투명하고 안전한 오픈소스 협업을 보장할 수 있다"고 주장했다.

이오노프는 "규제 조치는 AI 발전이 인류에게 도움이 되는 방향으로 나아가도록 유도하면서 AI 경쟁을 가능하게 하고 장려하는 데 초점을 맞춰야 한다"고 강조했다. 그는 "책임 있고 규제된 AI를 구축하고 육성하는 것은 분산화된 환경에서 가장 효율적"이라며 "자원과 통제의 분산이 부패 가능성을 크게 줄이기 때문"이라고 설명했다.

이오노프는 AI 개발의 미래에 대해 "사회는 이제 AI의 가치와 그에 따른 여러 위험을 인식하고 있다"며 "앞으로 AI 개발은 효율성 향상과 윤리적·안전성 고려 사이에서 균형을 잡아야 한다"고 주장했다.

그는 캘리포니아주에서 추진 중인 AI 규제 법안을 예로 들며, 이러한 규제 노력의 중요성을 강조했다. 해당 법안은 아동에 대한 알고리즘 사용 제한, AI 모델의 물리적 인프라 공격 능력 테스트 의무화, 딥페이크 사용 제한 등의 내용을 담고 있다.

그러나 이오노프는 "규제만으로는 미래 AI 발전이 소수의 행위자나 빅테크 카르텔에 의해 왜곡되는 것을 막기에 충분하지 않다"고 지적했다. 그는 "합리적인 규제 조치와 함께 분산화된 AI가 인류에게 AI를 활용하면서도 그것이 강력한 소수에 의해 집중되는 것을 두려워하지 않는 최선의 길을 제공한다"고 주장했다.

이오노프는 "중앙집중화된 네트워크는 대부분 단일 중앙 조직 하에서 운영되기 때문에 참여자 간 낮은 조정 비용이라는 이점이 있다"고 설명했다. 반면 "분산화된 네트워크는 더 높은 조정 비용을 보상받는다"며 "이는 AI 스택의 컴퓨팅, 데이터, 추론 및 기타 계층에 걸쳐 더 세분화된 시장 기반 인센티브에 대한 더 높은 보상을 의미한다"고 덧붙였다.

마지막으로 이오노프는 "블록체인의 변경 불가능한 기록이 성경 시대에 존재했다면, 우리는 사해 사본과 같은 의미 있는 역사적 문서를 분석하고 평가하는 데 더 많은 이해와 맥락을 가질 수 있었을 것"이라고 말했다. 그는 "블록체인을 사용하여 광범위한 접근을 허용하면서도 역사적 데이터의 진실성을 보장하는 것이 널리 논의되어 온 주제"라고 설명하며, AI 발전에 있어 블록체인 기술의 중요성을 재차 강조했다.