나발 라비칸트, AI 위험 '불·핵무기'로 비유

나발 라비칸트(Naval Ravikant) 투자자가 AI 위험을 '불'과 '핵무기'에 빗대며 기술 접근과 통제의 원칙이 달라질 수 있다고 말했다.

나발은 AI 안전성 논의를 다룬 이샨(Yishan)의 장문 게시글에 답하며 “AI의 위험이 불과 비슷하다면 모두가 이용할 수 있어야 하고, 핵무기와 비슷하다면 누구도 가져서는 안 된다”고 말했다. PANews는 16일 이 내용을 전했다.

이 비유는 AI를 어떤 수준의 위험으로 규정하느냐에 따라 관리 방식도 달라질 수 있다는 문제를 담고 있다. 불은 널리 활용되지만 안전 수칙과 관리가 필요한 도구로, 핵무기는 접근과 보유 자체를 엄격히 제한해야 하는 대상으로 제시됐다.

게시글 인용과 답글에서는 AI 위험 수준, 통제권의 소재, 기술 또는 공급망에 '우라늄 농축'과 같은 병목이 있는지가 핵심 쟁점으로 거론됐다. 특정 병목이 있다면 해당 단계의 접근을 제한하는 방식이 가능하지만, 그렇지 않다면 통제 범위와 방식도 달라질 수 있다는 취지다.

AI 안전성 논쟁은 모델 성능뿐 아니라 위험 통제 체계와 책임 범위까지 함께 다룬다는 점에서 앞서 제기된 AI 안전성 논의와도 맞닿아 있다.

나발의 발언은 AI를 관리 가능한 도구로 볼지, 광범위한 피해를 낳을 수 있는 위험으로 볼지에 따라 개방·공유와 엄격한 제한이라는 서로 다른 관리 경로가 나올 수 있음을 보여준다.