AI 개발 속도 논쟁…저커버그·황은 병행, 아모데이는 감속

마크 저커버그(Mark Zuckerberg) 메타($META) CEO와 젠슨 황(Jensen Huang) 엔비디아($NVDA) 창업자 겸 CEO가 인공지능(AI) 업계 전체의 개발 속도를 늦추자는 주장에 선을 그었다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 안전성 연구가 따라잡을 시간을 확보해야 한다며 업계 공동 속도 조절을 제안했다.

저커버그는 9월 15일 소셜미디어 게시물에서 “모든 연구소는 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 유인을 갖고 있으며, 이를 위해 자체 조치를 취할 능력도 있다”고 말했다. 기업별로 안전 기준과 개발 속도를 판단할 수 있다는 주장이다.

저커버그는 사용자가 자신과 맞지 않거나 요구를 수행하지 못하는 AI 에이전트를 선택하지 않을 것이라고 봤다. 안전성과 정렬성을 높인 제품이 이용자 선택을 받을 수 있어 기업에도 안전 조치를 강화할 경제적 유인이 있다는 논리다.

법적 책임 가능성도 기업별 안전 조치의 동인으로 제시했다. AI 제품이 이용자에게 피해를 주면 기업이 책임을 질 수 있는 만큼, 업계 전체의 합의가 없어도 각 기업이 안전성을 관리할 수 있다는 설명이다.

저커버그는 메타가 개인용 AI 에이전트 뮤즈(Muse) 출시를 안전·보안 검토를 위해 수개월 늦췄다고 밝혔다. 메타는 9월 8일 뮤즈를 공개하면서 전용 가상머신에서 에이전트를 실행하고, 별도 센티널(Sentinel) 에이전트가 인터넷 접근을 승인하도록 설계했다고 설명했다.

뮤즈는 이메일 전송이나 구매처럼 민감한 작업을 수행하기 전에 이용자 승인을 받는다. 이용자는 연결할 앱과 권한 범위를 정할 수 있으며, 에이전트가 수행했거나 수행할 예정인 작업을 감사 기록으로 확인할 수 있다.

메타는 올해 말 이용자만 암호화 키를 보유하는 '컨피덴셜 VM(Confidential VM)'도 도입할 예정이다. 저커버그가 말한 기업별 안전 검증이 제품 설계에 반영된 사례로 제시됐다.

저커버그는 업계 전체의 일괄 감속 대신 독립 평가자와 자문단을 활용하는 방식을 모범 사례로 제시했다. 메타의 AI 조직이 일부 영역에서 독립 평가자를 활용하고 있으며 다른 기업도 같은 방식을 적용할 수 있다는 취지다. 저커버그가 독립 평가를 강조한 앞선 발언에서 기업별 자율 규율로 논리를 확장한 셈이다.

황도 개발 속도와 안전을 양자택일로 보지 않았다. 그는 9월 15일 세일즈포스의 드림포스 행사에서 “혁신, 속도, 안전한 제품은 양자택일이 아니다”라며 “가능한 한 빠르게 달리라”고 말했다.

황은 기업이 통제력을 잃거나 제품이 안전하지 않다고 판단하면 멈춰 바로잡아야 한다고 덧붙였다. 안전을 개발 속도의 반대 개념이 아니라 공학적으로 해결해야 할 문제로 본 것이다.

반면 아모데이는 9월 12일 개인 홈페이지에 올린 글에서 AI 모델의 역량 발전 속도를 늦춰 안전성 연구가 따라잡을 시간을 확보해야 한다고 주장했다. 그는 전면적인 개발 중단이 아니라 최첨단 AI의 속도를 조절하는 3단계 계획을 제안했다.

아모데이는 기업 내부의 개별 안전 조치와 업계 전체의 검증 가능한 조정 체계를 구분했다. 기업마다 자체 안전장치를 마련하는 것만으로는 경쟁 압박에 따른 '안전성 하향 경쟁'을 막기 어렵다는 문제의식이다.

앤트로픽은 독립 평가자에게 시스템 접근권을 제공하겠다고 밝혔지만, 업계 전체가 참여하는 공동 조정 체계가 마련됐는지는 확인되지 않았다. 아모데이는 정부와 기업 간 협력을 통해 공통 안전 기준과 외부 검증 체계를 구축해야 한다고 제안했다.

이번 논쟁은 AI 개발 속도와 안전을 둘러싼 업계의 견해 차이를 보여준다. 저커버그는 기업별 안전 조치와 시장 경쟁을, 황은 속도와 안전의 병행을, 아모데이는 공동 속도 조절과 외부 검증을 강조했다.

AI 에이전트가 이메일 전송과 구매처럼 실제 행동을 수행하면서 권한 부여와 감사 기록의 중요성도 커지고 있다. 기업별 안전 조치와 AI 에이전트 통제 논의가 이어지는 가운데, 업계 공동 기준이 마련될지 주목된다.