저커버그 “AI 안전은 기업별 책임”…공동 감속론에 선 그어

마크 저커버그(Mark Zuckerberg) 메타(Meta·$META) CEO가 인공지능(AI) 개발을 업계 전체가 함께 늦출 필요는 없다고 밝혔다. 각 AI 기업이 안전 확보에 필요한 속도를 스스로 정하고, 필요하면 자체적으로 개발을 늦춰야 한다는 입장이다.

저커버그는 16일 소셜미디어에 “각 연구소는 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 동기를 갖고 있으며, 이를 위해 자체 조치를 취할 능력도 있다”고 썼다. 관련 발언은 AP통신이 전했다.

그는 메타가 AI 에이전트 ‘Muse’ 출시를 안전과 보안 강화를 위해 수개월 늦췄다고 설명했다. 이어 “다른 회사들이 먼저 그렇게 하기를 요구한 뒤 우리가 따르겠다고 한 것은 아니다”라고 말했다.

저커버그는 안전조치가 업계 공동 합의의 결과라기보다 각 기업의 개발 과정에서 이뤄지는 판단이어야 한다고 봤다. 기업별로 제품의 위험을 평가하고 출시 시점을 조정할 수 있다는 의미다.

그는 AI 에이전트의 신뢰성과 정렬성이 경쟁력의 핵심이 될 수 있다고 주장했다. AI 에이전트가 사용자의 지시를 따르지 않거나 사용자에게 불리하게 행동하면 이용자가 외면할 수 있다는 이유에서다.

AI 시스템이 피해를 일으킬 경우 기업이 법적 책임을 질 수 있다는 점도 안전 투자의 동기로 제시했다. 이용자 선택과 법적 책임이 기업별 안전조치를 이끌 수 있다는 논리다.

저커버그는 외부 평가 자체를 반대한 것은 아니다. 독립 평가자와 자문단을 활용하는 방안을 지지했으며, 메타의 초지능 연구 조직인 메타 슈퍼인텔리전스 랩스가 여러 분야에서 외부 평가를 진행하고 있다고 밝혔다.

그는 규모가 크고 배경이 다양한 외부 평가 생태계가 필요하다고 말했다. 다만 외부 평가자에게 내부 직원과 같은 수준의 장기 접근권을 제공하겠다고 약속하지는 않았다.

저커버그의 입장은 다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) CEO의 제안과 다르다. 아모데이는 최첨단 AI 모델의 능력 발전 속도를 안전 연구가 따라갈 수 있는 수준으로 낮추고, 외부 평가자가 장기간 내부에 접근할 수 있도록 하자고 주장했다.

앞서 본지는 AI 개발 속도와 안전을 둘러싼 저커버그와 아모데이의 견해 차이를 전했다. 저커버그는 기업별 안전조치와 경쟁을, 아모데이는 업계 공동 속도 조절과 외부 검증을 강조했다.

두 사람의 차이는 안전조치의 필요성보다 실행 방식에 있다. 아모데이는 공동 감속과 상시 외부 검증을 강조한 반면, 저커버그는 각 기업이 독립적으로 출시를 늦추고 외부 평가를 받을 수 있다고 봤다.

저커버그는 AI가 스스로 다음 세대 모델을 개선하는 재귀적 자기개선에 대부분의 컴퓨팅 자원을 투입하기보다, 사람의 목표를 수행하는 데 자원을 써야 안전성을 높일 수 있다고도 밝혔다. AI 안전 논의가 개발 중단 여부에서 자원 배분과 검증 방식으로 확장된 셈이다.

그는 앞선 AI 모델을 소수 기관이나 AI 시스템에 집중시키기보다 개인에게 널리 제공해야 한다는 입장도 제시했다. 사람에게 유리한 권력 균형을 유지하는 것이 초지능의 안전한 발전에 중요하다는 설명이다.

일론 머스크(Elon Musk)는 저커버그의 게시물에 “Cool”이라고 답했다. 다만 머스크는 저커버그의 어떤 주장에 동의했는지는 밝히지 않았다.

머스크는 별도 행사에서 오픈AI(OpenAI), 앤트로픽, xAI, 구글(Google), 메타 등 주요 AI 기업이 출시 전 서로의 모델을 시험해야 한다고 주장한 바 있다. 각 기업의 자율 조치와 업계 차원의 상호 검증이 병행될 수 있을지가 논쟁의 다음 쟁점으로 남았다.