머스크, AI 모델 출시 전 경쟁사 안전성 시험 제안

일론 머스크가 AI 기업들이 새 모델을 공개하기 전 경쟁사에 안전성 검증을 맡기자고 제안했다. 모델 개발사가 자체 평가만 진행하는 방식에서 벗어나 경쟁사 간 상호검증 체계를 마련하자는 구상이다.

머스크는 15일 열린 ‘올인 서밋(All-In Summit)’에서 이같이 말했다. 이 발언은 블록비츠가 전했다.

머스크는 미국의 주요 AI 기업과 중국 등 주요 AI 참여자들이 서로의 모델을 출시 전에 시험해야 한다고 주장했다. 다만 구체적인 참여 기업 명단이나 시행 일정은 제시하지 않았다.

제안의 핵심은 각 기업이 보유한 안전성 시험 도구를 경쟁사 모델에 적용하는 방식이다. 이런 도구는 AI 모델이 위험한 행동을 하거나 지시를 숨기는지 확인하는 일련의 시험 절차를 뜻한다.

머스크는 현재의 자체 검증 방식을 '자기 숙제를 자기가 채점하는 것'에 비유했다. 경쟁사가 직접 모델을 시험하면 개발사 내부 평가보다 위험 요소를 찾아낼 동기가 커질 수 있다는 설명이다.

경쟁사가 모델의 위험성을 지적했는데도 개발사가 출시를 강행한 뒤 문제가 발생하면 법적 책임이 커질 수 있다는 주장도 내놨다. 사전 검증 결과를 외면한 사실이 사후 책임 판단에 영향을 줄 수 있다는 취지다.

이번 제안은 AI 모델의 성능 경쟁과 안전성 검증이 함께 진행돼야 한다는 문제의식에서 나왔다. 개발사가 내부 평가만으로 놓친 취약점을 외부 경쟁자가 찾아내는 구조를 출시 전 단계에 넣자는 것이다.

앞서 연구소 간 출시 전 안전 테스트 체계를 제안한 머스크도 이번 발언에서 경쟁사 간 상호검증 구상을 다시 제시했다. 이전 제안과 마찬가지로 모델 출시 전 검증을 연구소 내부 절차에만 맡기지 말자는 내용이다.

머스크는 미국 기업만 참여하는 방식에는 선을 그었다. 중국 등 주요 AI 참여자가 빠지면 미국 기업에만 개발 속도와 규제 부담이 집중될 수 있다는 이유에서다.

미·중 AI 협력은 기업 간 기술 경쟁뿐 아니라 검증 기준과 위험 대응 절차를 함께 정해야 하는 문제와도 맞닿아 있다. 다만 미·중 AI 안전 협약 논의처럼 공식 협상이나 정부 간 합의로 이어지려면 별도의 절차가 필요하다.

경쟁사가 안전성 시험을 맡을 경우 평가 결과의 신뢰성을 높일 수 있다는 기대가 있지만, 이해관계 충돌 가능성도 있다. 경쟁사가 검증자이면서 동시에 시장 경쟁자인 만큼 시험 결과를 둘러싼 분쟁이 발생할 수 있다.

모델을 경쟁사에 직접 제공하는 과정에서 영업비밀과 보안 정보가 노출될 수 있다는 문제도 남는다. 시험 범위와 접근 권한을 어디까지 허용할지 정하지 않으면 상호검증 자체가 새로운 보안 위험이 될 수 있다.

검증 결과를 공개하는 방식도 쟁점이다. 위험 요소를 즉시 공개할지, 개발사에 먼저 개선 기회를 줄지에 따라 기업의 출시 일정과 이용자 보호 수준이 달라질 수 있다.

이번 발언은 정책이나 기업 간 합의가 아니라 머스크 개인의 제안이다. 참여 기업, 공통 시험 기준, 모델 접근 권한, 결과 공개 방식과 시행 일정은 구체화되지 않았다.

상호검증 체계가 실제 제도로 이어지려면 미국과 중국 등 참여 주체가 공통 기준과 책임 범위를 합의해야 한다. 현재는 출시 전 AI 안전성 시험을 경쟁사 간 협력 구조로 확대하자는 제안이 나온 단계다.