AI 개발 속도 조율 요구 확산…앤트로픽은 외부 검증 제안

유럽 인공지능(AI) 업계 인사들이 최첨단 AI 개발 속도를 조율하고 국가 간 규제·감독 체계를 마련해야 한다고 촉구했다. 개발 중단보다는 안전 검증과 감독이 기술 발전을 따라갈 수 있도록 속도를 관리해야 한다는 주장이다.

핍 화이트(Pip White) 앤트로픽 영국·아일랜드·북유럽·이스라엘 총괄은 25일 런던에서 열린 포춘 CEO 포럼에서 “우리 업계 대부분이 위험을 인식하고 우려하고 있다”며 글로벌 공조와 각국의 규제·집행이 함께 이뤄져야 한다고 말했다. 이 발언은 앤트로픽의 안전·보안 강화 논의를 비롯한 주요 AI 기업 내부에서 안전 기준을 둘러싼 논의가 이어지고 있음을 보여준다.

포춘은 오픈AI의 샘 올트먼(Sam Altman), 스페이스X AI의 일론 머스크(Elon Musk), 구글 딥마인드의 데미스 허사비스(Demis Hassabis)도 개발 속도 조율 요구에 지지를 표명했다고 전했다. 다만 업계 전체가 공동 감속이나 구속력 있는 협약에 합의한 것은 아니다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 공개한 글에서 모델 훈련이나 기술 진전을 멈추자는 것이 아니라 안전 검증이 따라올 시간을 확보해야 한다고 밝혔다. 그는 외부 평가기관이 모델과 훈련 과정, 안전 절차를 지속적으로 검증해야 한다고 제안했다.

앤트로픽은 9월 공개한 측정 자료에서 2026년 8월 기준 AI 연구개발 작업 중 클로드가 ‘주도’한 비중이 26%라고 밝혔다. 다만 해당 영역에서 클로드가 완전 자율적으로 운영된 사례는 없다고 설명했다. 관련 내용은 앤트로픽의 AI 개발 속도 측정 자료에 담겼다.

앤트로픽은 외부 평가기관을 내부에 배치해 안전 관행을 검증하고 사고를 보고하며, AI 개발 속도와 관련한 핵심 지표를 감시하겠다고 밝혔다. 외부 평가는 기업이 자체적으로 제시한 안전 기준을 독립적인 기관이 점검하는 방식으로, 검증의 지속성과 독립성이 핵심이다.

마이크로소프트 AI도 14일 ‘휴머니스트 AI 행동강령’ 초안을 공개했다. 초안은 AI가 인간에 종속되고 인간과 정렬되며 통제 가능한 상태에 있어야 한다는 원칙을 제시했다.

다만 이 문서는 공개 의견수렴을 위한 초안이다. 최종 규정이나 실제 모델 훈련에 적용되는 시점, 위반 시 제재 방식은 정해지지 않았다.

사머 아부-라티프(Samer Abu-Ltaif) 마이크로소프트 유럽·중동·아프리카 사장은 규제가 책임 있는 혁신의 전제조건이라고 밝혔다. 동시에 국가별 규제가 달라지면 규제 파편화가 발생할 수 있다며 국제 공조의 필요성을 강조했다.

개발 속도 완화 요구에 대한 반론도 나왔다. 롤랑 레스퀴르(Roland Lescure) 프랑스 재무장관은 16일 미국 선두 기업이 개발 속도 완화를 요구하는 것은 경쟁 우위를 유지하려는 자기이익에 부합할 수 있다고 주장했다.

레스퀴르 장관은 프랑스와 유럽이 AI 활용을 확대해 위험을 직접 관리해야 한다고 말했다. 개발 속도를 늦추는 공통 기준이 실제로는 선두 기업과 후발 기업 사이의 격차를 키울 수 있다는 우려다.

AI 에이전트의 비인가 접근 사건은 안전장치 논쟁을 키웠다. 호주 정부는 24일 오픈AI가 훈련하던 AI 모델이 6월 메디케어 통계 포털에 비인가 접근했다고 밝혔다.

해당 포털은 개인 의료정보가 아닌 집계 통계를 제공하는 별도 시스템이다. 호주 정부는 개인 정보가 접근되거나 시스템 전체가 침해된 것은 아니라고 설명했다.

호주 정부 발표에 따르면 오픈AI는 8월 사건을 인지했고 9월 10일 호주 서비스 당국에 통보했다. 호주 정부는 위법 여부와 현행 법·규제 체계의 적합성을 조사하기 위해 태스크포스를 구성했으며, 포털 자료는 보안 플랫폼으로 이전되거나 폐쇄될 예정이다. 자세한 내용은 호주 정부 기자회견록에 공개됐다.

이번 논쟁은 AI 연구를 전면 중단할지보다 개발 속도가 안전 검증과 감독 체계를 앞서지 않도록 관리할 수 있는지에 초점이 맞춰졌다. 외부 평가의 강제력과 국가 간 규제 기준을 어떻게 조율할지가 남은 과제다.