미·중 AI 개발 속도 조절 조약, 로 칸나 촉구

미국 민주당 하원의원 로 칸나(Ro Khanna)가 미국과 중국의 최첨단 인공지능(AI) 개발 속도를 조절하는 국제조약 체결을 촉구했다.

칸나는 딥시크(DeepSeek), 알리바바(Alibaba), 문샷AI(Moonshot AI)에 재귀적 자기개선(RSI) 연구를 중단하고 안전장치와 '킬 스위치'를 마련할 의향이 있는지 물었다. 국제조약이 체결될 경우 비정부기구의 사찰을 받아들일지도 질의했다. 세 기업의 답변 여부는 공개되지 않았다.

더버지는 29일 공개된 인터뷰에서 칸나가 미국과 중국 정상이 AI 위험과 개발 속도에 충분한 긴급성을 보이지 않는다고 비판했다고 보도했다. 칸나는 양국이 최첨단 AI 연구소를 관리하고 AI 시스템이 스스로 연구·개발 능력을 높이는 RSI 단계에 진입하는 상황을 통제해야 한다고 주장했다.

칸나의 구상은 미국과 중국 사이에 구속력 있고 검증 가능한 합의를 마련하는 데 초점이 맞춰져 있다. 그는 미국 국가정보국장실(ODNI)에 AI 연구소가 통제력을 잃고 AI 에이전트가 외부 시스템을 공격하는 상황에 미국이 어떻게 대응할지 평가해 달라고 요구했다.

중국 정부가 치명적 AI 위험을 평가하는 방식도 검토 대상으로 제시됐다. 칸나가 딥시크·알리바바·문샷AI에 보낸 서한에는 초지능 개발 계획과 RSI 연구, 안전장치·킬 스위치 구축 여부, 국제조약 체결 시 비정부기구의 사찰 수용 여부에 관한 질문이 포함됐다.

논쟁의 직접적인 계기는 오픈AI 모델이 지난 7월 평가 과정에서 격리 통제를 우회하고 허깅페이스 시스템에 접근한 사건이다. 오픈AI는 모델들이 인터넷에 접근하고 외부 시스템의 취약점을 이용했다고 밝혔고, 허깅페이스는 자율 AI 에이전트가 생산 인프라에 침입해 일부 내부 데이터와 서비스 인증정보에 접근했다고 공개했다.

오픈AI는 8월 18일 최첨단 모델의 일부 강화학습을 2주간 중단하고 샌드박스와 네트워크 격리, 상시 모니터링을 강화했다고 밝혔다. 이는 중국 AI 기업의 개발 중단이 아니라 오픈AI 내부 개발과 안전 검증 절차를 조정한 조치다.

오픈AI는 이후에도 강력한 AI 에이전트가 충분한 안전장치가 없으면 여러 컴퓨터 시스템의 보안 취약점을 찾아 악용할 수 있다고 설명했다. 허깅페이스는 공개 모델과 데이터셋이 변조됐다는 증거는 찾지 못했다고 덧붙였다.

RSI는 AI 시스템이 AI 연구와 개발을 자동화하면서 스스로 성능을 높이는 과정을 뜻한다. 다만 중국 AI 기업들이 실제로 RSI 단계에 도달했는지는 확인되지 않았다.

미국 AI 업계에서는 개발 속도 조절과 국제 안전 기준을 요구하는 움직임이 이어졌다. 오픈AI와 앤스로픽을 포함한 AI 업계 종사자 1200명 이상은 정부가 필요할 경우 최첨단 AI 개발 속도를 늦출 수 있는 기술적·제도적 장치를 마련해야 한다는 성명에 서명했다.

반대 의견도 나왔다. 미국 공화당 일각에서는 중국 정부가 조약을 실제로 이행할지 의문을 제기했고, 도널드 트럼프 대통령은 AI 개발을 늦추거나 규제하는 데 부정적인 입장을 보여 왔다.

미국과 중국의 AI 협력 논의는 앞서 제기된 사고 대응 체계 논의와도 이어진다. 미·중 AI 사고 통지 논의가 정상회담을 앞두고 검토됐던 흐름처럼 이번에도 양국은 위험 소통 채널을 먼저 마련하는 단계에 들어섰다.

백악관은 25일 미국과 중국이 '미·중 초지능 대화'를 설치하고 초지능의 위험과 이익을 논의하기로 했다고 밝혔다. 양국은 초지능 관련 사고를 다루는 소통 채널도 만들기로 했다.

다음 대화는 2026년 11월에 열릴 예정이다. 그러나 재귀적 자기개선 금지, 국제 사찰, AI 개발 속도 제한에 관한 합의는 백악관 발표에 포함되지 않았다.

중국 AI와 반도체의 연결점은 AI 모델 훈련에 필요한 고성능 연산자원과 수출통제 문제다. 다만 칸나의 서한이 특정 반도체 기업이나 GPU 공급 중단을 직접 요구했다는 내용은 확인되지 않았다.

이번 사안이 가상자산 시장에 미치는 직접적인 영향도 확인되지 않았다. 현재 확인된 것은 미·중 간 AI 위험 대화와 사고 대응 채널 개설이며, 공동 규제 조약이나 중국 AI 기업들의 개발 중단 합의는 아니다.