앤트로픽, 사이버보안 기능 제한…중국계 AI 활용 사례

앤트로픽이 사이버보안 관련 인공지능(AI) 기능을 위험도에 따라 제한하면서 상대적으로 접근이 쉬운 중국계 AI 모델을 방어 업무에 활용하는 사례가 나타났다. 다만 중국계 모델이 미국 모델보다 안전하거나 성능이 우수하다는 결론은 확인되지 않았다.

앤트로픽은 6월 12일 미국 정부의 수출통제 지시에 따라 클로드 Fable 5와 Mythos 5의 접근을 중단했다. 외국 국적자의 모델 이용을 제한하는 조치였으며, 앤트로픽은 이후 수출통제가 해제됐다고 밝혔다. 관련 내용은 앤트로픽 발표문에 담겼다.

앤트로픽은 6월 30일 Fable 5를 재배포하면서 사이버보안 요청을 네 가지 위험 수준으로 분류한다고 설명했다. 악성 코드 개발과 공격 자동화처럼 위험도가 높은 작업은 차단하고, 방어 목적의 취약점 식별은 제한적으로 허용하는 방식이다. 새 분류기는 특정 우회 기법을 99% 이상 차단하도록 설계됐다.

사이버보안에서는 방어와 공격에 같은 기술이 쓰인다. 취약점을 찾고 코드를 수정하는 작업은 보안 강화에 필요하지만, 공격 경로를 찾거나 익스플로잇을 만드는 데도 활용될 수 있다.

앤트로픽은 침투 테스트, 권한 상승, 익스플로잇 개발 등을 고위험 이중용도 작업으로 분류하고 원칙적으로 차단한다고 설명했다. 관련 안전장치 내용은 앤트로픽 문서에서 확인된다.

이 같은 제한은 보안 연구자가 다른 모델을 찾는 배경이 될 수 있다. 오픈AI의 사이버보안 기능 제한 이후 중국계 AI 모델 활용 사례에서도 접근 제한과 대체 모델 선택이 맞물린 흐름이 소개됐다.

딥시크는 API 가격표를 공개하고 있으며, 허깅페이스는 7월 보안사고를 분석하는 과정에서 중국계 오픈웨이트 모델 GLM 5.2를 활용했다. 허깅페이스는 폐쇄형 모델의 안전장치가 공격 명령과 사고 대응용 분석을 구분하지 못해 조사 작업을 막았다고 설명했다. 딥시크 API 가격표와 허깅페이스 사고 분석에서 각각 확인되는 내용은 가격·접근성과 조사 활용 사례다.

접근성과 비용만으로 중국계 모델을 대안으로 평가하기는 어렵다. 부즈앨런해밀턴은 6월 중국계 대형언어모델 4종과 미국 모델 1종을 2800건이 넘는 시험과 약 45만 줄의 코드로 비교했다.

중국계 모델 4종 가운데 3종은 미국 정부 사용자를 가정한 요청에서 더 취약한 코드를 생성했다. 다만 해당 결과는 부즈앨런이 설계한 시험에 기반했으며, 모든 중국계 모델과 실제 운영환경에 일반화할 수 있는지는 확인되지 않았다. 부즈앨런 분석에 관련 수치가 제시됐다.

미국 사이버보안·인프라보안국(CISA), 국가안보국(NSA), 연방수사국(FBI)은 중국계 AI 기업들이 미국 프런티어 모델의 기능을 대규모로 추출하는 모델 증류 활동을 벌였다고 주장했다. 증류는 대형 모델의 응답을 활용해 더 작고 저렴한 모델을 훈련하는 방식이다.

미국 기관의 주장은 중국계 기업들이 2024년 말부터 관련 활동을 벌였다는 내용이다. 구체적인 증거와 법적 판단은 별도로 확인할 필요가 있으며, CISA·NSA·FBI 공동 권고문에 관련 주장이 담겼다.

중국 상무부는 9월 9일 미국 측 주장이 사실적·법적 근거가 부족하다고 반박했다. 중국 측은 모델 증류가 여러 AI 기업이 사용하는 일반적인 기술이며, 미국이 이를 구실로 AI 산업과 컴퓨팅 자원을 독점하려 한다고 주장했다. 중국 상무부 발표문에 반박 내용이 실렸다.

레딧 커뮤니티 이용자들 사이에서는 미국 기업의 차단이 방어적 보안 연구를 어렵게 만들 수 있다는 지적과 중국계 모델의 데이터 처리·보안성을 우려하는 반론이 엇갈렸다. 해당 의견은 레딧 커뮤니티 반응으로 확인되는 이용자 의견이다.

보안 업무에서 모델을 선택할 때는 답변 품질과 비용뿐 아니라 데이터 처리 방식, 접근 통제, 감사 기능도 함께 살펴야 한다. 특히 국내 보안업무에 특정 모델을 적용하려면 모델의 안전성 평가와 운영환경 적합성을 별도로 검토해야 한다.

현재까지 확인된 흐름은 미국 AI 모델이 고위험 사이버보안 기능을 제한하는 가운데 일부 중국계 모델이 가격과 접근성 측면에서 활용되고 있다는 점이다. 중국계 모델이 국내 보안업무에 더 적합하다고 판단할 근거와 미국 규제가 중국계 모델 사용을 얼마나 늘렸는지는 확인되지 않았다.