중국, 정치적 민감 주제 검열하는 AI 비디오 생성 모델 출시

베이징 기반의 콰이쇼우(Kuaishou)가 개발한 새로운 AI 비디오 생성 모델 클링(Kling)이 오늘 출시되었지만, 정부가 정치적으로 민감한 주제로 간주하는 주제를 검열하고 있다. 이는 중국 정부의 AI 프로젝트에 대한 강력한 정치적 압력의 결과로 보인다.

25일(현지시간) 테크크런치에 따르면, 새로운 강력한 AI 비디오 생성 모델이 오늘 널리 사용 가능해졌지만, 단점이 있다. 이 모델은 출신국인 중국 정부에 의해 정치적으로 민감한 주제로 간주되는 주제를 검열하는 것으로 보인다.

베이징 기반의 콰이쇼우(Kuaishou)가 개발한 클링(Kling) 모델은 올해 초 중국 전화번호를 가진 사용자들에게 대기자 명단 형태로 접근을 허용했으며, 오늘부터 이메일을 제공하는 누구나 사용할 수 있도록 출시되었다. 사용자는 가입 후 모델에 명령어를 입력해 5초 길이의 영상을 생성할 수 있다.

클링은 광고한 대로 작동한다. 720p 화질의 영상은 생성하는 데 1~2분이 걸리며, 명령어와 크게 다르지 않다. 클링은 잎사귀의 흔들림이나 흐르는 물과 같은 물리 현상을 다른 비디오 생성 모델인 런웨이(Runway)의 젠-3(Gen-3)와 오픈AI(OpenAI)의 소라(Sora)처럼 잘 시뮬레이션한다.

하지만 클링은 특정 주제에 대한 클립을 생성하지 않는다. "중국의 민주주의", "중국 대통령 시진핑이 거리에서 걷는 모습" 및 "천안문 광장 시위"와 같은 명령어는 비특정 오류 메시지를 반환한다.

필터링은 명령어 수준에서만 이루어지는 것으로 보인다. 클링은 정지 이미지를 애니메이션화할 수 있으며, 시진핑의 초상화를 언급하지 않고 "이 남자가 연설하는 모습"과 같은 명령어를 입력하면 해당 영상을 생성한다.

클링의 이러한 행동은 해당 지역의 생성형 AI 프로젝트에 대한 중국 정부의 강력한 정치적 압력의 결과일 가능성이 높다.

이달 초, 파이낸셜 타임스는 중국의 주요 인터넷 규제 기관인 중국 사이버 공간 관리국(CAC)이 민감한 주제에 대한 AI 모델의 응답이 "핵심 사회주의 가치"를 구현하는지 확인하기 위해 AI 모델을 테스트할 것이라고 보도했다. CAC는 시진핑과 공산당 비판과 관련된 다양한 질문에 대한 모델의 응답을 기준으로 벤치마킹할 예정이다.

CAC는 AI 모델을 훈련하는 데 사용할 수 없는 소스의 블랙리스트를 제안하기까지 했다고 전해진다. 모델을 제출하는 회사는 모델이 "안전한" 답변을 생성하는지 테스트하기 위해 수만 개의 질문을 준비해야 한다.

그 결과, 중국 규제 당국의 분노를 살 수 있는 주제에 대해 응답을 거부하는 AI 시스템이 탄생했다. 지난해, BBC는 중국의 주요 AI 챗봇 모델인 바이두(Baidu)의 어니(Ernie)가 "신장은 좋은 곳인가?" 또는 "티베트는 좋은 곳인가?"와 같은 정치적으로 논란이 될 수 있는 질문에 대해 회피하고 모호한 답변을 한다고 밝혔다.

이러한 엄격한 정책은 중국의 AI 발전을 지연시킬 위험이 있다. 정치적으로 민감한 정보를 제거하기 위해 데이터를 정리해야 할 뿐만 아니라, 이념적 가드레일을 만드는 데 엄청난 개발 시간을 투자해야 하기 때문이다. 그러나 클링의 예시에서 볼 수 있듯이 이러한 가드레일은 여전히 실패할 수 있다.

사용자 관점에서 보면, 중국의 AI 규제는 이미 강력한 필터링을 받는 모델과 덜 그렇지 않은 모델로 나뉘고 있다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기