미국 의회가 AI 생성 음란물과 리벤지 포르노 문제에 대응하기 위한 '테이크 잇 다운 법안(Take It Down Act)'을 통과시키며, 온라인 딥페이크 콘텐츠에 대한 법적 대응에 본격적으로 나섰다. 이 법안은 비동의 성적 이미지나 영상을 생성, 게시할 경우 형사 처벌이 가능하도록 명시한 것이 핵심이다.
이 법안은 상원에 이어 하원에서도 찬성 409표, 반대 2표라는 압도적 지지로 통과됐으며, 이제 트럼프 대통령의 서명을 앞두고 있다. 트럼프 대통령은 지난 3월 “하원을 통과하면 기꺼이 서명할 것”이라며 “이 법을 나 자신에게도 적용할 것”이라고 밝힌 바 있다. 그는 “온라인상에서 나만큼 부당하게 다뤄지는 사람은 없다”고 덧붙였다.
법안 내용에 따르면, 소셜미디어 플랫폼이나 기타 웹사이트는 일반인이나 공인이 요청할 경우 48시간 이내 해당 딥페이크 콘텐츠를 삭제해야 한다. AI로 생성되거나 수정된 이미지와 영상도 이 범주에 포함된다. 이에 따라 플랫폼들은 강제적인 삭제 대응 시스템을 갖춰야 하며, 삭제 요청을 무시할 경우 법적 책임을 질 수 있다.
상원 상무위원회 위원장인 테드 크루즈 의원은 이 법에 대해 “리벤지 포르노와 딥페이크 악용으로부터 피해자들을 보호하는 데 있어 역사적 전환점”이라며 강한 지지 의사를 밝혔다. 그는 이 법이 “피해자들의 반복된 트라우마를 줄이고, 가해자에 대한 책임을 강화할 것”이라고 주장했다.
반면 공화당 소속의 토머스 매시 상원의원은 반대표를 던지며 "남용 소지가 크고, 의도치 않은 부작용이 우려된다"는 목소리를 냈다. 그는 “이 법은 미끄러운 경사면과 같은 위험한 전제 위에 서 있다”고 경고했다.
그간 미국과 여러 국가에서는 성적으로 조작된 딥페이크 콘텐츠의 급증에 대응하기 위한 입법 활동이 이어져 왔지만, 기술 발전 속도를 따라잡지 못해 실효성 있는 규제가 부족하다는 비판이 제기돼 왔다. 특히 유명인 및 청소년을 겨냥한 포르노형 딥페이크 콘텐츠가 급증하면서 소셜미디어 기업들이 지나치게 느슨한 대응을 하고 있다는 지적도 이어졌다.
이와 관련해 멜라니아 트럼프 여사는 이번 법을 “강력한 메시지”라고 평가하며, “특히 청소년 소녀들이 악의적인 온라인 콘텐츠로 인한 고통을 겪는 현실은 가슴 아프다”고 말했다.
한편, 디지털 권리 단체인 전자프런티어재단(EFF)은 이 법이 표현의 자유와 개인 프라이버시를 침해할 수 있다고 우려를 표명했다. EFF는 “이 법의 취지는 타당하지만, 공정 절차와 사용자 권리를 충분히 보장하지 않으면 오히려 검열과 남용을 초래할 위험이 있다”고 지적했다. 또한 이 단체는 종단 간 암호화가 적용된 개인 메시지 앱이나 클라우드 저장소도 이번 조치의 적용 대상이 될 수 있다고 경고했다.
AI로 생성된 콘텐츠의 확산 속도가 전례 없이 가파른 지금, 이번 '테이크 잇 다운 법안'은 미국 정부가 처음으로 강경한 입장을 드러낸 규제 사례라는 점에서 상징성이 크다. 그러나 이 법안이 실제로 악용을 막는 데 효과를 거둘 수 있을지, 기술과 법 사이의 균형이 어떻게 조율될지는 앞으로의 시행 과정에서 판가름 날 전망이다.