일론 머스크, 조작된 해리스 동영상 공유로 AI 위험성 드러내

부통령 카말라 해리스(Kamala Harris)의 목소리를 흉내낸 조작된 동영상이 선거일을 약 3개월 앞두고 인공지능의 위험성을 드러내며 혼란을 초래하고 있다. 이 동영상은 일론 머스크(Elon Musk)가 X 플랫폼에 공유하면서 주목받았으며, 원래 패러디로 출시되었음을 명시하지 않았다.

29일(현지시간) AP통신에 따르면, 부통령 카말라 해리스(Kamala Harris)가 하지 않은 말을 한 것처럼 흉내 낸 조작된 동영상이 선거일을 약 3개월 앞두고 인공지능이 얼마나 오도할 수 있는지에 대한 우려를 제기하고 있다.

이 동영상은 기술 억만장자 일론 머스크(Elon Musk)가 금요일 저녁 자신의 소셜 미디어 플랫폼 X에 이를 패러디로 처음 출시된 것임을 명시하지 않고 공유한 후 주목을 받았다.

이 동영상은 해리스가 지난주에 발표한 실제 광고와 많은 동일한 시각적 요소를 사용하지만, 음성을 해리스의 목소리를 설득력 있게 흉내 낸 다른 음성으로 교체했다.

동영상에서 가짜 음성은 “나, 카말라 해리스는 조 바이든이 토론에서 그의 노쇠함을 드러냈기 때문에 대통령 민주당 후보입니다”라고 말한다. 이 음성은 해리스가 여성과 유색인종이기 때문에 “다양성 채용”이며, “국가 운영에 대해 아무것도 모른다”고 주장한다. 이 동영상은 “해리스 대통령 후보” 브랜드를 유지하고 있다. 또한 해리스의 과거 실제 클립도 일부 포함되어 있다.

해리스 캠페인 대변인 미아 에렌버그(Mia Ehrenberg)는 AP 통신에 보낸 이메일에서 “미국 국민은 일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말이 아닌 부통령 해리스가 제공하는 진정한 자유, 기회 및 안보를 원한다고 믿는다”고 말했다.

광범위하게 공유된 이 동영상은 AI로 생성된 생생한 이미지, 동영상 또는 음성 클립이 정치적 풍자와 오도를 위해 사용되면서 선거가 다가옴에 따라 어떻게 오용될 수 있는지를 보여주는 사례이다. 이는 고품질 AI 도구가 훨씬 더 접근 가능해짐에 따라 이러한 도구의 사용을 규제하기 위한 연방 차원의 주요 조치가 부족함을 드러내며, 정치에서 AI를 안내하는 규칙이 주와 소셜 미디어 플랫폼에 의해 대부분 결정되게 만들었다.

이 동영상은 또한 AI의 적절한 사용으로 간주되는 콘텐츠를 어떻게 처리할 것인지에 대한 질문을 제기한다. 특히 그것이 풍자 범주에 속하는 경우 더욱 그렇다.

원래 동영상을 게시한 유튜버 미스터 레이건(Mr. Reagan)은 유튜브와 X에서 조작된 동영상이 패러디임을 공개했다. 그러나 X 플랫폼에서 1억 2,300만 회 이상 조회된 머스크의 게시물은 "이것은 놀라운 일입니다"라는 웃는 이모티콘과 함께 캡션만 포함되어 있다.

X 사용자는 머스크의 게시물에서 원래 사용자의 게시물로 클릭하면 공개 내용을 볼 수 있지만, 머스크의 캡션은 이를 명시적으로 안내하지 않는다.

X의 "커뮤니티 노트" 기능 참여자 중 일부는 머스크의 게시물에 라벨을 붙일 것을 제안했지만, 일요일 오후까지 그러한 라벨은 추가되지 않았다. 일부 온라인 사용자는 머스크의 게시물이 "합성, 조작 또는 맥락에서 벗어난 미디어를 공유하여 사람들을 혼란시키거나 오도하는 것을 금지한다"는 X의 정책을 위반할 수 있는지 여부를 질문했다.

이 정책은 "유의미한 혼란을 초래하지 않는 한" 밈 및 풍자에 대한 예외를 두고 있다.

머스크는 이달 초 공화당 후보인 도널드 트럼프 전 대통령을 지지했다. 미스터 레이건과 머스크는 일요일 이메일 요청에 즉시 응답하지 않았다.

AI 생성 미디어를 전문으로 하는 두 명의 전문가가 가짜 광고의 오디오를 검토하고 그 중 대부분이 AI 기술을 사용해 생성되었음을 확인했다.

그 중 한 명인 캘리포니아 대학교 버클리 캠퍼스의 디지털 포렌식 전문가 하니 파리드(Hany Farid)는 이 동영상이 생성 AI와 딥페이크의 힘을 보여준다고 말했다.

"AI로 생성된 목소리는 매우 좋습니다." 그는 이메일에서 말했다. "대부분의 사람들이 해리스 부통령의 목소리라고 믿지 않겠지만, 목소리가 그녀의 목소리로 들릴 때 동영상은 더욱 강력해집니다."

그는 음성 복제 도구 및 기타 AI 도구를 대중에게 제공하는 생성 AI 회사들이 자신의 서비스가 사람이나 민주주의에 해를 끼치지 않도록 더 잘 관리해야 한다고 말했다.

공익 시민단체 퍼블릭 시티즌(Public Citizen)의 공동 대표 롭 와이스만(Rob Weissman)은 파리드와 의견이 다르며, 많은 사람들이 이 동영상에 속을 것이라고 생각한다고 말했다.

“저는 그것이 명백한 농담이라고 생각하지 않습니다.” 와이스만은 인터뷰에서 말했다. "저는 대부분의 사람들이 그것을 보고 농담이라고 생각하지 않을 것이라고 확신합니다. 품질이 뛰어나진 않지만 충분히 좋습니다. 그리고 기존의 해리스에 대한 주제를 반영하기 때문에 대부분의 사람들은 그것을 진짜로 믿을 것입니다."

와이스만은 그의 조직이 의회, 연방 기관 및 주 정부가 생성 AI를 규제하도록 촉구해왔다고 하며, 이 동영상이 "우리가 경고해온 유형의 사례"라고 말했다.

미국 및 다른 나라에서도 유권자들에게 오정보나 유머로 영향을 미치기 위해 다른 생성 AI 딥페이크가 사용된 적이 있다. 2023년 슬로바키아에서는 한 후보가 선거 조작 계획과 맥주 가격 인상 계획을 논의하는 가짜 음성 클립이 투표 며칠 전에 등장했다. 2022년 루이지애나에서는 한 정치 행동 위원회의 풍자 광고가 루이지애나 시장 후보의 얼굴을 고등학생으로 묘사하는 배우의 얼굴에 합성했다.

의회는 아직 정치에서 AI에 대한 법안을 통과시키지 않았으며, 연방 기관은 제한된 조치만을 취했기 때문에 대부분의 기존 미국 규제는 주에 맡겨져 있다. 국가주 의회 회의에 따르면 3분의 1 이상의 주가 캠페인 및 선거에서 AI 사용을 규제하는 자체 법률을 제정했다.

X 외에도 다른 소셜 미디어 회사들도 그들의 플랫폼에서 공유되는 합성 및 조작된 미디어에 관한 정책을 마련했다. 예를 들어 유튜브의 사용자들은 생성 인공지능을 사용하여 동영상을 만들었는지 여부를 밝혀야 하며 그렇지 않으면 정지될 수 있다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기