AI 딥페이크 누드 이미지 제재위해 마이크로소프트, StopNCII와 파트너십

마이크로소프트(Microsoft)가 생성형 AI로 만들어진 합성 누드 이미지 확산을 막기 위해 리벤지 포르노 피해자 지원 단체와 손을 잡았다.

6일(현지시간) 테크크런치에 따르면, 마이크로소프트는 리벤지 포르노 피해자 지원 단체인 StopNCII와 파트너십을 맺고 빙(Bing) 검색 엔진에서 합성 누드 이미지가 검색되는 것을 막는 도구를 제공한다고 발표했다.

StopNCII는 리벤지 포르노 피해자들이 실제 또는 합성된 노출 이미지의 디지털 지문을 자신의 기기에서 생성할 수 있게 해준다. 이후 StopNCII의 파트너사들이 이 디지털 지문(기술적으로 '해시'라고 알려진)을 사용해 자사 플랫폼에서 해당 이미지를 삭제한다. 마이크로소프트의 빙은 페이스북(Facebook), 인스타그램(Instagram), 스레드(Threads), 틱톡(TikTok), 스냅챗(Snapchat), 레딧(Reddit), 포르노허브(Pornhub), 온리팬스(OnlyFans)에 이어 StopNCII와 파트너십을 맺고 이 디지털 지문을 사용해 리벤지 포르노 확산을 막게 된다.

마이크로소프트는 블로그 포스트를 통해 8월 말까지 진행된 StopNCII 데이터베이스와의 시범 운영을 통해 빙 이미지 검색에서 반환되는 26만8000개의 노출 이미지에 대해 조치를 취했다고 밝혔다. 이전에는 직접 신고 도구를 제공했지만, 회사 측은 이것만으로는 충분하지 않다고 판단했다.

마이크로소프트는 "피해자, 전문가, 기타 이해관계자들로부터 사용자 신고만으로는 효과적으로 확장되지 않거나 검색을 통해 이미지에 접근할 수 있는 위험을 적절히 해결하지 못할 수 있다는 우려를 들었다"고 설명했다.

구글(Google)과 같은 훨씬 더 인기 있는 검색 엔진에서는 이 문제가 얼마나 더 심각할지 상상할 수 있다. 구글 검색은 검색 결과에서 노출 이미지를 신고하고 제거하는 자체 도구를 제공하고 있지만, 와이어드(Wired)의 조사에 따르면 StopNCII와 파트너십을 맺지 않은 것에 대해 전직 직원들과 피해자들로부터 비판을 받고 있다. 와이어드 보도에 따르면 2020년 이후 한국의 구글 사용자들은 원치 않는 성적 콘텐츠에 대해 17만 건의 검색 및 유튜브 링크를 신고했다.

AI 딥페이크 누드 문제는 이미 광범위하게 퍼져 있다. StopNCII의 도구는 18세 이상만 사용할 수 있지만, '탈의' 사이트들은 이미 전국의 고등학생들에게 문제를 일으키고 있다. 불행히도 미국에는 AI 딥페이크 포르노에 대한 법이 없어 누군가에게 책임을 물을 수 없어, 국가는 이 문제를 해결하기 위해 주법과 지방법의 패치워크 접근 방식에 의존하고 있다.

샌프란시스코 검찰은 8월 16개의 주요 '탈의' 사이트를 폐쇄하기 위한 소송을 제기했다고 발표했다. 와이어드가 만든 딥페이크 포르노법 추적기에 따르면, 23개 주가 비동의 딥페이크를 다루는 법을 통과시켰고, 9개 주는 제안을 거부했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기