메타, AI 생성 음란 이미지 대응 정책 수정 요구 받아

김민준 기자

2024.07.26 (금) 17:37

메타, AI 생성 음란 이미지 대응 정책 수정 요구 받아 / 셔터스톡

메타의 준독립적인 감독 기구인 오버사이트 보드(Oversight Board)는 AI로 생성된 음란 이미지에 대한 정책을 개선할 것을 메타에 권고했다. 보드는 '비하적'이라는 용어를 '비동의적'으로 변경하고 해당 이미지를 '괴롭힘 및 괴롭힘' 섹션에서 '성적 착취 커뮤니티 표준' 섹션으로 옮기도록 권고했다.

26일(현지시간) 테크크런치에 따르면, 메타가 AI로 생성된 음란 이미지 처리 방식을 조사한 후, 오버사이트 보드는 회사에 이러한 이미지에 대한 정책을 개선할 것을 권고했다. 보드는 메타가 '비하적'이라는 용어를 '비동의적'으로 변경하고, 이러한 이미지를 '괴롭힘 및 괴롭힘' 섹션에서 '성적 착취 커뮤니티 표준' 섹션으로 옮길 것을 요구했다.

현재 메타의 AI 생성 음란 이미지에 대한 정책은 '비하적 성적 포토샵' 규칙에서 파생된 것으로, 괴롭힘 및 괴롭힘 섹션에 포함되어 있다. 보드는 메타에게 '포토샵'이라는 단어를 일반적인 조작된 미디어를 나타내는 용어로 대체할 것을 촉구했다.

또한, 메타는 비동의적 이미지가 '비상업적이거나 사적인 환경에서 제작된 경우' 이를 금지하고 있다. 보드는 이 조항이 AI로 생성되거나 비동의적으로 조작된 이미지를 제거하거나 금지하는 데 필수적이지 않아야 한다고 제안했다.

이러한 권고는 두 건의 고프로파일 사건이 발생한 후 나온 것이다. 이 사건들은 인스타그램과 페이스북에 게시된 공인들의 AI 생성 음란 이미지로 인해 메타가 곤경에 처한 사건들이다.

첫 번째 사건은 인도의 한 공인의 AI 생성 누드 이미지가 인스타그램에 게시된 경우다. 여러 사용자가 이 이미지를 신고했지만 메타는 이미지를 삭제하지 않았으며, 48시간 이내에 티켓을 닫고 추가 검토를 하지 않았다. 사용자가 이 결정을 항소했으나 티켓은 다시 닫혔다. 회사는 오버사이트 보드가 사건을 접수한 후에야 콘텐츠를 삭제하고 계정을 차단했다.

또 다른 AI 생성 이미지는 미국의 공인을 닮았으며 페이스북에 게시되었다. 메타는 미디어 보고서 덕분에 해당 이미지를 미디어 매칭 서비스(MMS) 저장소에 이미 보유하고 있었고, 다른 사용자가 페이스북에 업로드했을 때 신속히 삭제했다.

특히 메타는 오버사이트 보드의 압력으로 인도 공인의 이미지를 MMS 저장소에 추가했다. 회사는 해당 이슈에 대한 미디어 보고서가 없었기 때문에 이전에는 이미지가 저장소에 없었다고 보드에 설명했다.

오버사이트 보드는 "많은 딥페이크 음란 이미지 피해자들이 공인이 아니며 비동의적 묘사의 확산을 받아들이거나 모든 사례를 신고할 수밖에 없는 상황이 우려스럽다"고 밝혔다.

온라인 성폭력을 줄이기 위해 캠페인을 벌이는 인도 단체 브레이크스루 트러스트(Breakthrough Trust)는 이러한 문제와 메타의 정책이 문화적 함의를 가지고 있다고 지적했다. 오버사이트 보드에 제출된 의견서에서 브레이크스루는 비동의적 이미지가 종종 신원 도용 문제로 경시되고 있다고 언급했다.

브레이크스루의 미디어 책임자인 바르샤 차크라보티(Barsha Chakraborty)는 "피해자들은 경찰서나 법정에서 사건을 신고할 때 이차적 피해를 종종 겪는다. 한 번 인터넷에 올라가면 사진은 원본 플랫폼을 넘어 매우 빠르게 퍼지며, 원본 플랫폼에서 삭제하는 것만으로는 충분하지 않다"고 말했다.

차크라보티는 텍크런치와의 통화에서 사용자가 48시간 내에 자동으로 '해결됨'으로 표시된 보고서를 모르는 경우가 많으며, 메타는 모든 사례에 동일한 타임라인을 적용하지 않아야 한다고 제안했다. 또한, 회사는 이러한 문제에 대한 사용자 인식을 높이는 작업을 수행해야 한다고 했다.

메타의 남아시아 정책 팀에서 근무했던 플랫폼 정책 전문가 데비카 말릭(Devika Malik)은 올해 초 텍크런치에 "플랫폼은 비동의적 이미지를 제거하는 데 주로 사용자 보고에 의존하고 있으며, 이는 AI 생성 미디어를 다룰 때 신뢰할 만한 접근 방식이 아닐 수 있다"고 말했다.

델리 기반 싱크탱크 퀀텀 허브(The Quantum Hub, TQH)의 설립 파트너 아파라지타 바르티(Aparajita Bharti)는 "메타는 사용자가 콘텐츠를 신고할 때 더 많은 맥락을 제공할 수 있도록 허용해야 한다. 사용자가 메타의 정책 하에서 다양한 규칙 위반 범주에 대해 알지 못할 수 있기 때문이다"고 말했다.

바르티는 "메타가 최종 판결을 넘어 이러한 유형의 콘텐츠를 신고할 수 있는 유연하고 사용자 중심의 채널을 마련하길 바란다"고 덧붙였다.

오버사이트 보드의 관찰에 대한 응답으로 메타는 이러한 권고를 검토할 것이라고 밝혔다.