메타 감독위, 고위험 AI 라벨·추천 제한 권고

메타 감독위원회가 고위험 인공지능(AI) 콘텐츠에 라벨을 붙이고 추천 노출을 줄이거나 삭제하는 단계적 대응을 메타($META)에 권고했다. AI로 제작된 콘텐츠라는 이유만으로 일괄 삭제하기보다 위험도와 실제 피해 가능성에 따라 조치해야 한다는 취지다.

메타 감독위원회는 지난 3월 이스라엘·이란 충돌과 관련한 AI 조작 영상을 검토했다. 해당 영상은 이스라엘 하이파 지역에 미사일 공격이 발생한 것처럼 꾸며졌고 70만회 이상 조회됐다. 이용자 6명이 신고했지만 메타는 이를 검토하거나 AI 생성물 표시를 붙이지 않았다.

위원회는 해당 콘텐츠가 임박한 물리적 폭력이나 위해를 초래할 가능성이 낮아 삭제 기준에는 미치지 않았다고 판단했다. 다만 중요한 사안과 관련해 대중을 오도할 위험이 컸던 만큼 '고위험 AI' 라벨을 붙였어야 한다고 결론 내렸다. 관련 판단과 권고는 3월 10일 공개된 메타 감독위원회 결정문에 담겼다.

위원회는 고위험 AI 라벨만으로는 확산을 막기 어렵다고 봤다. 일부 위원은 중요한 사안에서 이용자를 속일 수 있는 콘텐츠라면 라벨과 함께 추천 노출을 낮추거나 추천 영역에서 제외해야 한다고 제안했다. 피해 가능성이 더 큰 경우에는 플랫폼에서 제거하는 조치도 필요하다고 밝혔다.

권고안에는 AI 생성 콘텐츠를 허위정보 정책과 분리해 다루는 별도 커뮤니티 기준을 마련하는 방안이 포함됐다. 메타 AI로 제작된 콘텐츠에는 출처 정보와 보이지 않는 워터마크를 넣고, 콘텐츠의 생성·편집 이력을 확인할 수 있는 C2PA 표준도 확대 적용하도록 했다.

AI 콘텐츠를 자동으로 식별하는 기술과 오디오·영상·이미지를 아우르는 탐지 체계도 강화해야 한다고 제안했다. 이용자가 AI 사용 사실을 공개하지 않았을 때 적용되는 제재 기준과 추천 제한 등 후속 조치도 명확히 공개하라고 요구했다.

메타는 별도의 AI 생성 콘텐츠 커뮤니티 기준을 만들라는 권고를 받아들이지 않았다. 메타 감독위원회는 5월 공개 글에서 메타가 일부 권고를 부분적으로 시행했으며 콘텐츠 출처 정보, 탐지 도구, 워터마크 강화를 검토하고 있다고 밝혔다. '고위험' 및 '고위험 AI' 라벨 적용 확대와 AI 사용 미공개에 대한 제재 기준은 실행 가능성을 검토 중이라고 설명했다.

이번 권고는 플랫폼의 AI 콘텐츠 표시 정책이 라벨링과 추천 제한을 함께 다루는 방향으로 이동하고 있다는 점을 보여준다. 메타가 검토 중인 세부 조치와 적용 일정은 추가 공개가 필요하다.