英, 틱톡·스냅챗 등과 AI발 아동 학대 콘텐츠 반대 공동 성명 발표

영국이 틱톡과 스냅챗을 포함한 주요 소셜 플랫폼, 인공지능(AI) 기업, 정부 및 비정부기구(NGO)들과 함께 AI가 생성한 아동 학대 콘텐츠에 대해 반대하는 공동 성명서를 30일(현지시간) 발표했다.

여기에는 욕설이 담긴 콘텐츠 등이 포함됐으며 한국과 미국, 호주, 독일, 이탈리아 정부 등 27개 국가들도 서명에 동참했다.

성명서는 "AI가 온라인 아동 성학대 위협을 해결할 수 있는 '엄청난 기회'를 제공하기도 하지만, 역으로 콘텐츠 생성에도 활용될 수 있다"며 다크웹 포럼 관련 우려를 드러냈다.

인터넷워치재단의 자료에 따르면 다크웹 포럼에서 한 달 간 공유된 1만1108개의 AI 생성 이미지 중 3분의 1에 가까운 2978개가 아동의 성적 학대와 관련된 내용인 것으로 나타났다.

영국 정부는 "이를 해결하기 위해서는 AI 기술활용으로 인해 발생하는 문제점을 제대로 이해하고 행동해야 한다"며 이에 대한 관리와 투명성 제고를 위한 정책 수립을 발표했다.

영국은 이번 주 AI 안전성 관련 글로벌 정상회의 개최를 앞두고 있으며, 미국 역시 최근 관련 소송이 화제가 되며 AI 규제에 적극적으로 움직이고 있다.

앞서 지난 26일 미국에서는 34개 주가 어린이 인권 및 안전 문제로 페이스북과 인스타그램 관련해 모회사 메타를 기소한 바 있다.

한편 AI는 아동학대 뿐 아니라 암호화폐 시장과도 밀접한 관계를 갖고 있다고 알려졌다.

지난 27일에는 미국의 AI 행정명령을 앞두고 "AI가 비트코인 채굴과 직결되는만큼 미국 내 AI에 대한 전반적인 규제 및 정부 보고가 의무화될 경우 암호화폐 시장도 타격을 입을 수 있다"는 분석이 제기됐다.

해당 행정명령은 30일 공식적으로 발표됐다.

[email protected]