소셜미디어에서 AI가 야기하는 허위정보 위협

생성형 인공지능 시대에 소셜미디어에서 허위정보와 잘못된 정보에 대중이 더 쉽게 속을 가능성이 높아졌다.

4일(현지시간) 비즈니스 인사이더에 따르면, 소셜미디어 플랫폼은 허위정보와 잘못된 정보가 만연하는 곳이다. 주요 사건이 대중의 대화 주제가 될 때마다 디지털 거짓말이 빠르게 퍼지는 것은 거의 확실하다. COVID-19 팬데믹과 2016년 및 2020년 미국 대통령 선거를 생각해보라.

AI가 생성한 소위 딥페이크는 문제를 더욱 악화시키고 소셜미디어를 통해 허위정보와 잘못된 정보를 퍼뜨리기 쉽게 만들고 있다.

법률 전문가들은 비즈니스 인사이더(Business Insider)에 소셜미디어에서 허위정보와 잘못된 정보를 퇴치하는 유일한 방법은 새로운 연방법을 제정하거나 플랫폼 뒤에 있는 기술 회사들이 자발적으로 자체 규제를 강화하는 것이라고 말했다.

'AI는 단순히 단어가 아닌 비디오와 사진, 오디오 녹음으로 소셜미디어에서 허위정보를 퍼뜨릴 것이다'라고 미시간 대학교 법학부 교수이자 'Attack From Within: How Disinformation Is Sabotaging America'의 저자인 전 미국 변호사 바바라 맥케이드(Barbara McQuade)는 말했다.

맥케이드 교수는 '이 문제를 해결하기 위해 새로운 법이 필요하다. 왜냐하면 이것은 이전에 존재하지 않았던 새로운 기술이기 때문이다'라고 주장했다.

맥케이드 교수는 '사람들이 그 위험성과 위험을 이해하기 시작하는 인식의 시점에 도달할 수 있을지도 모른다'라고 말했다.

미국 국토안보부가 작성한 최근 연방 평가에서는 2024년 미국 대통령 선거에 대한 AI의 위협을 경고했다.

ABC 뉴스가 입수한 분석에 따르면 '2024년 선거 주기가 진행됨에 따라 생성형 AI 도구는 국내외 위협 행위자들에게 새로운 기회를 제공하여 발생하는 사건을 악화시키고, 선거 과정을 방해하거나 선거 인프라를 공격할 가능성이 높다'라고 한다.

소셜미디어 회사들은 미국 법에 따라 민사 책임으로부터 보호된다

소셜미디어는 태어난 지 거의 30년이 지난 지금까지 거의 규제를 받지 않았다. 미국에서는 메타(Meta), X, 틱톡(TikTok)과 같은 기술 거대 기업들이 1996년 통신 품위법 제230조(Section 230 of the Communications Decency Act of 1996)에 따라 사용자들이 게시한 콘텐츠와 회사의 콘텐츠 조정 관행과 관련하여 민사 책임으로부터 보호받고 있다.

맥케이드 교수는 '이 법은 그들이 법적 책임을 지지 않으며 면책된다고 말하고 있다'고 설명했다. '1996년에는 혁신과 투자를 촉진하는 것이 목표였으므로 타당했을 것이다. 그러나 거의 30년이 지난 지금, 우리는 이 규제되지 않은 공간의 부수적인 결과를 보고 있다'고 덧붙였다.

그렇다면 정부가 소셜미디어에서 허위정보와 잘못된 정보를 정면으로 다루는 데 어려움을 겪고 있는 이유는 무엇일까? 법률 전문가들에 따르면 이는 첫 번째 수정 헌법 문제, 빅테크(Big Tech)의 반발, 정치적 의지가 관련되어 있다.

코넬 대학교 법학부 교수이자 첫 번째 수정 헌법 클리닉 부소장인 가우타움 한스(Gautaum Hans)는 '법률을 제정하는 것은 어렵고, 허위정보와 잘못된 정보의 정의를 내리는 것도 어렵다. 적절한 개입이 무엇인지에 대한 합의도 어렵고, 첫 번째 수정 헌법 문제가 발생하지 않도록 무언가를 설계하는 것도 어렵다'고 말했다.

'말을 대상으로 하는 규제는 헌법적으로 매우 어려운 장벽이 있기 때문에 허위정보나 잘못된 정보를 첫 번째 수정 헌법에서 보호되지 않도록 정의해야 한다'고 한스 교수는 말했다.

한스 교수는 '정부 공무원이 보호된 발언을 규제하려는 시도로 오웰리안(Orwellian)으로 간주될 수 있는 무언가를 제안하는 것은 모든 입법자나 정부 공무원에게 일반적으로 두려움을 주는 일이라고 생각한다'고 말했다.

또한 한스 교수는 '허위정보의 존재가 특정 정치적 행위자들에게는 이익이 될 수 있다'고 언급했다.

한스 교수는 소셜미디어에서 허위정보와 잘못된 정보에 대한 해결책은 법의 영역보다는 기술 회사들 자체의 사적 관행을 통해 발견될 가능성이 더 높다고 믿고 있다.

'법률적 또는 규제적 개입의 헌법적 문제를 감안할 때, 이는 더 가능성이 높고 장기적으로 더 효과적일 것'이라고 그는 말했다.

제230조는 오랫동안 뜨거운 논쟁의 대상이었다

맥케이드 교수는 소셜미디어 회사들이 허위정보와 잘못된 정보와 싸우기 위해 자체 규제를 강화하도록 유도되어야 한다고 주장했다.

'소비자를 통해 공공의 압력을 가해 그들의 행동을 변화시키거나 연방 법률을 통해 그렇게 해야 한다고 생각한다'고 맥케이드 교수는 말했다.

맥케이드 교수는 특정 상황에서 소셜미디어 회사를 책임질 수 있도록 제230조를 수정할 것을 제안했다.

'소셜미디어와 온라인 콘텐츠를 규제하는 더 나은 방법은 첫 번째 수정 헌법 보호와 관련하여 매우 까다로운 콘텐츠보다는 절차를 살펴보는 것일 수 있다'고 전 연방 검사인 그녀는 말했다. '절차 규제는 알고리즘 공개와 같은 것들을 포함할 수 있다'고 덧붙였다.

'제230조가 특정 예방 조치를 취하지 않은 경우 소셜미디어 회사들이 금전적 손해 배상을 제공할 수 있도록 수정될 수 있다고 제안하고 있다'고 그녀는 말했다.

맥케이드 교수는 이러한 예방 조치는 알고리즘과 개인 데이터 사용에 대한 공개, AI 생성 자료에 라벨을 붙이는 것, 허위 정보를 증폭시키는 봇 제거와 관련될 수 있다고 말했다.

'따라서 소셜미디어 회사들이 특정 조건을 준수하지 못한 경우 법적 책임에 노출시켜 규제를 강제하는 방법이 될 것이다'라고 그녀는 말했다.

이는 법적으로 도전받게 될 것이며 '법이 유지될지 여부를 보기 위해 법원에 갈 것이다. 하지만 아마도 그것이 필요할 것이다'라고 맥케이드 교수는 말했다.

'정보는 특히 민주주의에서 매우 중요한 자원이다'라고 맥케이드 교수는 말했다. '허위정보가 좋은 정부의 장애물이 되는 경우, 모두가 동의해야 할 것 같다'고 덧붙였다.

제230조는 공화당과 민주당 정치인 모두로부터 강한 비판을 받아왔다.

도널드 트럼프 전 대통령과 다른 공화당원들은 이 법이 빅테크(Big Tech)에게 보수적 목소리를 검열할 수 있는 너무 많은 권한을 준다고 주장했으며, 조 바이든 대통령과 같은 민주당원들은 이 법이 혐오 발언과 싸우기에 충분하지 않다고 말했다.

작년에 월스트리트 저널 기고문에서 바이든 대통령은 제230조 개혁을 거듭 촉구했다.

바이든 대통령은 기고문에서 '빅테크(Big Tech)를 책임지도록 하려면 의회의 초당적 행동이 필요하다'고 썼다. '위원회를 만드는 것에 대한 많은 이야기를 들었다. 이제 행동으로 옮길 때다'라고 덧붙였다.

그러나 지난해 미국 대법원이 트위터와 구글의 테러 공격을 '지원하고 교사했다'는 소송에서 이들 기업 편에 서면서 빅테크(Big Tech)는 큰 승리를 거두었다.

보수적 판사들이 작성한 이 결정은 제230조에 대한 싸움에 개입하지 않았다.

대부분의 소셜미디어 회사들은 자체 허위정보 정책을 가지고 있다

메타(Meta), 틱톡(TikTok), X 등 많은 주요 소셜미디어 회사들은 허위정보와 잘못된 정보에 대처하기 위한 자체 정책을 가지고 있다.

예를 들어, 페이스북, 인스타그램, 스레드(Threads)를 소유한 메타(Meta)는 웹사이트에서 '즉각적인 신체적 해를 입힐 위험이 있는 경우 허위정보를 삭제한다'고 말한다.

메타는 '정치 과정의 기능에 직접적으로 기여할 가능성이 높은 콘텐츠와 특정 고도로 기만적인 조작된 미디어도 삭제한다'고 말한다.

메타는 '속임수와 바이럴 허위정보의 확산을 늦추는 데 중점을 두고 있으며' 사용자가 '사진 실사 비디오 또는 디지털로 생성 또는 변경된 현실감 있는 오디오'를 게시할 때마다 'AI-공개 도구'를 사용하여 이를 공개하도록 요구한다고 말한다. 이를 이행하지 않으면 처벌을 받을 수 있다.

메타는 '공공 중요 사안에 대해 사람들을 오도할 높은 위험이 있는 디지털 생성 또는 변경된 콘텐츠에 라벨을 추가할 수 있다'고 덧붙였다.

2024년 5월 메타의 '적대적 위협 보고서'에서는 '지금까지, 적대적 네트워크를 방해하는 우리의 능력을 저해할 새로운 생성형 AI 기반 전술은 발견되지 않았다'고 말했다.

틱톡(TikTok)은 플랫폼에서 '해로운 허위정보'를 허용하지 않으며 '의료, 기후 변화, 선거 허위정보뿐만 아니라 오해의 소지가 있는 AI 생성 콘텐츠, 음모 이론, 자연재해와 같은 공공 안전 문제와 같은 특정 유형의 허위정보에 대해 강력한 정책을 가지고 있다'고 말한다.

이전 트위터로 알려진 X는 웹사이트에서 사용자가 '사람들을 속이거나 혼란시키고 해를 입힐 수 있는 합성, 조작 또는 맥락을 벗어난 미디어(허위 미디어)를 공유해서는 안 된다'고 말한다.

X는 '추가 컨텍스트를 제공하여 사람들에게 미디어의 진위를 이해하도록 돕기 위해 허위 미디어가 포함된 게시물에 라벨을 추가할 수 있다'고 말한다.

그러나 이러한 정책만으로는 충분하지 않다.

올해 초, 테일러 스위프트의 AI 생성 그래픽 이미지가 X에서 바이럴 되면서 17시간 만에 삭제되기 전까지 4,500만 뷰를 기록했다.

일론 머스크가 소유한 X는 그 후 팝스타에 대한 검색을 차단했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기