정보 검증 플랫폼, AI 시대 신뢰성 확보 핵심 기술로 부상

허위정보 확산과 AI 기술 발전으로 신뢰도가 위협받는 가운데, 블록체인 기반 정보 검증 플랫폼이 새로운 대안으로 떠올랐다.

19일(현지시간) 코인텔레그래프에 따르면, 최근 몇 년간 허위정보 차단을 명분으로 한 표현의 자유 검열 요구가 급증했다. 유럽연합(EU)은 디지털서비스법(Digital Services Act)으로 소셜미디어 검열을 시행했고, 브라질과 EU는 정치적 목소리 억압 실패를 이유로 X를 압박했다. 미국 연방대법원은 정부가 기술기업에 허위정보 삭제를 요구할 수 있도록 허용했다.

마크 저커버그(Mark Zuckerburg)는 팬데믹 기간 동안 백악관의 압박에 굴복한 것을 후회한다고 밝혔다. 팀 월츠(Tim Walz)는 "허위정보에 대한 표현의 자유는 보장되지 않는다"고 주장했다.

온라인 허위정보는 실제 문제지만 새로운 현상은 아니다. 20년 전 이라크 전쟁은 현재 광범위하게 부정된 대량살상무기 주장으로 정당화됐다. 1980년대 '사탄 공포' 시기에는 1만2000건이 넘는 신고 조사에서 아동 학대 사례가 단 한 건도 입증되지 않았다.

허위정보의 새로운 위험성은 AI 기술로 무장한 악의적 행위자들이 일반 사용자로 위장해 의도적으로 허위정보를 유포하는 데 있다. 조직적인 가짜 계정들이 합의된 것처럼 보이게 만들고 소수 의견을 주류인 것처럼 보이게 한다.

인기 소셜미디어 플랫폼은 폐쇄적 생태계로, 정보 출처나 주장의 신빙성을 평가하기 어렵다. 팔로워, 좋아요, 인증 상태 등 플랫폼이 선택한 정보만 노출된다. AI 기술이 발전하면서 초현실적인 합성 미디어가 모든 콘텐츠의 신뢰도를 떨어뜨린다.

정치인들의 신뢰도 역시 그들이 검열하려는 정보만큼이나 낮다. 정부에 대한 국민 신뢰도는 역사적 최저치에 가깝다. 가장 공격적인 검열 시도는 나중에 사실로 밝혀진 정보를 표적으로 삼았고, 정부가 지지한 주장은 반복적으로 신뢰를 잃었다.

다행히도 블록체인은 신뢰 기계다. 중앙화된 권위 대신 누구나 검사할 수 있는 개방적이고 검증 가능한 시스템을 제공한다. 모든 계정은 투명한 이력과 수치화된 평판을 가지고, 모든 콘텐츠는 출처를 추적할 수 있으며, 모든 편집이 영구적으로 기록된다.

블록체인은 강력한 새로운 형태의 검증을 가능하게 한다. 월드코인(WorldCoin)과 같은 도구는 사용자가 실제 인간임을 증명할 수 있게 하고, 유사한 기술로 거주지, 시민권, 전문가 자격 등을 검증할 수 있다. 영지식 증명은 개인정보 노출 없이 이러한 속성을 검증하게 할 수 있다.

콘텐츠 진위성 이니셔티브(Content Authenticity Initiative)는 어도비(Adobe), 뉴욕타임스(The New York Times), 트위터가 설립한 200개 이상 회원사 연합으로, 카메라와 콘텐츠 제작을 위한 디지털 공증 프로토콜을 개발하고 있다.

신뢰는 점점 더 희소한 자산이 되고 있다. 기관에 대한 신뢰가 약화되고 AI 생성 콘텐츠가 급증하며 중앙화된 플랫폼이 의심받으면서, 사용자들은 콘텐츠의 검증 가능성과 투명성을 요구할 것이다. 새로운 시스템은 기관의 권위가 아닌 암호화 증명을 기반으로 구축될 것이며, 콘텐츠 진위성 검증, 참여자 신원 확인, 제3자 도구와 분석이 진실 추구를 지원할 것이다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기