X(구 트위터) 인공지능 채팅봇의 선거 허위정보 확산 논란

소셜미디어 플랫폼 X가 5개 주 국무장관들의 경고 후 AI 채팅봇을 수정해 선거 관련 허위정보 확산을 방지하고 있다.

27일(현지시간) AP통신에 따르면, 미시간, 미네소타, 뉴멕시코, 펜실베이니아, 워싱턴 주의 고위 선거 관리들이 이달 초 일론 머스크(Elon Musk)에게 서한을 보내 플랫폼의 AI 채팅봇 그록(Grok)이 조 바이든(Joe Biden) 대통령의 2024년 대선 불출마 직후 주 투표 마감일에 대한 거짓 정보를 생성했다고 항의했다.

국무장관들은 채팅봇이 선거 관련 질문에 대해 전국 국무장관협회(National Association of Secretaries of State)가 운영하는 투표 정보 웹사이트 CanIVote.org로 사용자를 안내하도록 요청했다.

이제 채팅봇은 선거 관련 질문에 대한 답변을 나열하기 전에 "2024년 미국 선거에 대한 정확하고 최신 정보는 Vote.gov를 방문해 주세요"라고 말한다.

5개 주 국무장관들은 공동 성명에서 "두 웹사이트 모두 유권자들을 지역 선거 관리와 연결해주는 신뢰할 수 있는 자원"이라고 밝혔다.

그들은 "X가 플랫폼을 개선하기 위해 조치를 취한 것에 감사하며, 이 중요한 선거의 해에 사용자들이 신뢰할 수 있는 출처로부터 정확한 정보에 접근할 수 있도록 계속해서 개선을 해나가길 바란다"고 말했다.

그록은 X의 프리미엄 버전 구독자만 이용할 수 있다. 그러나 서한에 서명한 5개 주 국무장관들은 그록의 선거 관련 허위정보가 여러 소셜미디어 플랫폼에서 공유돼 수백만 명에게 도달했다고 말했다. 그록은 수정되기 전까지 10일 동안 계속해서 거짓 정보를 반복했다고 국무장관들은 전했다. 플랫폼 측은 논평 요청에 응하지 않았다.

공식 투표 웹사이트 링크를 홍보하는 이번 변경으로 그록이 선거와 관련된 오해의 소지가 있는 AI 생성 이미지를 만들어내는 능력이 해결되지는 않은 것으로 보인다. 사람들은 이 도구를 사용해 카말라 해리스(Kamala Harris) 부통령과 도널드 트럼프(Donald Trump) 전 대통령을 포함한 후보들의 가짜 이미지를 플랫폼에 대량으로 유포하고 있다.

그록은 작년 X 프리미엄 및 프리미엄 플러스 구독자를 위해 출시됐으며, 머스크는 이를 "대부분의 다른 AI 시스템이 거부하는 자극적인 질문에 답변할 수 있는 '반항적인' AI 채팅봇"이라고 홍보했다.

소셜미디어 플랫폼들은 선거를 포함한 허위정보 확산에 대한 역할로 인해 늘어나는 감시를 받고 있다. 서한은 또한 AI 제품, 특히 그록과 같은 대규모 언어 모델 기반 채팅봇의 경우 부정확성이 예상된다고 경고했다.

머스크가 2022년 트위터(Twitter)를 인수해 X로 개명한 이후, 감시 단체들은 플랫폼에서 증폭되는 혐오 발언과 허위정보의 급증, 그리고 콘텐츠를 중재하던 직원 감축에 대해 우려를 제기해왔다.

전문가들은 이러한 움직임이 2016년 미국 대선 이후 정치적 허위정보를 더 잘 퇴치하려는 소셜미디어 플랫폼들의 진전으로부터의 퇴보를 나타내며, 올해 11월 선거를 앞두고 허위정보 환경을 악화시킬 수 있다고 말한다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기