AI 규제 강화 촉구… 페이페이 리 등 전문가 보고서 발표

미국 인공지능(AI) 연구의 선구자 페이페이 리가 공동 집필한 보고서가 AI 규제의 미래 위험 요인을 고려해야 한다는 점을 강조하며 정책 입안자들에게 경각심을 촉구하고 있다.

보고서는 '캘리포니아 AI 프런티어 모델 공동 정책 연구 그룹'이 작성한 41쪽 분량의 문서로, AI 기술의 위험 평가와 투명성 강화를 위한 규제 필요성을 상세히 다루고 있다. 이번 보고서는 지난해 개빈 뉴섬 캘리포니아 주지사가 AI 안전 법안(SB 1047)을 거부한 이후 나온 것으로, 기존 법안이 충분한 검토 없이 성급하게 추진됐다는 입장을 반영한 것이다.

리 교수와 함께 이 보고서를 공동 집필한 인물로는 카네기국제평화재단 회장 마리아노-플로렌티노 쿠엘라, UC 버클리 컴퓨팅 대학 학장 제니퍼 차이 등이 포함됐다. 보고서는 오픈AI, 구글, 앤트로픽 등 주요 AI 기업이 개발 중인 '프런티어 모델'의 투명성을 강화하고, AI 개발자들이 데이터 수집 방식과 보안 조치, 안전성 테스트 결과 등을 공개할 것을 요구하고 있다. 또한 AI 안전성에 대한 독립적인 제3자 평가 기준을 마련하고, 내부 고발자를 보호하는 제도를 도입해야 한다고 강조했다.

출판 전 보고서를 검토한 인물 중에는 AI 안전 전문가 요슈아 벤지오 및 데이터브릭스 공동 창업자 이온 스토이카가 포함됐다. 특히 스토이카는 AI 규제에 대한 지나친 개입에 우려를 표하며 SB 1047 법안 반대 입장을 밝혀왔다.

보고서는 AI가 사이버 공격 및 생물학적 무기 개발 등 잠재적 위협을 초래할 가능성에 대한 과학적 증거가 아직 명확하지 않다는 점을 지적했다. 하지만 향후 발생할 수 있는 위험을 간과해서는 안 되며, 규제는 현존하는 문제뿐 아니라 미래의 위험까지 고려해야 한다고 강조했다.

보고서는 AI 위험성을 핵폭탄과 비교하며, 직접 폭발을 경험하지 않아도 그 파괴력을 예측할 수 있듯이, AI의 위협 또한 사전에 평가하고 대비해야 한다고 주장했다. 이에 따라 법적 보호 장치를 마련해 AI 개발자 및 내부 고발자가 새로운 위험 요소를 안전하게 보고할 수 있도록 해야 한다고 덧붙였다.

이번 보고서는 최종본이 아닌 중간 검토 단계의 문서로, 공식적인 최종 보고서는 오는 6월 공개될 예정이다.

AI에 대한 투명성과 책임성을 요구하는 이 보고서는 전문가들로부터 긍정적인 반응을 얻고 있다. 미국 조지메이슨대 AI 연구원 딘 볼은 SB 1047 법안에 비판적이었던 인물로, 이번 보고서가 AI 산업의 바람직한 방향성을 제시하는 ‘유망한 조치’라고 평가했다. SB 1047 법안을 발의했던 캘리포니아 주 상원의원 스콧 위너 역시 이번 보고서가 AI 거버넌스를 논의할 중요한 발판이 될 것이라고 강조했다.