캘리포니아 '킬스위치' 포함 AI 안전 규제법안 통과

미국 캘리포니아주 의회가 인공지능(AI) 안전 규제 법안을 통과시켰으며, 개빈 뉴섬(Gavin Newsom) 주지사의 서명 여부에 따라 최종 결정될 예정이다.

29일(현지시간) 로이터에 따르면, 캘리포니아주 의회는 29일 AI 안전 규제 법안(SB 1047)을 통과시켰다. 이 법안은 한 번의 절차적 투표를 더 거친 뒤 뉴섬 주지사에게 넘겨져 9월 30일까지 서명 또는 거부권 행사 여부가 결정된다.

이 법안은 개발 비용이 1억 달러 이상이거나 특정 수준의 컴퓨팅 파워가 필요한 고급 AI 모델에 대한 안전성 테스트를 의무화하고 있다. 또한 AI 모델이 통제를 벗어날 경우 시스템을 종료할 수 있는 '킬스위치' 방안을 마련하도록 요구하고 있다.

법안은 또한 주 법무장관에게 개발자들이 규정을 준수하지 않을 경우, 특히 AI가 전력망과 같은 정부 시스템을 장악하는 등의 지속적인 위협이 있을 경우 소송을 제기할 수 있는 권한을 부여한다.

이 밖에도 개발자들은 제3자 감사관을 고용해 자사의 안전 관행을 평가하고 AI 남용에 대해 고발하는 내부 고발자들을 추가로 보호해야 한다.

법안 발의자인 스콧 위너(Scott Wiener) 민주당 주 상원의원은 AI 기술 발전이 통제 불능 상태가 되기 전에 대중을 보호하기 위해 법안이 필요하다고 주장했다.

그러나 AI 기업들은 이 법안이 AI 기업들을 캘리포니아주에서 떠나게 하고 혁신을 저해할 수 있다며 반대 입장을 보이고 있다. 낸시 펠로시(Nancy Pelosi) 하원의원 등 일부 민주당 의원들도 반대 의사를 표명했다. 반면 테슬라의 CEO이자 AI 기업 xAI를 운영하는 일론 머스크(Elon Musk)는 이 법안을 지지한다고 밝혔다.

구글(Google), 오픈AI(OpenAI), 메타(Meta Platforms) 등 주요 AI 기업들은 위너 의원에게 서한을 보내 우려를 표명했다. 아마존이 지원하는 앤트로픽(Anthropic)은 법안의 이점이 비용보다 클 것 같다면서도 일부 측면은 여전히 우려스럽거나 모호하다고 덧붙였다.

안드레센 호로위츠의 마틴 카사도(Martin Casado) 파트너는 투표 전 "이 법안에 대해 가장 광범위한 초당적 반대를 봤다"며 뉴섬 주지사가 거부권을 행사하기를 바란다고 말했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기