캘리포니아, AI 안전법 강화 권고안 두 달 내 마련 추진

캘리포니아주가 인공지능(AI)의 잠재적 위험에 대응하기 위한 행정명령을 내렸다. 전문가 그룹은 두 달 안에 주정부의 AI 안전·보안법 강화 방안을 마련할 예정이다.

개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 18일(현지시간) 행정명령을 발표하고 “연방정부가 의미 있는 AI 감독과 책임 체계를 만들지 못한 것은 모든 미국인을 불안하게 해야 한다”고 말했다. 이어 “너무 늦기 전에 실질적이고 책임 있는 AI 감독을 서둘러 추진하겠다”고 밝혔다. 관련 내용은 CNBC가 보도했다.

행정명령에 따라 전문가 그룹은 캘리포니아주의 AI 안전·보안법을 강화하기 위한 권고안을 작성한다. 권고안에는 최첨단 AI 기업이 독립된 제3자에게 안전계획을 작성하도록 하는 방안과 비상 상황에서 AI 모델을 중단할 수 있는 '킬 스위치'를 기업에 요구하는 방안이 포함될 수 있다.

이번 조치는 미국 연방정부와 의회의 대응이 지연되는 가운데 나왔다. CNBC는 의회가 2026년 중간선거 전 AI 위험과 관련한 의미 있는 입법을 추진하기 어려울 것으로 보인다고 보도했다.

도널드 트럼프 미국 대통령은 AI 안전 우려를 '사기'라고 표현하며 규제 요구에 거리를 둬왔다. 반면 민주당 인사들을 중심으로는 AI 기술의 빠른 발전에 맞춰 더 강한 안전장치를 마련해야 한다는 요구가 이어지고 있다.

AI 개발 기업 내부에서도 안전 논의가 확산하고 있다. 앤트로픽 연구원이 이달 초 회사를 떠나 AI가 인류의 존립을 위협할 수 있다고 경고한 뒤 워싱턴에서는 AI 위험과 규제 장치를 둘러싼 논의가 다시 커졌다.

뉴섬 주지사를 비롯해 2028년 민주당 대선 후보로 거론되는 인사들은 연방 차원의 AI 감독 강화를 요구하고 있다. 다만 뉴섬 주지사는 아직 대선 출마를 공식 선언하지 않았으며 출마 가능성을 검토하고 있다고 밝혀왔다.

캘리포니아주는 최근 AI 규제 체계도 보강했다. 뉴섬 주지사는 이달 초 제3자 AI 감사기관의 운영 틀을 마련하는 법안에 서명했다고 설명했다. 캘리포니아 주지사실은 해당 조치가 AI 시스템의 투명성과 책임성을 높이기 위한 것이라고 밝혔다.

제3자 감사는 AI 개발사가 자체 평가만 수행하는 데서 벗어나 독립된 기관이 안전성과 법 준수 여부를 점검하는 방식이다. 이번 행정명령은 이런 외부 평가 체계를 최첨단 AI 기업의 안전계획과 비상 대응 절차까지 확대할 수 있다는 점에서 기존 규제 논의를 이어간다.

뉴섬 주지사는 캘리포니아의 규제 체계를 전국 기준으로 삼아야 한다고 주장했다. 그는 “캘리포니아는 이미 국가적 모델을 만들었고, 우리의 정책이 전국적 기준선이 돼야 한다”고 말했다.

이번 행정명령은 우선 전문가 권고안을 마련하는 단계다. 실제 법률 개정이나 기업 의무로 이어지려면 권고안 작성 이후 추가 입법과 행정 절차가 필요하다.

뉴섬 주지사의 임기는 2027년 1월 4일 끝난다. 캘리포니아주는 두 달 안에 AI 안전·보안법 강화 권고안을 마련할 예정이다.