AI 규제법안 둘러싸고 실리콘밸리 갈등

캘리포니아주에서 인공지능(AI) 안전성 검증 의무화하는 법안을 놓고 AI 업계 선구자들 간 갈등이 격화되고 있다.

27일(현지시간) 야후 파이낸스에 따르면, 미국 캘리포니아주에서 처음으로 AI 규제 법안이 통과를 앞두고 있어 AI 선구자들 간 내분을 야기하고 있다. 이 법안은 AI 모델 개발에 1억 달러 이상 투자하는 기업에 더 많은 책임을 부과하는 내용을 담고 있다.

SB 1047로 알려진 이 AI 안전 법안은 안전성 테스트 실시, 안전장치 구현, 심각한 피해를 유발하는 AI 모델 개발자에 대한 검찰 조치 허용 등의 요구사항을 포함한다. 기업들은 제3자 감사에 동의하고 언제든 기술을 중단할 수 있는 킬 스위치를 구현해야 한다. 또한 내부 고발자 보호 조항도 제안했다.

법안 공동 발의자인 스콧 위너(Scott Wiener) 캘리포니아주 상원의원은 일부 반대자들이 주 법안 통과를 막기 위해 "공포를 조장하고 있다"고 비난했다. 위너 의원은 "반대 측의 많은 드라마틱하고 과장된 발언과 허위진술이 있었다"며 "대형 연구소들은 대규모 모델에 대한 안전성 평가를 수행하겠다고 반복적으로 강력히 약속했고, 이 법안은 그것을 요구하는 것"이라고 말했다.

이 법안은 주 상원을 통과했으며 이번 주 말까지 주 하원에서 표결이 예정돼 있다. 여러 차례 수정돼 상원 최종 표결을 다시 거칠 예정이다. 통과되면 개빈 뉴섬(Gavin Newsom) 주지사의 서명을 받게 된다. 뉴섬 주지사는 아직 입장을 밝히지 않았다.

샌프란시스코를 대표하는 위너 의원은 수요일 화상 기자회견을 열고 법안 지지자들과 만났다. 참석자 중에는 'AI의 대부' 중 한 명으로 알려진 요슈아 벤지오(Yoshua Bengio), AI 안전 센터(Center for AI Safety) 이사 댄 헨드릭스(Dan Hendrycks), 경제안보 캘리포니아(Economic Security California) 이사 테리 올레(Teri Olle), 인코드 저스티스(Encode Justice)의 정치 담당 부사장 서니 간디(Sunny Gandhi), AI 스타트업 아바(Ava)의 CEO 티보 뒤슈맹(Thibault Duchemin) 등이 있었다.

위너 의원은 SB 1047을 "합리적"이고 "가벼운 수준"이라고 칭하며 메타(Meta)의 AI 모델 라마(Llama)를 언급했다. 그는 "메타는 이미 이 테스트를 수행하기로 약속했다"고 주장하며, 이 법안으로 인해 회사가 모델의 오픈소스화를 중단하지는 않을 것이라고 했다.

위너 의원은 야후 파이낸스와의 인터뷰에서 "하원 의원들에게 이 법안이 지지할 가치가 있다는 점을 설득하기 위해 열심히 노력하고 있다. 하원 본회의를 통과할 길은 확실히 있다"고 말했다. 그는 또 "주지사는 내 생각과 매우 일치하는 발언을 했다. 여기에 규제가 적절할 수 있으며 혁신도 함께 촉진하고 싶다는 것"이라고 덧붙였다.

월요일 밤, 대규모 AI 모델 회사 xAI를 소유한 일론 머스크(Elon Musk)가 이 법안을 지지하고 나섰다. 그는 X에 "이는 어려운 결정이고 일부 사람들을 화나게 할 것이지만, 모든 것을 고려했을 때 캘리포니아는 아마도 SB 1047 AI 안전 법안을 통과시켜야 할 것 같다. 20년 넘게 나는 우리가 공공에 잠재적 위험이 될 수 있는 모든 제품/기술을 규제하는 것처럼 AI 규제를 옹호해 왔다"고 썼다.

지난주 앤트로픽(Anthropic)은 뉴섬 주지사에게 공개 서한을 보내 수정된 법안에 대한 신중한 지지를 표명했다. 서한에서 회사는 변경 사항을 인정하며 "법안이 상당히 개선돼 이제는 그 이점이 비용보다 클 것으로 믿는다"고 했다. 앤트로픽의 공동 창업자 잭 클라크(Jack Clark)는 X에서 이 서한을 공유하며 "이는 지지 표명은 아니다"라고 언급했다.

수정된 법안에서는 프론티어 모델을 감시할 '프론티어 모델 부서' 창설 조항이 삭제됐다. 또한 모델에 대한 거짓말에 대한 형사상 위증죄도 삭제되고 대신 기존 법률에 의존할 예정이다.

위너 의원에게 보낸 서한에서 오픈AI의 최고전략책임자 제이슨 권(Jason Kwon)은 회사가 이 법안의 일부 조항을 지지하지만 AI 규제는 연방 정부가 결정해야 한다고 썼다. 권은 "주법의 패치워크보다는 연방 정부가 주도하는 AI 정책이 혁신을 촉진하고 미국이 글로벌 표준 개발을 주도할 수 있는 위치에 설 수 있게 할 것"이라고 했다.

그러나 오픈AI의 전직 연구원인 대니얼 코코타일로(Daniel Kokotajlo)와 윌리엄 손더스(William Saunders)는 오픈AI의 반대 결정에 실망했다고 말했다. 그들은 지난주 뉴섬 주지사에게 보낸 서한에서 "우리의 전 상사인 샘 알트먼(Sam Altman)은 반복적으로 AI 규제를 요구했다. 이제 실제 규제가 논의되고 있는데 그가 반대하고 있다"고 썼다.

구글(Google), 메타(Meta), 안드레센 호로위츠(Andreessen Horowitz)도 이 법안이 혁신과 연구를 위협한다고 주장하는 대표적인 기업들이다. 일부는 이 법안이 캘리포니아를 불리한 위치에 놓고 실리콘밸리에 기반을 둔 AI 기업들을 잃을 수 있다고 우려한다.

SB 1047은 업계 유명 인사들의 비판도 받고 있다. 'AI의 대모'로 알려진 페이페이 리(Fei-Fei Li) 박사이자 스탠포드 인간중심 AI 연구소(Stanford Institute for Human-Centered Artificial Intelligence) 공동 소장은 이달 초 포춘(Fortune)지에 기고한 글에서 이 법안의 처벌과 제한이 혁신에 "의도하지 않은 결과"를 초래할 것이라고 썼다.

리 박사는 "SB 1047은 우리의 신생 AI 생태계, 특히 오늘날의 기술 대기업들에 비해 이미 불리한 위치에 있는 부분들, 즉 공공 부문과 학계, '작은 기술'에 해를 끼칠 것"이라고 말했다.

위너 의원은 일부 민주당 동료들의 반대에도 직면하고 있다. 낸시 펠로시(Nancy Pelosi) 전 하원의장은 이 법안을 비판하며 "의도는 좋지만 정보가 부족하다"고 평했다. 로 카나(Ro Khanna), 조 로프그렌(Zoe Lofgren), 애나 G. 에쇼(Anna G. Eshoo), 스콧 피터스(Scott Peters), 토니 카르데나스(Tony Cárdenas), 아미 베라(Ami Bera), 나넷 디아즈 바라간(Nanette Diaz Barragan), 루 코레아(Lou Correa) 등 8명의 캘리포니아 하원의원들도 뉴섬 주지사에게 이 법안에 대한 거부권 행사를 촉구하고 있다.

위너 의원은 연방 정부가 강력한 AI 안전 규제로 SB 1047을 선점하는 것을 환영한다고 말했다. 그는 "의회는 기술 정책과 관련해 완전히 마비돼 왔다. 의회에는 그렇게 하려는 좋은 사람들이 있지만 전체적으로 기관은 필요한 방식으로 행동하지 않았다"고 했다.

캘리포니아 의원들은 새롭게 등장한 기술을 규제하기 위한 50개의 AI 관련 법안을 발의했다. 현재 AI 개발자들에게 가이드라인을 제시하는 연방법은 없다. SB 1047이 통과돼 법으로 서명되면 미국 최초의 실질적인 AI 규제가 될 수 있다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기