오픈AI, 인공지능 안전법안 반대 주장 공개

김민준 기자

2024.08.22 (목) 10:40

오픈AI, 인공지능 안전법안 반대 주장 공개 / 셔터스톡

인공지능 기업 오픈AI(OpenAI)가 캘리포니아주의 AI 안전 규제 법안에 반대 입장을 밝혔다. 기업 혁신 저해와 연방 정부 차원의 규제 필요성을 주장했다.

22일(현지시간) 블룸버그에 따르면, 오픈AI가 캘리포니아주의 AI 안전 규제 법안에 반대한다는 입장을 공개했다. 이 법안은 AI 기업들에게 새로운 안전 요구사항을 부과하는 내용을 담고 있다.

샌프란시스코에 본사를 둔 오픈AI는 수요일 스콧 위너(Scott Wiener) 캘리포니아 주 상원의원 사무실에 보낸 서한에서 이 법안이 AI 산업의 혁신을 저해할 것이라고 주장했다. 또한 이 문제에 대한 규제는 주 정부가 아닌 연방 정부 차원에서 이뤄져야 한다고 강조했다.

위너 의원이 발의한 SB 1047 법안은 특정 규모와 비용 기준을 초과하는 대형 AI 모델을 개발하는 기업들에 대해 '상식적인 안전 기준'을 적용하는 것을 목표로 한다. 5월 주 상원을 통과한 이 법안은 AI 기업들에게 자사 모델이 '중대한 위험'을 초래하지 않도록 조치를 취할 것을 요구한다.

법안에 따르면 기업들은 AI 시스템을 종료할 수 있도록 보장하고, AI 모델이 대재앙을 일으키지 않도록 '합리적인 주의'를 기울여야 하며, 캘리포니아 법무장관에게 규정 준수 진술서를 제출해야 한다. 이러한 요구사항을 따르지 않을 경우 기업들은 소송을 당하고 민사상 처벌을 받을 수 있다.

그러나 이 법안은 주요 기술 기업, 스타트업, 벤처 캐피털로부터 강한 반대에 부딪혔다. 비평가들은 이 법안이 아직 초기 단계인 기술에 대한 과도한 규제라며 주내 기술 혁신을 저해할 수 있다고 지적했다. 일부는 이 법안으로 인해 AI 기업들이 캘리포니아를 떠날 수 있다는 우려를 제기했다.

오픈AI의 제이슨 권(Jason Kwon) 최고전략책임자는 서한에서 "AI 혁명은 이제 막 시작됐고, 캘리포니아의 AI 글로벌 리더로서의 독특한 지위가 주의 경제적 역동성을 견인하고 있다"며 "SB 1047은 그러한 성장을 위협하고 혁신 속도를 늦추며, 캘리포니아의 세계적 수준의 엔지니어와 기업가들이 다른 곳에서 더 큰 기회를 찾아 주를 떠나게 만들 것"이라고 주장했다.

오픈AI는 캘리포니아의 규제 환경의 불확실성에 대한 우려로 샌프란시스코 사무실 확장에 대한 논의를 보류했다고 한다.

위너 의원은 성명을 통해 제안된 법안을 옹호하며 "오픈AI의 서한은 법안의 어떤 조항도 비판하지 않는다"고 말했다. 또한 AI 인재가 주를 떠날 것이라는 주장은 "말이 되지 않는다"며 이 법은 사무실 위치와 관계없이 캘리포니아에서 사업을 하는 모든 기업에 적용될 것이라고 말했다.

위너 의원은 "요점은 SB 1047이 대형 AI 연구소들에게 이미 약속한 바를 이행하라고 요구하는 매우 합리적인 법안이라는 것"이라며 "SB 1047은 예측 가능한 AI 위험에 대해 잘 조정돼 있으며 제정될 자격이 있다"고 주장했다.

비평가들은 이 법안이 기업들에게 주 정부에 모델 세부 정보를 제출하도록 요구함으로써 혁신을 저해할 것이며, 소규모 오픈소스 개발자들이 소송에 대한 두려움으로 스타트업을 만들지 못하게 할 것이라고 주장한다.

지난주 위너 의원은 일부 반발을 해소하기 위해 법안을 수정해 규정을 준수하지 않는 기술 기업에 대한 형사 책임을 없애고 소규모 오픈소스 모델 개발자에 대한 보호 조항을 추가했으며 새로 제안된 '프런티어 모델 부서'를 삭제했다.

오픈AI의 경쟁사인 앤트로픽(Anthropic)은 이전에 이러한 수정 사항과 함께 법안을 지지할 것이라고 말한 바 있다. 그러나 수정안이 도입된 후에도 낸시 펠로시(Nancy Pelosi) 전 하원의장을 비롯한 반대자들이 계속 늘어나고 있다.

오픈AI와 다른 기술 기업들은 이 법안에 대해 작업해 온 로비스트들을 고용했다. 오픈AI는 서한에서 수개월 동안 위너 의원실과 이 법안에 대해 논의해 왔지만 결국 지지하지 않는다고 밝혔다.

오픈AI는 "미국의 AI 우위를 보호하기 위해서는 주 차원이 아닌 연방 정책이 필요하다"며 "명확한 연방 프레임워크가 있으면 미국이 중국 같은 국가들에 대한 경쟁 우위를 유지하고 전 세계적으로 민주적 거버넌스와 가치를 발전시키는 데 도움이 될 것"이라고 주장했다.

위너 의원은 성명에서 "이상적으로는 의회가 이 문제를 다뤄야 한다는 데 동의한다"면서도 "하지만 의회는 그렇게 하지 않았고, 우리는 의회가 그렇게 할 것이라고 회의적"이라고 말했다. 그는 "오픈AI의 주장대로라면 캘리포니아는 데이터 프라이버시법을 통과시키지 않았을 것이고, 의회의 무대책으로 인해 캘리포니아 주민들은 자신의 데이터에 대한 어떤 보호도 받지 못했을 것"이라고 강조했다.

SB 1047은 이달 중 캘리포니아 주 의회에서 표결에 부쳐질 예정이다. 통과되면 최종적으로 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사의 책상으로 넘어갈 것이다. 뉴섬 주지사는 이 법안에 대한 거부권 행사 여부를 밝히지 않았지만, 공개적으로 AI의 위험을 완화하면서 캘리포니아의 AI 혁신을 촉진할 필요성에 대해 언급한 바 있다.