규제 당국의 오픈소스 AI 제한 노력, 잘못된 방향

인공지능(AI) 정책 논쟁에는 오랜 논란이 있는 이슈가 포함되어 있다. 이는 컴퓨팅 역사 동안 지속되어 온 오픈소스와 폐쇄형 시스템 간의 대립이다. 최근 캘리포니아와 유럽의 입법자들이 "오픈 가중치 AI 모델"을 제한하려는 시도를 하면서 이 논란이 다시 수면 위로 떠올랐다.

1일(현지시간) 코인텔레그래프에 따르면 오픈 가중치 모델은 이전의 오픈소스 소프트웨어처럼 다양한 목적으로 여러 당사자가 기초 코드를 검사하고 수정할 수 있는 공개 시스템이다. 일부 비평가들은 알고리즘 모델이나 시스템을 오픈소스화하는 것이 "특히 위험하다"고 주장하며 이를 제한해야 한다고 주장한다. 그러나 오픈소스 AI 시스템에 대한 자의적인 규제 제한은 혁신, 경쟁 및 투명성을 저해할 심각한 단점이 있다.

이 이슈는 최근 정부와 산업계의 중요한 발표 이후 새로운 관심을 받게 되었다. 첫째, 7월 30일 상무부는 조 바이든 대통령이 10월에 서명한 AI 행정 명령에 의해 요구된 주요 보고서를 발표했다. 최종 보고서는 오픈 가중치 AI 시스템에 대해 매우 환영하는 입장을 취하고 있으며, "신중하지만 낙관적인 경로"를 제시하고 있다. 보고서는 "광범위하게 사용 가능한 모델 가중치를 가진 이중 용도 기반 모델의 한계 위험에 대한 충분한 증거가 없으며, 현재 모델 가중치에 대한 제한이 적절하지 않다는 결론을 내렸다"고 언급했다.

이 보고서는 연방무역위원회(FTC)가 오픈 가중치 모델에 대해 "혁신을 촉진하고 비용을 절감하며 소비자 선택을 늘리고 전반적으로 대중에게 이익을 줄 잠재력이 있다"고 밝힌 성명에 이어 발표되었다. 바이든 행정부의 이러한 긍정적인 성명은 공화당 부통령 후보인 JD 밴스가 빅테크에 대응하기 위한 수단으로 오픈소스 AI를 지지한 입장과도 일치한다. 이는 오픈소스 AI에 대한 초당적 지지가 존재함을 시사한다.

다른 주요 발전은 메타가 최근 발표한 "라마 3.1(Llama 3.1)"의 최신 버전이다. 메타의 창립자이자 CEO인 마크 저커버그는 "오픈소스 AI가 앞으로 나아갈 길"이라는 에세이로 발표를 알렸다. 라마는 완전히 오픈소스 시스템은 아니지만 메타는 기초 코드를 통제하고 있으며, 추가적인 애플리케이션 개발을 가능하게 한다. 이는 AI에서 더 많은 혁신과 경쟁을 촉진한다.

그러나 연방 당국으로부터 긍정적인 신호를 받은 오픈소스 AI 개발자들은 다른 주 및 국제 규제 당국으로 인해 잠재력이 제한될 수 있다.

대규모 오픈 가중치 AI 모델이 유럽의 상향식이고 매우 제한적인 기술 규제 접근법 하에서 합법적으로 존재할 수 있을지도 불분명하다. 메타는 이미 유럽 규제 환경의 예측 불가능성으로 인해 다음 멀티모달 AI 모델을 유럽 연합에서 출시하지 않을 것이라고 발표했다. 애플 또한 6월 말 유럽에서 최첨단 AI 기능을 출시하지 않을 것이라고 발표했다.

미국은 AI 혁신가들을 위해 유럽이 만든 것과 같은 서두른 규제 혼란을 피해야 한다. 유럽의 과잉 규제는 이미 디지털 투자와 사업 형성을 파괴하여 대륙을 글로벌 경쟁력을 갖춘 주요 기술 플레이어가 거의 없는 상태로 만들었다.

안타깝게도, 이러한 혁신을 저해하는 명령은 미국의 주 차원에서도 도입될 가능성이 있다. 캘리포니아 민주당 입법자들은 새로운 AI 규제 및 처벌을 시행할 "프런티어 모델 디비전"을 만들 것을 제안한 SB 1047 법안을 제안했다. 이 법안은 최첨단 개발자들이 "모델 파생물이 중대한 피해를 초래할 위험이 없음을 합리적으로 보증"할 것을 요구하며, 이는 오픈소스 제공자가 충족하기 불가능한 기준이다. 기술 전문가들은 이 법안이 "오픈 가중치 AI 모델을 심각하게 제한하고 오픈소스 AI를 저해하며 안전을 감소시킬 것"이라고 경고했다.

이 법안은 AI 안전 조치로 설명되지만, 최첨단 AI 연구를 차단하고 혁신을 저해한다면 중요한 안전 강화 시스템과 애플리케이션도 제한하게 될 것이다. 더 나쁜 점은 이러한 결과가 2030년까지 세계 AI 리더가 되겠다는 목표를 가지고 있는 중국에 선물을 안기는 것이다.

중국은 AI 혁신 면에서 미국과의 격차를 빠르게 줄이고 있다. 당연히 중국 정부는 캘리포니아 관료들이 요구하는 것에 대해 걱정하지 않을 것이다. 그들은 그냥 전진할 것이다. 메타의 저커버그가 7월 페이스북 게시물에서 "미국 혁신을 폐쇄된 개발로 제한하는 것은 우리가 전혀 선도하지 않을 가능성을 높인다"고 정확히 지적한 이유이다. 따라서 "우리의 최선의 전략은 강력한 오픈 생태계를 구축하는 것"이다.

오픈AI의 샘 알트먼(Sam Altman)은 7월 에디토리얼에서 중국과 러시아와 같은 권위주의 정권에 맞서기 위해 다른 민주 국가들과 협력할 것을 주장하며 비슷한 점을 지적했다. "오픈소스 모델이 그러한 국가의 개발자들에게 쉽게 접근할 수 있도록 하는 것은 우리의 우위를 더욱 강화할 것"이라고 알트먼은 썼다. "AI를 선도하는 문제는 기술 수출에 관한 것뿐만 아니라 기술이 지지하는 가치 수출에 관한 것이다."

실제로 강력하고 다양한 AI 기술 기반은 경제를 강화하고 더 나은 애플리케이션과 일자리를 제공할 뿐만 아니라, 국가 안보를 강화하고 다원주의, 개인 자유, 개인 권리 및 표현의 자유라는 가치를 글로벌 정보 기술 시장에 주입할 수 있게 한다. 오픈소스 AI는 이 목표를 촉진하는 데 중요한 역할을 할 것이며, 정책 입안자들이 이를 허용하는 한 말이다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기