AI 개발 중단, 기존 선도 기업 우위 굳힐 수 있다

인공지능(AI) 개발을 일괄 중단하면 안전을 강화하기보다 기존 선도 기업의 시장 지위를 굳힐 수 있다는 주장이 나왔다. 자율적 안전장치와 독립 검증을 우선해야 한다는 의견과 법적 강제 기준이 필요하다는 반론이 맞섰다.

제니퍼 허들스턴(Jennifer Huddleston) 카토연구소 기술정책 선임연구원은 14일 공개한 글에서 정부가 AI 개발을 일괄 중단하면 규제 마련이 늦어지고 기술 변화에 대응하기 어려워질 수 있다고 주장했다. 특정 위험에는 기업의 자율적 안전장치와 공동 표준으로 대응할 수 있다는 입장이다.

허들스턴은 선도 기업의 자원에 맞춰 설계된 규제가 소규모 기업의 시장 진입을 막을 수 있다고 봤다. 개발 역량과 자원이 많은 기업만 규제 비용을 감당하면서 시장 집중이 심해질 수 있다는 논리다.

미국의 AI 개발만 멈출 경우 해외 경쟁자가 기술 개발을 이어가 사이버보안 측면의 취약성이 커질 수 있다는 우려도 제기했다. 다만 이 주장은 미국 내 개발 중단이 국제 경쟁 구도에 미칠 영향을 둘러싼 논거로 제시됐다.

잭 도시(Jack Dorsey) 블록(Block) 회장은 독립적인 평가와 위험 검증에는 찬성하지만, 현재 선도 기업들이 협상한 산업 전반의 개발 제한에는 반대한다고 말했다. 도시는 14일 공개 글에서 “기업의 상업적 우위를 보존하는 것은 안전 목표가 아니다”라고 썼다.

도시의 주장은 AI 안전 규칙이 거대 기업의 우위를 굳힐 수 있다는 문제의식에 기반한다. 그는 연구자들이 모델을 직접 검증할 수 있도록 공개형 모델과 평가 결과, 알려진 한계를 공개해야 한다고 주장했다.

다만 공개형 모델의 공개를 언제나 허용해야 한다는 뜻은 아니다. 독립적으로 검토 가능한 증거가 모델 공개로 재앙적 위험이 실질적으로 커진다는 점을 입증하면 공개를 보류할 수 있다고 밝혔다.

도시가 제시한 대응 순서는 전면 중단보다 단계적 조치에 가깝다. 취약점 패치와 접근 권한 제한, 위험한 실험 중단 등 좁은 조치를 먼저 적용하고, 이런 수단만으로 위험을 줄이기 어렵다는 근거가 있을 때 모델 공개를 제한해야 한다는 내용이다.

여기서 독립 검증은 개발 기업 내부 판단에만 의존하지 않고 외부 연구자가 모델의 작동 방식과 위험을 직접 평가하는 절차를 뜻한다. 공개형 모델은 외부 연구자가 결과를 재현하고 문제를 발견할 수 있다는 점에서 검증 수단으로 제시됐다.

반면 자율 규제만으로는 책임성과 집행력이 부족하다는 지적도 있다. 애틀랜틱카운슬은 6월 보고서에서 미국의 AI 거버넌스가 기관 지침과 자율 기준에 분산돼 있으며 일관된 기준을 강제할 법적 체계가 없다고 평가했다.

애틀랜틱카운슬은 위험 등급과 투명성, 사고 보고를 포함한 연방 차원의 강제·자율 기준을 함께 마련해야 한다고 권고했다. 기업의 기술 전문성을 활용하면서도 규정 위반에 대응할 법적 집행력을 갖춰야 한다는 취지다.

보고서는 연방정부의 AI 감독이 부처별 지침과 조달 규정, 자율 기준에 의존하고 있으며 주 정부 규제까지 더해져 정책 체계가 분산돼 있다고 설명했다. 이에 따라 국가 차원의 일관된 규제 틀이 필요하다고 제안했다.

이번 논쟁의 핵심은 AI 개발을 멈출지보다 누가 안전 기준을 만들고 집행할지에 있다. 자율 검증은 경쟁과 혁신을 유지할 수 있지만 기업이 불리한 평가 결과를 공개하지 않을 가능성과 규정 위반에 대한 제재 공백을 남긴다.

반대로 일괄적인 개발 중단이나 사전 승인 절차는 선도 기업 중심의 규제 구조를 만들 수 있다는 우려가 있다. 결국 공개 제한의 기준과 독립 검증의 권한, 법적 제재 범위를 어떻게 정할지가 논쟁의 중심으로 남았다.