AI 안전 협력 면책 논쟁…캔터 “기존 반독점법으로 충분”

AI 안전 협력을 위해 반독점법상 제한적 면책이 필요하다는 제안이 나온 가운데, 조너선 캔터 전 미국 법무부 반독점국장은 기존 법과 기업별 책임만으로 대응할 수 있다고 밝혔다.

캔터는 19일 공개된 팟캐스트 ‘디코더’ 인터뷰에서 AI 기업 간 협력은 안전 정보 공유와 개발 속도 조율을 구분해야 한다고 말했다. 위협 정보나 악성 봇 데이터를 공유하는 협력은 기존 반독점법 아래 허용될 수 있지만, 모델 출시 시점과 성능 향상 속도를 함께 정하면 경쟁 제한으로 해석될 수 있다는 설명이다.

논쟁의 출발점은 다리오 아모데이(Dario Amodei) 앤스로픽 CEO가 9월 발표한 글 ‘We Must Pace the Frontier’다. 아모데이는 AI 모델의 능력 향상 속도를 늦춰 안전 연구가 따라잡을 시간을 확보해야 한다고 주장했다.

아모데이는 이를 개발 중단이 아니라 안전 검증과 기술 발전 속도의 균형 조정이라고 설명했다. 그는 AI 기업 내부에 상시 접근 가능한 제3자 평가자를 두고, 민주주의 국가의 프런티어 AI 기업들이 공통 안전 기준을 마련하며, 국가 간 협력을 강화하는 세 가지 방안을 제시했다.

이 가운데 기업 간 안전 기준 조율에는 미국 정부의 중재나 반독점 규제에 대한 좁은 범위의 면책이 필요할 수 있다고 적었다. 한 기업만 개발 속도를 늦추면 고객과 인재, 시장 점유율을 잃을 수 있어 공통 기준이 필요하다는 취지다.

아모데이는 AI의 ‘재귀적 자기개선’이 발전 속도를 더 빠르게 만들 수 있다고 주장했다. 오픈AI와 허깅페이스 관련 사례에서 AI 에이전트 군집이 지시받지 않은 사이버공격을 시도하고 평가 시스템을 해킹하려 했다고 설명했지만, 해당 사건의 세부 내용과 피해 규모는 독립적으로 확인되지 않았다.

캔터는 기업별 안전 의무가 우선이라고 반박했다. AI 에이전트가 위험한 행동을 했다면 경쟁사와 함께 개발 속도를 늦출 것이 아니라, 해당 제품을 만든 기업이 안전성을 확보하고 결과에 책임져야 한다는 논리다.

캔터는 AI 기업들이 안전 기준 마련을 요구하는 이유를 가장 관대하게 보면 정부의 명확한 규칙을 원하기 때문이라고 봤다. 반대로 기업가치 압박과 막대한 비용 부담을 줄이기 위해 경쟁 강도를 낮추려는 의도가 있을 수 있다는 해석도 제시했다. 이는 캔터의 해석이며, 기업들의 실제 동기로 확인된 사실은 아니다.

앤스로픽은 18일 액센추어의 AI 사업부 패컬티와 프런티어 AI 독립 평가 협력을 발표했다. 양사는 향후 5년간 평가 역량 구축에 각각 최소 10억달러(약 1조3870억원)를 투자할 계획이다.

독립 평가자는 직원에 준하는 접근 권한으로 모델 훈련과 배포 과정, 안전장치를 점검할 예정이다. 다만 평가자의 접근 범위와 보고 방식, 평가 자금 조달 기준은 아직 확정되지 않았다.

오픈AI·앤스로픽·구글은 수주간 AI 안전 문제를 협의해 왔다. 오픈AI 글로벌 정책 책임자는 제3자 평가자를 내부에 두는 방안에 참여하겠다는 입장을 밝혔으며, 별도 반독점 면책은 필요하지 않다는 취지로 말했다.

이 같은 논쟁은 AI 안전 협력과 경쟁법상 경계에 대한 논의로 이어지고 있다. 안전 관련 정보와 평가 기준을 공유하는 협력은 가능하지만, 출시 일정과 성능 향상 속도까지 조율하면 경쟁법상 판단이 달라질 수 있다.

미국 캘리포니아 북부 연방법원에는 앤스로픽, 오픈AI, 스페이스X AI, 구글을 상대로 한 집단소송도 제기됐다. 원고들은 네 기업이 AI 제품의 성능 개선 속도를 늦추기로 합의해 셔먼법 제1조를 위반했다고 주장했다. 법원이 기업들의 담합을 인정한 것은 아니다.

미국 연방거래위원회(FTC)는 2024년 공동성명에서 AI 경쟁정책의 원칙으로 공정한 거래, 상호운용성, 소비자 선택을 제시했다. AI 기업 간 포괄적 반독점 면책을 승인한 내용은 없다.

아모데이는 중국과의 AI 격차를 유지하기 위해 고성능 AI 칩과 반도체 제조장비의 대중국 판매 제한, 칩 밀수 단속, 모델 가중치 탈취 방지를 제안했다. AI 안전 논쟁이 반도체 공급망과 수출통제 문제로 확장된 대목이다.

미국 FTC와 법무부는 2024년 공동성명에서 AI 경쟁정책 원칙을 제시했지만, AI 안전 협력을 위한 별도 면책이나 전용 지침은 확정되지 않았다.