AI 개발 속도 조절 논쟁, 미·중 경쟁이 걸림돌

AI 개발 속도 조절을 둘러싼 논쟁이 미국과 중국의 경쟁 구조, 기업별 안전장치 문제로 확대되고 있다. 앤스로픽과 오픈AI는 안전성 검증을 강조했지만 엔비디아와 메타플랫폼스는 기업별 판단을 앞세웠다.

CNBC는 17일 AI 개발 속도 조절 논쟁을 다루며 투자자가 접하는 정보 상당수가 의사결정에 도움이 되지 않는 ‘소음’일 수 있다고 지적했다. 미국과 중국의 지정학적 경쟁을 고려하면 AI 관련 지출이 의미 있게 둔화하지 않을 가능성도 제기했다.

논쟁의 출발점은 다리오 아모데이(Dario Amodei) 앤스로픽(Anthropic) CEO가 9월 공개한 에세이 ‘We Must Pace the Frontier’다. 아모데이는 AI 개발을 중단하자는 것이 아니라 안전성 검증과 통제가 기술 발전을 따라갈 수 있도록 개발 속도를 조절해야 한다고 밝혔다.

아모데이는 세 가지 대응책을 제시했다. △각 AI 기업에 독립적인 제3자 평가자를 상시 배치 △민주주의 국가의 AI 기업들이 공통 안전 기준과 통제되지 않은 발전 속도에 대한 제한 마련 △민주주의 국가와 권위주의 국가 사이의 국제적 조율이다.

앤스로픽은 첫 번째 대응책에 일방적으로 참여하겠다고 밝혔다. 독립 평가를 통해 기업 내부 판단에만 의존하지 않는 안전성 검증 구조를 마련하자는 취지다.

샘 알트먼(Sam Altman) 오픈AI(OpenAI) CEO도 AI 개발 속도 조절의 취지에 동의했다. 오픈AI는 16일 공개한 모델 불일치 보고 체계에서 최근 6개월간 확인한 우려 행동 사례 6건을 공개하며, AI 업계가 최대 속도로 확장하기에 안전성과 모니터링 문제를 충분히 해결하지 못했다고 밝혔다.

반대편에는 젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO와 마크 저커버그(Mark Zuckerberg) 메타플랫폼스($META) CEO가 있다. 황은 AI 안전성과 테스트가 엔지니어링 문제라고 밝혔고, 저커버그는 각 기업이 자체적으로 안전 기준을 적용할 유인과 책임을 이미 갖고 있다고 주장했다.

두 입장의 차이는 안전장치를 누가 설계하고 적용할 것인지에 있다. 아모데이는 제3자 평가와 국가 간 공통 기준을 강조했지만, 황과 저커버그는 기업 내부의 기술적 판단과 책임을 중시했다.

CNBC가 오스카 수상작 ‘뷰티풀 마인드’를 AI 투자 논쟁에 끌어온 이유는 영화의 주인공인 존 내시(John Nash)의 게임이론 때문이다. 게임이론은 여러 주체가 서로의 선택을 예상하며 의사결정하는 상황을 분석한다.

내시 균형은 다른 참여자의 선택이 고정됐을 때 자신의 선택만 바꿔도 더 나은 결과를 얻기 어려운 상태를 뜻한다. 각 주체가 상대방의 행동을 고려해 선택한 결과가 서로의 선택을 바꾸기 어렵게 만드는 구조다.

죄수의 딜레마에서는 서로 협력하면 모두에게 가장 좋은 결과를 얻을 수 있다. 그러나 상대가 약속을 지키지 않을 가능성을 고려하면 각자는 배신을 택하게 된다.

이 구조를 AI 개발 경쟁에 적용하면 미국과 중국이 동시에 속도를 늦출 때 안전성 측면에서 유리할 수 있다. 한쪽이 속도를 유지할지 확신하기 어렵다는 점이 문제다.

한 국가가 개발을 늦춘 사이 다른 국가가 경쟁에서 앞설 수 있다는 우려는 양국의 협력을 어렵게 만든다. 기업 입장에서도 경쟁사가 개발 속도를 유지할 가능성을 고려하면 자발적으로 투자를 줄이기 어렵다.

이런 경쟁 구조에서는 개별 발언의 최신성만으로 AI 관련 투자 흐름을 판단하기 어렵다. AI 인프라 투자 경쟁이 자금시장 논쟁으로 번지고 있다는 본지 분석처럼 기업의 기술 개발과 자금 조달이 함께 움직이는지 살펴볼 필요가 있다.

이번 논쟁은 AI 안전성 문제에서 어느 한쪽이 옳다고 결론 내리지 않는다. 다만 투자 판단에서는 개발 경쟁의 구조와 안전 기준을 실제로 검증하고 이행할 장치가 있는지를 함께 확인해야 한다는 점을 제시한다.