슈미트, AI 개발 중단 대신 안전 규칙과 국제 협력 제안

에릭 슈미트 전 구글 최고경영자는 인공지능(AI) 개발을 함께 멈추자는 합의가 경쟁 유인과 검증 문제 때문에 어렵다고 봤다. 개발 중단보다 경쟁이 이어지는 상황에서 사고를 막을 안전 규칙과 국제 협력을 마련해야 한다는 주장이다.

슈미트는 9월 22일 공개된 이코노미스트 편집장과의 대담에서 미국 기업과 투자자가 개발을 멈출 유인이 부족하고, 합의가 이뤄져도 상대가 실제로 개발을 중단했는지 확인하기 어렵다고 말했다. 대담 영상과 발언록은 리얼클리어폴리틱스가 공개했다.

그는 개발을 멈추기보다 미래를 만들어가면서 그 과정에서 생기는 문제의 해결책도 함께 마련해야 한다고 제안했다. 새 AI 모델을 이전 모델로 감독하는 방안도 예로 들었다. 이전 모델은 보통 새 모델보다 약 4개월 앞서 나온다고 설명했지만, 이 방식이 대규모로도 기술적으로 작동하는지는 더 확인해야 한다고 덧붙였다.

미국과 중국이 우선 논의할 규칙으로는 ‘노 서프라이즈’를 꼽았다. AI 에이전트가 시험 범위를 우연히 벗어나 핵 대응을 촉발하는 상황처럼, 예상하지 못한 사고가 양국 간 오판으로 번지는 일을 막자는 취지다. 사이버 공격 역량에 관한 규범도 다음 논의 대상으로 제시했다.

개발 중단이 가능하다는 반대 견해도 있다. UC버클리 인터뷰에서 PauseAI 운동 관계자는 국제 협약으로 최첨단 AI 개발을 멈출 수 있다고 주장했다. 두 입장은 합의의 검증 가능성을 다르게 본다. 슈미트가 제안한 모델 간 감독 방식도 대규모 효과가 확인된 안전 조치는 아니다.