오픈AI, 미·중·러에 AGI 권리 제공 논의…아모데이 반대

오픈AI가 개발 자금을 마련하기 위해 미국·중국·러시아 정부에 미래 범용인공지능(AGI) 기술 사용 권리를 제공하는 방안을 논의했다는 증언이 나왔다. 당시 연구 책임자였던 다리오 아모데이는 이 구상이 군비 경쟁을 키우고 인권 침해에 쓰일 수 있다며 반대했다.

미국 시사월간지 디애틀랜틱(The Atlantic)은 케빈 루스(Kevin Roose)의 저서 ‘AGI 연대기(The AGI Chronicles)’ 발췌문을 공개했다. 루스는 오픈AI·앤트로픽·구글 딥마인드 관계자 150명 이상을 인터뷰하고 내부 문서 등을 검토해 아모데이와 오픈AI 경영진의 결별 과정을 추적했다.

디애틀랜틱은 처음 구상이 여러 나라가 국제 연합체를 꾸려 AGI의 위험을 관리하고 혜택을 나누는 방안이었다고 보도했다. 그러나 2017년 내부 발표 과정에서 미국·중국·러시아 정부에 미래 AGI 기술 사용 권리를 제공하고 자금을 받는 경매 방식이 거론됐다. 디애틀랜틱은 그렉 브록먼 오픈AI 공동창업자와 일리야 수츠케버 수석과학자를 제안자로 지목했다.

당시 일론 머스크의 자금 지원이 끊기자 오픈AI는 AI 개발 비용을 충당할 새 자금원을 찾고 있었다. AGI가 현실화하면 정부가 개발 기업에서 기술을 가져갈 수 있으니, 미리 정부들로부터 자금을 확보하자는 논리였다. 샘 알트먼 오픈AI CEO가 이 방안을 직접 제안했는지는 확인되지 않았다.

아모데이는 2017년 12월 경영진에 보낸 이메일에서 이 계획이 군비 경쟁을 줄이기보다 키울 수 있다고 주장했다. 권위주의 정부가 자국의 가치가 반영된 AGI를 얻으면 심각한 인권 침해로 이어질 수 있다는 우려도 제기했다. 안전한 AGI 개발을 내세운 조직이 자금 조달을 위해 강력한 기술을 정부에 제공하면 도덕적 정당성을 훼손할 수 있다는 취지였다.

오픈AI는 당시 회사를 국제 협력 프로젝트로 전환할 수 있는지 잠시 검토했지만, 중국이나 러시아에 AGI를 판매하는 방안은 고려하지 않았다고 디애틀랜틱에 밝혔다. 계획은 실행되지 않았고, 이후 마이크로소프트의 대규모 투자로 논의가 중단됐다.

국가 플랜은 아모데이가 오픈AI를 떠난 여러 갈등 가운데 하나였다. 디애틀랜틱은 GPT-3 비공개 버전의 고객 명단과 마이크로소프트 투자 협상 등을 둘러싼 불신도 쌓였다고 전했다. 아모데이는 2020년 동료들과 함께 오픈AI를 떠났고 2021년 앤트로픽을 설립했다.