“AGI는 공익을 위해”... 힌턴·벤지오 등, 오픈AI 구조개편 제동 서한

오픈AI 전·현직 직원들과 세계적인 인공지능(AI) 전문가들이 캘리포니아와 델라웨어 주 법무장관에게 서한을 보내, 오픈AI의 구조 개편을 막아달라고 촉구했다. 이들은 비영리 연구소 기반의 오픈AI가 영리기업으로 전환하는 움직임이 본래의 인류 공익을 위한 설립 취지를 훼손한다고 주장했다.

이번 공개서한에는 AI 발전에 중대한 기여를 한 제프리 힌턴, 요슈아 벤지오, 스튜어트 러셀 등 노벨상 수상자 및 선구자들이 참여했으며, 이들 외에도 오픈AI의 전·현직 직원 11명과 구글 딥마인드, 안트로픽 출신 연구자 등 30명이 서명에 동참했다. 서명자들은 “인공지능, 특히 인간 수준의 지능을 갖춘 일반 인공지능(AGI)의 개발 방향은 사익이 아닌 공익 중심이어야 한다”고 강조했다.

과거 오픈AI 창립 당시 핵심 인물之一이었던 일론 머스크도 영리회사 전환에 강하게 반대하며, 오픈AI를 상대로 소송을 제기한 바 있다. 다만 힌턴은 “이번 서한의 목적이 머스크의 이해관계와는 무관하게, 순수하게 오픈AI의 창립 정신을 지키기 위한 것”이라고 선을 그었다.

서한은 특히, AGI 개발의 상업화가 가져올 위험성을 지적하며, AI 기술이 오히려 기존 사회 불평등을 심화시키거나, 조작과 허위정보 확산을 초래할 수 있고, 심각한 경우 인간 종의 생존을 위협할 수 있다고 경고했다. 또한 “AI 기업들은 내부 정보를 자발적으로 공개할 유인이 부족하고, 광범위한 기밀 유지 계약에 따라 직원들이 문제를 지적하기 어렵다”며, 투명성 부족과 거버넌스 위기를 비판했다.

오픈AI 측은 이에 대해 “변화된 조직 구조는 더 많은 대중이 혜택을 누리도록 하기 위한 것”이라며, “영리 부문이 성장할수록 비영리 부문도 함께 확장돼 궁극적으로 공익적 목적에 부합하게 될 것”이라고 반박했다. 현재 오픈AI는 약 3,000억 달러(약 432조 원)의 기업 가치를 인정받고 있다.

오픈AI는 창립 초기부터 '인류 전체를 위한 이로운 AGI 개발'이라는 가치를 전면에 내세워왔다. 2017년 샘 알트먼 CEO는 런던 강연에서 “우리는 주주를 위해 결정을 내리는 기업이 되지 않을 것이며, 인류 전체에 책임을 지는 조직이 돼야 한다”고 밝힌 바 있다. 그러나 최근 구조 전환 논의가 가속화되면서, 이러한 가치가 실제로 유지될 수 있을지에 대한 회의가 커지고 있다.

이번 서한은 오픈AI를 포함한 AI 산업 전반에 대한 공공 감시 체계의 필요성과 기업 구조의 윤리성에 대한 본질적인 질문을 다시금 던지고 있다. AGI라는 기술의 미래가 몇몇 소수의 이해관계자에게 좌우돼서는 안 된다는 경고가, 단순한 이상론에 그칠지 아니면 정책 변화로 이어질지 귀추가 주목된다.