오픈AI는 타이타닉호? 전직 직원의 경고

김민준 기자

2024.07.12 (금) 15:00

오픈AI의 '슈퍼얼라인먼트 팀'의 전직 직원 윌리엄 손더스(William Saunders)가 최근 회사를 떠난 이유는 오픈AI가 1912년 비극을 맞이한 타이타닉호(R.M.S. Titanic)와 유사한 경로를 밟고 있다고 느꼈기 때문이라고 밝혔다.

11일(현지시간) 코인텔레그래프에 따르면, 손더스는 기술 저널리스트 알렉스 칸트로위츠(Alex Kantrowitz)의 팟캐스트에서 자신의 의견을 밝혔다.

손더스는 오픈AI에서 근무한 3년 동안 때때로 회사가 '아폴로 계획과 비슷한 길을 가고 있는지 아니면 타이타닉과 더 유사한 길을 가고 있는지' 자문했다고 전했다.

그는 아폴로 우주 계획이 신중한 과학적 노력으로 성공을 거두었지만, 타이타닉호는 성공에도 불구하고 실패했다고 비교했다.

손더스는 "많은 노력이 배를 안전하게 만들고 방수 구획을 구축하는 데 들어갔지만, 동시에 모든 사람을 위한 구명보트는 충분하지 않았다"고 말했다.

오픈AI를 타이타닉호에 비유

손더스는 회사의 일반적인 정신이 합리적인 안전 조치를 구현하는 것보다 제품 개발에 더 높은 우선순위를 두고 있다고 설명했다.

그는 안전 문제를 제기하는 직원이 처벌받는 사무실 분위기와 이익에 집중하는 리더십을 그렸다.

손더스는 "시간이 지남에 따라 리더십의 결정이 타이타닉호를 건조한 화이트 스타 라인(White Star Line)과 더 비슷하게 느껴지기 시작했다"고 말했다.

빙산

손더스는 오픈AI가 사업을 운영하는 방식에 동의하지 않는 첫 번째 인물이 아니다. 회사의 소외된 공동 설립자 중 한 명인 일론 머스크(Elon Musk)는 최근 오픈AI가 원래의 사명에서 너무 멀리 벗어났다는 이유로 소송을 제기했다. 그러나 머스크는 수년간 오픈AI와 관련이 없었고 현재 그의 직접적인 경쟁자인 xAI를 운영하고 있다. 이 소송은 이후 철회되었다.

경쟁 AI 회사인 앤스로픽(Anthropic)은 2021년 오픈AI의 전 직원과 공동 설립자들이 오픈AI가 신뢰와 안전에 충분히 집중하지 않는다는 우려로 설립했다.

반면, 또 다른 소외된 공동 설립자이자 전 수석 과학자인 일야 서츠케버(Ilya Sutskever)는 2024년 5월에 회사를 떠나 자신의 회사를 시작하면서 "오픈AI 팀이 목표를 안전하게 달성할 수 있을 것이라고 확신한다"고 밝혔다.

빙산은 누구인가?

많은 직원들이 회사를 떠나고, 적어도 한 명의 직원이 타이타닉호에 비유하면서, 중요한 질문은: 빙산은 누구 혹은 무엇인가?

비유에서 승객이 우리, 즉 모든 인류를 나타낸다면, 빙산은 준비되지 않은 사회에 대한 ChatGPT와 같은 시스템이 제기하는 실존적 위협을 의미한다. 만약 AI가 인간보다 더 지능적이고 능력 있게 된다면, 그리고 모든 사람을 그 잠재적 해악으로부터 보호할 '구명보트'가 충분하지 않다면, 우리는 비극을 향할 수 있다.

하지만 승객이 오픈AI가 인간처럼 똑똑한 AI를 만들기를 기다리는 주주와 이해관계자를 의미한다면, 빙산은 생성형 AI 거품의 붕괴를 나타낼 수도 있다.