비탈릭 부테린, 오픈AI 리더십 변화 속 AI 위험성 강조

이더리움 공동 창립자 비탈릭 부테린이 "초지능" 인공지능을 "위험하다"고 언급하며, 오픈AI의 리더십 변화에 대응하여 AI 개발에서 신중함과 분산화의 필요성을 강조했다.

21일(현지시간)코인텔레그래프에 따르면 오픈AI의 전 정렬 책임자인 얀 레이크가 회사의 핵심 우선순위와 관련하여 경영진과 "한계점"에 도달했다며 사임한 소식을 전했다.

레이크는 오픈AI에서 "안전 문화와 프로세스가 화려한 제품들에 밀려 뒷전으로 밀려났다"고 주장하며, 이는 인공지능 일반화(AGI) 개발과 관련이 있다고 언급했다. AGI는 인간의 인지 능력에 필적하거나 이를 초과할 것으로 예상되는 AI 유형으로, 이에 대한 생각은 이미 업계 전문가들 사이에서 걱정을 불러일으키고 있다. 전문가들은 세계가 이러한 초지능 AI 시스템을 적절히 관리할 준비가 되어 있지 않다고 말한다.

이러한 감정은 부테린의 견해와 일치하는 것으로 보인다. 부테린은 X(구 트위터)에 게시물을 통해 이 주제에 대한 자신의 생각을 공유하며, 사람들이 성급하게 행동하거나 저항하려고 하지 말아야 한다고 강조했다.

부테린은 소비자 하드웨어에서 실행되는 오픈 모델을 "미래에 소수의 기업들이 대부분의 인간 사상을 읽고 조정할 수 있는 상황에 대한 대비책"으로 강조했다.

"이러한 모델은 기업의 거대 권력과 군사적 위험보다 재앙의 위험이 훨씬 낮다"고 언급했다.

이는 그가 지난주 AI와 그 증가하는 능력에 대해 언급한 두 번째 발언이다. 5월 16일, 부테린은 오픈AI의 GPT-4 모델이 AI 모델의 "인간성"을 판단하는 튜링 테스트를 통과했다고 주장했다. 그는 대부분의 사람들이 기계와 대화하고 있는지 여부를 판단할 수 없다는 새로운 연구를 인용했다.

그러나 부테린이 처음으로 이 우려를 표명한 것은 아니다. 영국 정부도 최근 빅 테크의 AI 부문에서의 증가하는 참여를 면밀히 검토하며 경쟁 및 시장 지배와 관련된 문제를 제기했다.

그룹들은 이미 인터넷 전반에 걸쳐 분산형 AI를 지지하며, AI가 빅 테크에 의해 지배되지 않고 더 민주화되도록 노력하고 있다.

이는 오픈AI의 리더십 팀의 또 다른 고위 멤버가 5월 14일 사임한 이후에 나온 것이다. 공동 창립자이자 최고 과학자인 일리야 수츠케버는 사임을 발표했다.

수츠케버는 AGI에 대한 우려를 언급하지 않았다. 그러나 X에 게시한 글에서 오픈AI가 "안전하고 유익한" AGI를 개발할 것이라고 확신한다고 표현했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기