오픈AI "인공지능 발전 속도에 맞는 대책 마련 필요...초지능 시대 도래할 것"

챗GPT를 개발한 미국 오픈AI가 공식 블로그를 통해 인공지능(AI) 발전 속도에 맞는 이해와 대책이 필요하다고 강조했다.

오픈AI의 공식 블로그는 샘 알트먼 최고경영자(CEO)와 그레그 블록먼 최고기술책임자(CTO), 일리야 사츠키버 수석과학자가 공동집필하는 공간이다. 이번 글은 "AI가 향후 10년 안에 비약적으로 진화할 것"이라는 전제를 바탕으로 논의가 진행됐다.

오픈AI는 지금보다 한 단계 진화한 AI를 '슈퍼 인텔리전스(초지능)'이라고 언급하며 "초지능은 인류가 과거 경쟁했던 어떤 기술보다 영향력이 크기 때문에 극적으로 풍부한 미래를 가져올 수 있지만, 그만한 위험을 가지고 올 것"이라고 경고했다.

AI 등 기술의 급속한 진보에 의해 인간의 지성이나 능력을 뛰어넘는 미래 시대를 언급하는 싱귤러리티(기술적 특이점)가 도래했을 때 발생할 수 있는 위험성으로는 금융, 군사, 의료 등 주요 인프라 시스템 측면에서의 문제가 언급됐다. 초지능 AI는 자기 진화나 자기 수복 능력을 가진 경우 안전보장상의 위험성이 발생할 수 있기 때문이다.

공식 블로그는 "인류와 초지능의 공존을 성공시키려면 기술 개발 과정에서 유의해야 할 점이 세 가지"라고 밝히며 ①주요 개발자 및 기업 간의 협의 및 기준 강화 ②국제원자력기구(IAEA)와 같은 국제적 관할기관 설치 ③초지능의 안정성 확보를 위한 기술적 능력 을 제시했다.

세계 주요 정부의 협력을 통해 규제 관련된 새로운 프로젝트를 시작하고, 개발 최전선에 있는 AI 능력과 성장 속도를 제한하는데 개발 기업에 합의한다는 접근법이 필요하다는 입장이다. 블로그는 초지능의 활용을 원자력 산업과 유사하다고 설명했다. '높은 리스크 높은 메리트'라는 공통점을 언급하며 IAEA와 같은 국제기관의 설치를 제안했다. 시스템 검사와 감사 청구, 안전기준 테스트와 보안수준 제한 등에 대한 것들이 구체적으로 설명됐다.

오픈 AI는 "초지능의 안전한 활용과 규제를 위해 기술적 능력을 향후 연구과제로 삼아 공들여 연구를 진행중"이라며 "현 수준의 AI를 생각하고 비슷한 기준을 적용해야겠다는 것은 개발에도 찬물을 끼얹는 행위"라고도 경고했다.

한편 이번 공식 블로그 글은 지난 16일 미국 상원 사법위원회 공청회에서 샘 알트만이 제언했던 AI 규제 정비 중요성과 비슷한 맥락인 것으로 알려졌다.

[email protected]