오픈AI, RSI·사고보고 담은 국제 AI 기준 제안

오픈AI가 재귀적 자기개선 측정과 AI 사고보고, 인간 감독을 포함한 국제 인공지능(AI) 안전 기준 마련을 제안했다. 각국이 공통된 평가·보고 체계를 갖춰 국경을 넘는 AI 위험에 공동 대응하자는 취지다.

오픈AI는 21일 공개한 정책 제안에서 AI 개발이 여러 기업과 국가로 확산하고 있다며 국가별 평가·보고 기준을 맞춰야 한다고 밝혔다. 기준이 엇갈리면 같은 AI 시스템의 위험을 비교하고 사고에 공동 대응하기 어렵다는 설명이다.

◇ 재귀적 자기개선과 사고보고

첫 번째 논의 대상은 재귀적 자기개선(RSI)이다. AI가 차세대 AI 개발 과정에 참여하면서 인간의 개입이 줄어드는 상황을 뜻한다. 오픈AI는 자동화된 AI 연구에서 인간 감독이 어느 수준까지 필요한지, 어떤 경우 즉시 검토해야 하는지를 측정할 기준이 필요하다고 설명했다.

오픈AI는 완전 자율형 재귀적 자기개선이 현재 진행 중인 것은 아니며, 안전하게 수행할 수 있을 때까지 추구해서는 안 된다고 밝혔다. AI 개발 속도가 인간의 이해와 통제 능력을 앞설 수 있다는 우려를 반영한 것이다.

두 번째 핵심 영역은 사고 분류와 보고다. 오픈AI는 정렬 실패와 자동화된 AI 연구 과정에서 발생한 사고를 분류·추적·보고하고, 사고 심각도와 보고 기준을 공동으로 정하자고 제안했다.

오픈AI가 16일 공개한 모델 오정렬 보고 체계도 모델의 훈련·평가·시험·배포 과정에서 발생한 문제를 대상으로 한다. 공개 사례에는 행동, 심각도, 외부 영향, 발생 시점과 조사 범위를 기록하고, 문제가 완전히 해소되지 않았더라도 필요한 경우 보고할 수 있도록 했다.

세 번째는 국제 협력 구조다. 오픈AI는 미국 산하 인공지능표준·혁신센터(CAISI)가 2024년 출범시킨 국제 AI 측정·평가·과학 네트워크를 활용하자고 제안했다. 미국·영국·독일·프랑스·일본·한국·싱가포르·인도 등 각국 AI 안전기관과 협력하는 방식이다.

◇ 미국·유럽 규제와의 접점

이번 제안은 오픈AI가 9일 공개한 별도 정책 문서와도 연결된다. 당시 오픈AI는 미국 의회가 역량 기반의 의무적 국가 AI 안전 규제를 마련하고, 미국 기준이 국제 기준을 이끄는 토대가 돼야 한다고 밝혔다.

다만 이번 제안은 구체적인 법안이나 국제협약 초안이 아니다. AI 모델의 출시 허가나 의무적 사전심사를 정한 것도 아니며, 각국 정부가 국제 기준을 자국 법체계에 어떻게 반영할지 결정하는 구조다.

오픈AI는 공통 기준이 특정 기업이나 국가, 사업모델에 유리하게 작동해서는 안 된다고 밝혔다. 신규 기업과 오픈 모델 개발자의 경쟁을 막는 방식으로 운영돼서도 안 된다는 입장이다.

유럽연합은 시스템적 위험이 있는 범용 AI 모델 제공자에게 중대한 사고를 추적·문서화하고 관련 기관에 보고하도록 요구하고 있다. 유럽연합 집행위원회가 AI법 제55조에 따른 중대 사고 보고 양식을 공개하면서 관련 의무를 구체화했다.

따라서 오픈AI의 구상은 미국 중심의 새 기준을 만들자는 제안인 동시에 미국과 유럽의 규제 체계를 호환시키려는 논의로 이어질 수 있다. 다만 실제로 어떤 기관이 국제 표준을 주도할지와 각국이 같은 기준을 받아들일지는 정해지지 않았다.

◇ 업계 반응과 국내 연결

AI 업계에서도 공통 안전 기준과 독립 평가의 필요성을 둘러싼 논의가 이어지고 있다. AP통신은 오픈AI와 앤트로픽 등 주요 AI 기업 관계자들이 안전 기준과 개발 속도 조절을 놓고 공통 논의를 진행하고 있다고 전했다.

반면 기업이 제시한 기준을 독립기관이 검증할 수 있어야 한다는 지적도 나온다. SNS에서는 오픈AI가 규제를 요구하면서 동시에 기준 설계에 영향력을 행사하려 한다는 비판과, 대형 기업에 유리한 규제가 신규 경쟁자의 진입을 어렵게 할 수 있다는 주장이 제기됐다. 이는 SNS 이용자들의 반응으로, 별도의 사실로 확인된 내용은 아니다.

AI 국제 안전 기준 논의는 오픈AI가 국가 차원의 AI 안전 기준 마련을 촉구해온 정책 방향과도 이어진다. 독립 감사와 중대 안전사고 보고 등 안전장치를 요구해온 오픈AI의 정책 방향이 국제 표준 논의로 확장된 셈이다.

국내 기업에는 향후 국제 표준이나 각국 규제에 반영될 경우 AI 모델 개발·평가·사고보고 절차가 영향을 받을 수 있다. AI 모델 검증과 사이버 보안은 금융·거래소·지갑 인프라와도 맞닿아 있지만, 이번 제안이 가상자산 가격이나 거래시장에 직접 영향을 준 것은 아니다.

오픈AI의 제안은 미국 정부나 국제기구가 채택한 공식 기준이 아닌 정책 구상이다. 앞으로 각국 정부와 독립 평가기관이 제안된 측정·보고 체계를 실제 규제와 표준에 반영할지 여부가 남은 과제다.