AI 공통 안전 기준 제안…UN 국제 규제 합의는 아직

인공지능(AI) 국제 거버넌스 논의에서 공통 안전 기준과 독립 검증 체계를 마련하자는 제안이 나왔다. 다만 유엔(UN) 첫 글로벌 AI 거버넌스 대화에서 구속력 있는 국제 규제나 집행기관이 합의된 것은 아니다.

파울라 보간테스 사모라(Paula Bogantes Zamora) 코스타리카 과학·혁신·기술·통신부 장관과 레베카 핀레이(Rebecca Finlay) Partnership on AI CEO는 21일 포천(Fortune) 공동 기고문에서 AI 시스템의 출시 전 독립 검증, 안전 프로토콜 공개, 배포 후 사고 모니터링과 보고가 필요하다고 제안했다.

두 사람은 2027년 5월 열릴 다음 글로벌 대화 전까지 공통 안전 기준과 국경 간 규제 샌드박스를 마련하고, 과학 패널의 평가를 각국 협상 과정에 공식적으로 연결해야 한다고 밝혔다. 이는 두 기고자의 정책 제안이며 UN이 확정한 실행계획은 아니다.

제안된 기준의 참고 대상으로는 OECD AI 원칙, G7 히로시마 AI 행동강령, 2024년 서울 정상회의 프런티어 AI 안전 약속, UNESCO AI 윤리 권고, ISO·NIST 표준이 거론됐다. 기업의 자율규제만으로 AI 위험을 관리하기 어렵다는 문제의식이 반영됐다.

UN 첫 글로벌 AI 거버넌스 대화는 2026년 7월 6~7일 스위스 제네바에서 열렸다. UN 회의 transcript에는 170개 회원국에 가까운 대표단과 1800개 기관, 4200명 이상의 등록 참가자가 참여한 것으로 적혔다.

회의는 각국 정부와 기업·학계·시민사회가 국제 AI 거버넌스를 논의할 장과 공통 의제를 확인하는 자리였다. 그러나 단일한 국제 AI 법률이나 규제 집행기관을 채택하는 단계로 나아가지는 않았다.

UN 독립 국제 AI 과학 패널은 2026년 7월 첫 잠정 보고서를 발표했다. 보고서는 AI의 역량과 기회, 위험에 관한 공통 과학 기반을 제공하지만, 패널은 규칙을 제정하거나 기준을 집행하는 규제기관이 아니다.

UN은 과학 패널의 다음 연례 보고서가 2027년 뉴욕 대화에 활용될 예정이라고 설명했다. 과학적 평가와 국가 간 협상 과정의 연결이 실제 규제 논의에서 어떤 방식으로 이뤄질지가 남은 과제다.

제네바 회의에서는 과학적 근거와 국가 간 상호운용성을 중시해야 한다는 의견이 이어졌다. 유럽연합(EU)은 독립 과학 패널의 평가가 국제 AI 정책의 기준선이 돼야 한다고 밝히고, 인권 중심의 위험 기반 규제와 다자 협력을 강조했다.

금융안정위원회(FSB) 의장인 앤드루 베일리(Andrew Bailey) 영란은행 총재는 2026년 8월 G20 재무장관·중앙은행 총재들에게 보낸 서한에서 프런티어 AI의 가장 즉각적인 우려로 사이버 위험을 지목했다. AI 관련 낙관론과 높은 밸류에이션, 시장 집중, 레버리지가 금융시장 조정을 키울 수 있다는 점도 언급했다.

시민사회단체 WITNESS는 AI 생성물의 출처와 진위를 확인하는 인프라와 콘텐츠 출처정보 체계를 강화해야 한다고 주장했다. 글로벌 사우스와 취약 계층의 참여가 부족하다는 지적도 내놨다.

AI 안전 논의에서는 독립 검증과 평가 체계를 마련해야 한다는 과제가 제시됐다.

국내 기업과 이용자에게 국제 AI 안전 기준이 미칠 영향은 향후 기준 채택과 각국의 이행 방식에 따라 달라질 수 있다.

AI 모델 검증, 컴퓨팅 자원, 사이버 보안과 연결된 국제 기준 논의는 반도체·클라우드 산업과 맞닿아 있다. 그러나 특정 기업이나 토큰의 수혜 또는 가격 전망은 제시되지 않았다.

UN 공식 로드맵상 다음 글로벌 AI 거버넌스 대화는 2027년 5월 3~4일 미국 뉴욕에서 열릴 예정이다. 공통 안전 기준과 국경 간 규제 샌드박스의 채택 여부는 다음 회의에서 논의될 사안으로 남아 있다.