트럼프, 유엔서 글로벌 AI 규제체계 거부…“초지능 장려”

도널드 트럼프 미국 대통령이 국제 인공지능(AI) 규제체계 구축을 거부하고 미국의 기존 법과 제도로 위험에 대응하겠다고 밝혔다. 트럼프 대통령은 AI 개발을 제한하기보다 '초지능'을 장려하겠다는 입장도 내놨다.

트럼프 대통령은 22일 뉴욕에서 열린 유엔 총회 연설에서 “미국은 인공지능을 통제하기 위한 글로벌리스트 체계를 구축하려는 어떠한 시도도 전면 거부한다”고 말했다고 블룸버그(Bloomberg)가 보도했다. 그는 AI가 산업혁명보다 더 큰 변화를 가져올 수 있는 만큼 성장을 억제하지 않겠다고 밝혔다.

트럼프 대통령은 “나는 산업혁명보다 더 커질 무언가의 성장을 억제하지 않을 것”이라며 “초지능을 장려할 것”이라고 말했다. 국제 규제체계 아래에서 AI 개발을 사전 통제하는 방식에는 선을 그은 것이다.

다만 AI 위험 대응의 필요성 자체를 부정하지는 않았다. 트럼프 대통령은 신중한 접근이 필요하다며 문제가 발생하면 법 집행기관이 개입할 수 있다고 말했다. 미국 내 형사·민사 사법체계와 행정 제도를 활용해 사후 대응하겠다는 의미다.

이번 발언은 트럼프 대통령이 AI 산업의 성장을 억제하지 않겠다고 밝힌 기존 입장을 국제 AI 규제 논의의 장에서 다시 확인한 것이다. 앞서 트럼프 대통령은 AI의 부정적 측면을 기존 법 집행 체계로 다루겠다는 취지의 입장을 제시했다.

유엔과 일부 국가는 국제적 안전장치가 필요하다는 입장이다. 오픈AI는 21일 AI 개발을 안전하게 이어가기 위해 국가와 기업이 공유할 수 있는 기준이 필요하다고 밝혔다. 국제 표준이 AI 개발의 안전성과 보안 관행을 안내할 수 있다는 취지다.

국제 AI 과학 패널도 21일 AI 에이전트의 능력 향상과 인간 통제 상실 위험을 다룬 보고서를 공개했다. 보고서는 AI 시스템이 인간의 의도와 충돌하는 목표와 행동을 보일 가능성을 분석했다.

AI 에이전트는 목표를 수행하기 위해 주변 정보를 분석하고 여러 작업을 자율적으로 처리하는 AI 시스템을 뜻한다. 기능이 고도화될수록 사람이 모든 판단과 행동을 사전에 확인하기 어려워질 수 있어 안전성 평가와 통제 방식이 논의 대상이 된다.

안토니우 구테흐스(António Guterres) 유엔 사무총장은 같은 날 AI가 사회가 그 영향을 이해하는 속도보다 빠르게 발전하고 있다고 경고했다. 그는 자율무기와 관련해 “킬러 로봇은 우리의 미래에 자리가 없어야 한다”고 말했다.

구테흐스 사무총장은 AI 역량이 큰 국가들이 대화와 투명성, 신뢰, 협력을 위한 통로를 구축해야 한다고 밝혔다. AI 개발을 촉진하더라도 국가 간 정보 공유와 책임 기준이 함께 마련돼야 한다는 주장이다.

20개국 이상의 정상과 유럽연합(EU)은 첨단 AI 모델에 대한 의무적 안전성 시험과 인간의 통제권을 유지하기 위한 국제기구 설립 가능성을 제기했다. 이는 미국의 기존 법 집행 체계를 중심으로 한 접근과 대비된다.

국제 AI 안전 기준 논의는 아직 구속력 있는 단일 규제체계로 정리되지 않았다. 유엔의 국제 AI 거버넌스 논의에서도 공통 안전 기준과 독립 검증 필요성이 제기됐지만, 국제 규제나 집행기관이 확정된 것은 아니다.

AI 기업들도 국제 논의에 직접 참여하고 있다. 샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO)와 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)는 23일 유엔 안전보장이사회에서 AI 문제를 논의할 예정이다.

이번 논쟁의 핵심은 AI 개발 속도를 유지하면서 위험을 어떤 시점과 방식으로 관리할지에 있다. 미국은 혁신과 기술 경쟁을 우선하는 접근을 보이고, 유엔과 일부 국가는 개발 과정에서 공통 안전 기준과 인간 통제 장치를 마련해야 한다고 주장한다.

트럼프 대통령과 구테흐스 사무총장의 발언은 AI 개발을 둘러싼 미국과 국제사회의 정책 방향 차이를 보여줬다. 올트먼과 아모데이의 유엔 안전보장이사회 논의에서 기업 차원의 안전 기준과 국제 협력 방안이 어떤 방식으로 제시될지 주목된다.