로 칸나, 재귀적 AI 자기개선 금지안 발의 예고

미 하원 민주당 로 칸나(Ro Khanna) 하원의원이 연방 안전장치가 마련될 때까지 인공지능(AI)의 재귀적 자기개선을 금지하는 법안 발의를 예고했다.

CNBC는 한국시간 29일 오전 6시 43분, 칸나 의원이 ‘Human Control Over AI Act’ 발의를 예고했다고 보도했다.

CNBC는 칸나 의원이 발의를 예고한 법안이 AI의 후속 모델 개발과 핵심 목표·격리·종료 통제 장치의 자율 변경을 규제 대상으로 삼는다고 보도했다. 연방 안전기준과 담당 기관의 승인이 마련될 때까지 해당 기능을 가진 모델의 개발과 배포를 금지하는 내용이 제시됐다.

법안 원문과 미국 의회 공식 등록은 9월 29일 한국시간 기준 확인되지 않았다. 법안 번호와 공동 발의자, 소관 위원회, 실제 발의 시점도 공개되지 않았다.

CNBC는 칸나 의원이 발의를 예고한 제안에 첨단 AI 개발사를 감독할 별도 연방기관 설립안이 담겼다고 전했다. 이 기관은 AI 모델 훈련·배포 인허가, 프런티어 모델 감사, 지속적인 안전성 테스트, 인간 통제 기준 마련을 맡게 된다.

대상으로는 오픈AI, 앤트로픽, 구글 딥마인드, xAI 등이 거론됐다. 각 프런티어 AI 연구소에 독립 감사인을 배치하고 감사 결과를 연방기관에 직접 보고하도록 하는 방안도 제시됐다.

샌드박스 환경과 인터넷에서 분리된 에어갭, 긴급 종료 장치인 킬 스위치, 외부 시스템 접근 차단 장치에 관한 기준도 마련하도록 했다. AI 모델 배포로 민간인 집단이 파괴될 경우 이를 ‘인류에 대한 범죄’로 처벌하는 조항도 포함됐다.

안전장치와 로그, 격리 시스템을 고의로 해제하거나 승인받지 않은 시스템을 배포한 기업 직원에 대한 형사책임도 제시됐다. AI 기업에는 모델 출시 전 배상책임보험 가입 의무를 부과하는 방안이 담겼다.

국제 공조와 반도체 통제안도 포함됐다. 행정부가 중국 등 경쟁국의 위험한 AI 개발을 억제하기 위한 구속력 있는 국제 합의와 표적 수출통제를 추진하고, 첨단 AI 학습에 쓰이는 반도체 사용 현황을 감시·통제하도록 요구하는 내용이다.

재귀적 자기개선은 AI가 인간의 직접 개입을 줄이면서 코드 작성과 실험, 후속 모델 개발을 수행하는 현상을 뜻한다. 앤트로픽은 공식 자료에서 완전한 재귀적 자기개선에는 아직 도달하지 않았지만, AI가 후속 모델을 설계·개발하는 단계가 예상보다 빨리 올 수 있다고 설명했다.

앤트로픽은 AI가 코드 작성과 실험 수행에서 맡는 역할이 커지고 있지만, 목표를 정하고 문제를 선택하는 역할은 여전히 인간에게 남아 있다고 밝혔다. 이는 AI 연구 자동화가 확대되고 있어도 완전한 자율적 자기개선과는 차이가 있다는 설명이다.

칸나 의원이 발의를 예고한 제안은 의회에서 논의된 다른 AI 안전 법안보다 사전 통제에 무게를 둔다. 로리 트라한(Lori Trahan) 미국 민주당 하원의원과 제이 오버놀트(Jay Obernolte) 미국 공화당 하원의원이 공개한 초당적 FRONTIER Act는 모델 카드와 위험관리 체계, 독립 감사, 사고 보고를 요구하지만 재귀적 자기개선 자체를 금지하지는 않는다.

FRONTIER Act 공동 발의자들은 독립 평가와 투명성 규칙이 AI 안전과 혁신을 함께 달성하는 방식이라고 주장했다. 반면 미국 비영리단체 Americans for Responsible Innovation은 정부의 배포 중단 권한과 초기 배포 판단 구조에 추가 수정이 필요하다고 평가했다.

오픈AI가 재귀적 자기개선 측정과 AI 사고보고, 인간 감독을 포함한 국제 AI 안전 기준 마련을 제안한 바 있다. 기업별 규제와 별도로 국가 간 평가·보고 기준을 맞춰야 한다는 접근으로, 칸나 의원이 발의를 예고한 제안의 사전 통제 구상과 맞닿는 대목이다.

국내 가상자산 시장이나 특정 토큰 가격에 대한 직접 규정은 제시되지 않았다. 반도체와 AI 인프라 통제 조항이 AI 연산 수요와 간접적으로 연결될 수 있지만, 가상자산·블록체인에 관한 별도 조항은 담기지 않았다.

CNBC는 하원 표결이 중간선거 이후로 미뤄질 가능성을 전했지만 확정된 처리 일정은 아니다. 실제 발의 여부와 법안 원문 공개 뒤 재귀적 자기개선의 법적 정의와 적용 범위를 확인할 수 있을 전망이다.