클로드, AI 연구개발 26% 수행…완전한 RSI는 아직

앤트로픽의 클로드가 회사 모델 연구·개발 업무의 26%를 수행하는 단계에 이르렀다. 다만 인간의 지시와 감독 없이 스스로 후속 모델을 설계·개발하는 완전한 재귀적 자기개선(RSI)에는 도달하지 않았다.

앤트로픽은 18일 업데이트한 보고서에서 RSI를 AI 시스템이 스스로 더 뛰어난 후속 시스템을 설계하고 개발하는 상태로 정의했다. 회사는 아직 해당 단계에 도달하지 않았으며 RSI가 반드시 발생하는 것도 아니라고 밝혔다.

앤트로픽이 개발한 클로드는 현재 고위 수준의 지시만으로 일부 연구·개발 과제를 처음부터 끝까지 수행한다. 코드 작성과 실험 실행, 오류 수정, 결과 평가를 맡을 수 있지만 연구 목표를 정하거나 어떤 문제를 풀지 결정하는 과정에서는 인간과 격차가 남아 있다.

앤트로픽은 2026년 5월 기준 자사 코드베이스에 병합된 코드의 80% 이상을 클로드가 작성했다고 밝혔다. 다만 코드 작성량이 품질을 완전히 반영하는 것은 아니라고 덧붙였다.

개방형 문제 해결 성공률은 2026년 5월 76%에서 9월 약 91%로 상승했다. 이 수치는 클로드가 작업 성공 여부를 평가하는 방식으로 산출됐다.

RSI는 단순히 AI가 코드를 작성하는 것을 뜻하지 않는다. AI가 다음 모델의 설계·실험·평가·개선 과정에 참여하고, 이후에는 인간의 개입 없이 후속 모델을 만들어내는지가 핵심이다.

현재 공개된 사례에서는 인간이 연구 목표와 평가 기준을 정하고 AI가 코드 작성, 실험 실행, 오류 수정, 결과 평가를 수행한다. 클로드가 모델 개발 과정에 상당 부분 참여하고 있지만, 스스로 연구 방향을 정해 후속 모델을 완성하는 단계와는 구분된다.

오픈AI도 9월 6일 자동화된 '연구 인턴' 개발 목표를 달성했다고 밝혔다. 이 시스템은 인간 연구자의 지시에 따라 숙련 연구자가 며칠 걸릴 수 있는 명확한 연구 과제를 수행한다.

오픈AI는 2028년 3월까지 자동화된 AI 연구자 개발을 추진하고 있다. 다만 빠른 RSI가 반드시 추구해야 할 결과는 아니며, 인간의 통제를 보존할 수 있는지에 따라 진행 여부를 판단해야 한다고 설명했다.

오픈AI는 완전히 정렬된 RSI를 안전하게 구현하는 방법을 아직 알지 못한다고 밝혔다. AI 역량이 안전·정렬 기술보다 빠르게 발전하면 강력한 시스템을 감시하기 더 어려워질 수 있다는 설명이다.

앤서니 아기레(Anthony Aguirre) 퓨처오브라이프연구소 회장 겸 CEO는 “AI가 더 많은 일을 맡을수록 인간보다 훨씬 빠르게 움직이게 된다”며 완전 자율형 RSI를 “인류 역사상 최악의 아이디어”라고 말했다. 이는 RSI가 이미 완성됐다는 뜻이 아니라 통제 상실 위험에 대한 경고다.

반면 존 딕스턴(John Thickstun) 코넬대학교 컴퓨터과학 조교수는 이전 세대 모델의 코드를 활용해 다음 세대 시스템을 만드는 형태의 부분적 자기개선은 이미 수년간 진행됐다고 말했다. 다만 지금까지는 큰 폭의 창의적 도약보다 제한적 개선에 가까웠다고 평가했다.

AI 기업 내부에서는 연구 자동화의 속도와 안전성 사이의 균형도 쟁점이다. 앤트로픽의 다리오 아모데이 CEO는 개발 속도 조절을 제안했고, 오픈AI의 샘 올트먼과 일론 머스크가 지지 의사를 보였다고 전해졌다.

메타의 마크 저커버그는 개발 속도 완화론과 거리를 두면서도 AI 기업이 자동 자기개선 시스템보다 안전한 AI 모델 개발을 우선해야 한다고 밝혔다. 업계 반응은 연구 자동화 자체보다 인간의 통제와 안전 검증을 어떤 수준으로 유지할지에 집중돼 있다.

클로드의 연구개발 참여 확대가 가상자산·블록체인 시장이나 반도체 수요에 미치는 직접적인 영향은 이번 발표에서 제시되지 않았다. 현재 확인된 다음 단계는 앤트로픽이 클로드의 모델 개발 활용도를 계속 평가하고, 오픈AI가 2028년 3월을 목표로 자동화된 AI 연구자 개발을 추진하는 것이다.