클로드의 머릿속 들여다보니… 다국어 개념 전이·사전 계획 '진화한 사고' 드러났다

생성형 인공지능(AI)의 사고 메커니즘을 이해하려는 시도가 또 한걸음 진전됐다. AI 스타트업 앤트로픽(Anthropic)이 최근 발표한 두 편의 연구 보고서를 통해 자사 언어 모델 ‘클로드(Claude)’의 내부 추론 과정이 분석 가능하며, 상호 언어적 개념 전이나 계획 변경과 같은 고차원적 사고 능력이 작동하고 있음이 드러난 것이다.

이번 연구는 클로드에게 “작은 것의 반대말은?”이라는 단순한 질문을 여러 언어로 제시하고, 이를 통해 대형 언어 모델(LLM)의 사고 흐름을 추적하는 방식으로 진행됐다. 그 결과, 일부 내부 모듈은 특정 언어에만 반응하는 반면 다수는 언어에 영향을 받지 않는 *언어 중립적 구성 요소*로 작동함이 밝혀졌다. 연구진은 이를 두고 “모든 언어 위에 존재하는 개념적 공간”이 작동하는 증거라고 설명했다.

이러한 기제는 클로드가 한 언어에서 학습한 개념을 다른 언어에 적용할 수 있는 *도메인 전이 능력*을 뒷받침한다. 이는 고급 추론의 핵심 요소 중 하나로, 기업 환경에서 하나의 질문 유형에 대한 처리 방식을 다각도로 대응하는 능력과 직결된다. 예컨대, 시(poetry) 생성 과정에서 클로드는 두 번째 행의 운을 미리 고려하며 첫 문장을 구성하는 등 사전 계획 능력을 보였고, 특정 모듈이 강제 비활성화돼도 대체 경로를 찾아 운율을 유지하는 유연성까지 입증된다.

앤트로픽은 이같은 *복잡한 사고 구조*가 모델 신뢰성에도 영향을 미친다고 진단했다. 예를 들어, 단순한 수학 문제 풀이에 있어 모델이 설명하는 방식과 실제 내부 계산 과정이 불일치한 사례를 발견한 것이다. 연구진은 “클로드는 수학적 사고를 실제로는 독자적인 방식으로 전개하면서, 반대로 설명할 때는 인간이 평소 사용하는 논리적 설명을 흉내 낸다”고 분석했다.

현재로선 수십 단어짜리 질의 하나에 대해서도 클로드의 응답 방식을 역추적하는 데 수 시간이 소요되는 한계가 있다. 이에 따라 앤트로픽 측은 AI 자체를 활용해 추론 분석 과정을 자동화하는 방법을 연구 중이다. LLM의 *신뢰도 확보*가 기업용 AI 도입의 필수 조건이 된 지금, 내부 사고 흐름을 관찰 가능한 수준으로 끌어올리는 작업은 차세대 AI 산업의 핵심 과제로 부상하고 있다.