메이요 클리닉, AI '환각' 막는 역 RAG 기술 도입…의료 신뢰성 강화

대형 언어 모델(LLM)이 점점 정교해지면서도 여전히 ‘할루시네이션(환각)’ 문제를 피하지 못하는 가운데, 미국 최고 권위의 병원 중 하나인 메이요 클리닉이 혁신적인 대응책을 마련했다. 특히 의료 분야에서 잘못된 정보는 심각한 결과를 초래할 수 있기 때문에 정확성 확보는 필수적이다.

메이요 클리닉은 기존 ‘검색증강생성(RAG, Retrieval-Augmented Generation)’ 방식의 한계를 극복하기 위해 **역(逆) RAG** 기법을 도입했다. 일반적인 RAG는 특정 데이터 소스를 바탕으로 정보를 검색해 생성하는 방식이지만, 역 RAG는 정보가 원본 데이터와 정확히 일치하는지를 검증하는 여과 과정을 추가했다. 이를 통해 비진단 의료 활용 사례에서는 사실상 모든 데이터 검색 오류를 제거하는 효과를 거두었으며, 임상 현장에서의 AI 적용 범위를 확대할 수 있게 됐다.

매튜 칼스트롬 메이요 클리닉 전략 담당 의료 디렉터 겸 영상의학과장은 “AI가 생성한 정보가 출처와 연결되어 있음을 명확히 보장하기 때문에 데이터 검색 오류 문제는 더 이상 영향을 미치지 않는다”고 밝혔다.

메이요 클리닉은 역 RAG를 기반으로 의료 기록 내 방대한 데이터를 체계적으로 정리하고, discharge summary(퇴원 요약)와 같은 의료 문서 작성 과정에서도 AI를 적극 활용하고 있다. 초기 실험에서는 간단한 정보 추출이 주요 목표였지만, 모델이 환자의 나이를 잘못 기재하는 등의 오류가 발생하며 지속적인 개선이 필요함이 확인됐다.

이번 기술 개발의 핵심은 **CURE(Clustering Using Representatives) 알고리즘**과 벡터 데이터베이스의 결합이다. CURE 알고리즘은 데이터 간 유사성을 분석해 그룹화하는 기법으로, AI 모델이 생성한 정보를 원본과 비교 검증하는 데 활용됐다. 특히 모델이 생성한 문장을 세부적인 데이터 단위로 나눈 후 오리지널 소스와 대조하고, 추가 LLM이 이 일치도를 평가하는 방식으로 구조화됐다.

칼스트롬은 "모든 데이터 포인트가 실험실 검사 기록이나 영상 진단 보고서 등 원본 출처에 명확히 연결되도록 설계했다"며 "이를 통해 참조된 정보가 신뢰할 수 있음을 보장하며, 데이터 검색 오류 문제를 실질적으로 해결했다"고 설명했다.

이러한 방법론은 새로운 환자 기록을 종합하는 데도 유용하게 활용되고 있다. 외부 의료기관에서 받은 복잡한 환자 정보를 AI가 신속하게 정리하고 요약해 의료진이 보다 효율적으로 활용할 수 있도록 지원하는 것이다. 기존에는 환자 기록을 검토하는 데만 90분 이상 소요되던 작업이 AI를 활용하면 10분 이내로 단축된다.

메이요 클리닉은 향후 이 기술을 더욱 발전시켜 **AI 기반 의료 진단 및 치료 예측 모델 개발**에 적극 나설 계획이다. 현재 AI 반도체 기업 **세레브라스 시스템즈**와 협력해 유전자 분석을 기반으로 최적의 관절염 치료법을 예측하는 모델을 개발하고 있으며, 마이크로소프트와 손잡고 의료 영상 분석을 위한 AI 모델 구축에 나섰다. 특히 흉부 X레이를 분석하는 프로젝트에서는 150만 건의 데이터를 변환했으며, 추가로 1,100만 건의 데이터를 확보할 예정이다.

칼스트롬은 이러한 연구의 목표를 “의료진이 더욱 정밀하고 환자 맞춤형 케어를 제공할 수 있도록 하는 데 있다”고 강조했다. 그는 AI가 단순 정보 제공을 넘어, 유전자, 단백질 분석 등 복합적인 의료 데이터를 활용해 **개인 맞춤형 치료법을 제시하는 수준으로 발전할 가능성이 크다**고 내다봤다.

결국 AI가 의료 현장에서 신뢰성 있는 기술로 자리 잡기 위해서는 지속적인 검증과 연구가 필수적이다. 칼스트롬은 “인공지능의 잠재력을 최대한 활용하면서도, 진단 및 치료 결정에서 신뢰성을 확보하는 것이 궁극적인 목표”라며 “이 기술들이 의료 분야의 패러다임을 바꾸는 핵심 요소가 될 것”이라고 말했다.