금융위, 신용평가 AI 모형 검증한다...보안 가이드라인 발표

앞으로 금융분야 인공지능(AI) 모델 개발 시 학습 데이터 오염, 개인정보 유출, AI 모델 공격 등 보안위협에 대응 방안을 마련해야 한다.

금융위원회는 17일 인공지능(AI) 기반 신용평가모형 검증체계와 금융분야 AI 보안 가이드라인을 마련했다고 발표했다. 금융위는 검증체계를 활용해 AI 신용평가모형을 활용하고 있는 신용평가회사에 대한 검증을 연내 진행할 계획이다.

가이드라인을 통해 금융분야의 AI 활용 활성화와 신뢰 확보 방안을 구체화해 나간다는 방침이다.

이는 지난해 8월 발표한 '금융분야 인공지능 활용 활성화 및 신뢰확보 방안'의 후속조치다.

'AI 기반 신용평가모형 검증체계'는 AI 특성을 고려해 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지 점검하고, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지 확인한다. 또 신용정보회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증한다.

개인신용평가체계 검증위원회는 AI 기반 신용평가모형 검증체계를 활용해 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사에 대한 검증을 수행할 예정이다.

향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.

사진 = 데이터 중독 프로세스 / 금융위 ‘금융분야 AI 보안 가이드라인

금융분야 AI 보안 가이드라인은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고 AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공한다.

AI 모델 개발단계별 보안 고려사항은 '학습 데이터 수집→ 학습 데이터 전(前)처리 → AI 모델 설계·학습 → AI 모델 검증·평가' 단계로 구성되어 있다.

학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대해 대응할 수 있도록 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 제시한다.

금융분야에서 AI가 가장 활발히 사용되는 서비스 중 하나인 챗봇에 대해서는 ‘AI 챗봇서비스 보안성 체크리스트’를 별도로 마련했다.

보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화하여 제공해 현장 실무자가 쉽게 활용할 수 있을 것으로 기대되고 있다.

금융위 관계자는 "AI가 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이며, 금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "금융분야 인공지능 활용 활성화 및 신뢰확보 방안의 다른 세부 추진과제에 대해서도 차질없이 추진해 나가겠다"고 밝혔다.

더불어 금융위는 금융권 AI 활성화와 신뢰 확보 방안의 다른 세부과제도 차질없이 추진한다고 전했다.

금융 AI 데이터 라이브러리 구축을 위해 신용정보원을 중심으로 금융회사, 핀테크 기업, CB사, 데이터 전문기업 등으로 구성된 컨소시엄을 통해 2분기 중 금융 AI 데이터 라이브러리를 구축할 계획이다.

협업을 통한 빅데이터 공동 확보에도 나선다. 금융보안원을 중심으로 은행·카드업권이 이상금융거래정보 공유 TF를 구성했으며, 2분기 중 AI 학습 데이터셋을 구축·공유할 예정이다.

데이터전문기관 추가지정도 진행한다.

금융위는 지난해 BC카드, LG CNS, 삼성SDS, 삼성카드, 신한은행, 신한카드, 쿠콘, 통계청 등 8개 기관에 대해 데이터전문기관 예비지정을 의결했으며, 본지정 심사를 진행할 예정이다. 이에 더해 설명가능한 AI(XAI) 관련 연구용역을 진행하고 있으며, 연구용역 결과를 반영해 설명가능한 AI 정의·요건, 모범사례 등을 포함한 안내서를 2분기 중 발간할 계획이다.

[email protected]