금융권 AI 도입, 업무 선정·데이터 추적이 출발점

기업의 AI 도입은 모델을 고르기 전에 해결할 업무를 정하고, 결과의 근거가 된 데이터를 추적할 체계를 갖추는 데서 시작해야 한다는 금융권 경영진의 의견이 나왔다. 뱅크오브아메리카(Bank of America)는 AI 프로젝트를 16개 위험 항목으로 검토한다고 밝혔다.

두 회사 경영진은 10월 1일 뉴욕증권거래소에서 열린 포춘(Fortune) AIQ 서밋에서 금융 업무의 AI 적용 사례와 관리 원칙을 설명했다. 공식 행사 페이지에는 하리 고팔크리슈난(Hari Gopalkrishnan) 뱅크오브아메리카 최고기술·정보책임자와 샐리 무어(Sally Moore) S&P 글로벌(S&P Global) 최고고객책임자 겸 마켓 인텔리전스 공동 책임자가 연사로 기재됐다.

고팔크리슈난은 고객이 겪는 문제와 업무 절차를 먼저 살핀 뒤 AI 적용 여부를 결정해야 한다고 말했다. 결정론적 모델이나 간단한 규칙으로 충분한 업무에 AI를 서둘러 도입하면 잘못된 선택이 될 수 있다는 설명이다. 뱅크오브아메리카는 개인정보 보호, 편향, 인력 영향, 지식재산권 등을 포함한 16개 위험 항목을 살핀다.

고팔크리슈난은 특정 억양을 알아듣지 못하는 챗봇이나 편향된 사기 탐지 모델이 고객 경험을 해칠 수 있다고 설명했다. AI 오류가 기술 문제를 넘어 고객과 규정 준수, 기업 평판에 영향을 줄 수 있다는 취지다.

무어는 금융 업무에서 AI 결과를 원천 데이터와 지식재산까지 추적할 수 있어야 한다고 강조했다. 정확성뿐 아니라 결과가 어떤 데이터에 근거했는지 확인하고 감사할 절차도 필요하다는 설명이다.

무어는 S&P 글로벌 데이터 여러 묶음을 자체 플랫폼에 통합한 익명 대형 은행 사례를 소개했다. 포춘은 S&P 글로벌 측 발표를 인용해 실제 운영 단계까지 걸린 시간이 약 6분의 1로 줄고 정확도가 초기 약 60%에서 98%로 높아졌다고 전했다. 이 사례에서 은행 이름과 정확도 산정 기준, 검증 방법은 공개되지 않았다.

앞서 금융권의 AI 위험 점검과 정확도 개선 사례를 다룬 보도에서도 두 회사 경영진은 해결할 문제와 데이터 신뢰성을 먼저 따져야 한다고 강조했다. 이번 서밋 발언은 결과의 근거가 된 원천 데이터와 지식재산을 추적해야 한다는 점을 짚었다.