생성형 AI 확산 속 데이터 보안 과제 급부상… 금융권 대응은?

생성형 AI 기술이 빠르게 발전하면서 기업들은 민감한 데이터 보호를 위한 새로운 보안 과제에 직면하고 있다. 특히, 마이크로소프트(MSFT)의 코파일럿(Copilot)과 세일즈포스(CRM)의 에이전트포스(Agentforce) 같은 AI 기반 플랫폼이 업무 환경에서 널리 사용되면서, 데이터 관리와 접근 제어가 더욱 복잡해지고 있다.

바로니스 시스템즈(Varonis Systems)의 브라이언 베치 최고기술책임자(CTO)는 "기업들은 단순히 데이터 접근 권한을 부여하는 것이 아니라, 어떤 데이터가 어떻게 사용되며, 누가 접근할 수 있는지 철저히 파악해야 한다"고 강조했다. 그는 최근 한 월스트리트 대형 은행이 코파일럿을 시험 도입했다가 예기치 못한 데이터 유출 사건을 경험한 사례를 공유했다. 직원들이 코파일럿을 통해 사내 주식 투자 데이터를 조회하자, 예상보다 훨씬 방대한 정보가 공개되었고, 여기에는 직원들의 이름, 사회보장번호, 계좌 정보 등이 포함돼 있었다.

바로니스는 이러한 위험을 최소화하기 위해 AI 기반 모니터링과 자동화 기술을 활용하고 있다. AI 모델을 적용해 데이터 접근 패턴을 분석하고, 이상 징후를 신속히 감지해 대응할 수 있도록 지원하는 것이 핵심이다. 이 같은 노력 덕분에 바로니스는 ‘더큐브(theCUBE) 탑 데이터 보호 혁신상’을 수상하기도 했다.

베치는 "우리는 단순히 데이터를 보호하는 것이 아니라, 데이터를 ‘누가, 언제, 어떻게’ 사용하는지를 파악해 실시간 위협 대응이 가능하도록 한다"며, "관리형 데이터 탐지 및 대응 서비스(SaaS)를 통해 위협을 사전 감지하고 기업들이 적절히 대응할 수 있도록 돕고 있다"고 설명했다.

생성형 AI의 빠른 확산과 함께, 데이터 보안의 중요성도 커지고 있다. 기업들이 AI를 보다 안전하게 활용하려면, 체계적인 보안 대책과 지속적인 모니터링이 필수적이라는 점이 강조된다.