AI로 무장한 봇(bot) 공격이 사이버 보안 지형을 근본적으로 바꾸고 있다. 오늘날 기업이 마주한 사기(fraud)의 40% 이상이 AI의 도움을 받아 생성된 정교한 공격으로, 실제 사용자와 유사한 행동을 모방하고, 방어 시스템을 우회하며, 전례 없는 속도로 확장되고 있다. 2024년 기업의 90% 가까이가 표적이 되었고, 이 중 절반 이상은 1,000만 달러(약 144억 원) 이상의 피해를 입었다.
특히 악성 봇은 과거 단순 반복에서 벗어나 인간 행동을 모사하는 ‘고도화된 봇’으로 진화하며, 계정 탈취(Account Takeover)나 티켓 스미싱과 같은 공격을 대규모로 수행한다. 이들은 사람처럼 마우스를 움직이고 클릭하며 로그인 정보를 탈취하는 시뮬레이션 프레임워크를 구축해 기존의 방화벽이나 탐지 툴이 미처 인식하지 못한 채 침투한다.
SOC(Security Operations Center, 보안 운영 센터)의 역할도 변화하고 있다. 과거 단순 방어 기능에 집중했던 SOC는 이제 실시간 이상 징후를 감지하고 사기 시도를 초동 차단하는 중심 허브로 재정의되고 있다. 이런 변화의 중심에는 봇 행동을 실시간으로 점수화하고 평가하는 온라인 사기 탐지 시스템(OFD)이 있다.
대표적 사례로 지난해 테일러 스위프트 콘서트 예매를 둘러싼 혼란을 들 수 있다. 전 세계적인 티켓 수요를 노린 공격자들이 수억 건의 악성 요청을 Ticketmaster에 쏟아붓자 시스템은 마비되었고, 고객 대다수는 예매 기회를 놓쳤다. 데이터돔(DataDome)은 이 같은 대규모 봇 트래픽을 실시간으로 분류해 팬과 공격자를 구분하고, 티켓 판매 시스템의 정상 작동을 지켜냈다.
가트너(Gartner)에 따르면, 사기를 능동적으로 감지하고 방어하려면 로그인부터 결제, 거래 이후 행동까지 모든 유저 경로를 지속적으로 분석하는 ‘Journey-Time Orchestration(JTO)’이 핵심이다. 이는 전통적인 단일 시점 체크 방식보다 더 유연하게 AI 기반 공격을 실시간으로 감지하고 대응할 수 있다.
데이터돔, 아이반티(Ivanti), 텔레사인(Telesign) 등은 각각의 기술력으로 이 새로운 보안 패러다임의 선두로 떠오르고 있다. 데이터돔은 전 세계 30개 이상 거점에서 8만5,000여 개 머신러닝 모델을 동시 활용, 하루 5조 건 이상의 데이터 포인트를 실시간 처리하며 역동적 위협에 대응한다. 과거에는 CAPTCHA가 효율적이었지만, 지금은 봇이 인간보다 빠르게 통과하는 시대다. 이 때문에 사람처럼 보이는 봇을 거르기 위해선 AI 기반 행동 분석이 필수가 되고 있다.
아이반티는 '제로 트러스트' 개념을 세션 전체로 확장하며, 인증 과정 이후에도 사용자의 행동을 지속적으로 모니터링하고, 위협을 신속히 감지해 자동 대응하는 구조로 진화했다. ‘패치 관리’를 넘어 ‘노출 관리’로 기능을 전환해, 취약점을 사전에 방지하는 것을 핵심 전략으로 삼고 있다.
텔레사인은 사용자의 디지털 정체성을 구성하는 2,200가지 신호를 세션 전체 기간 동안 분석하는 API를 제공한다. 전화번호 메타데이터나 IP 평판같이 사용자에게 고유한 속성을 선별해 봇 행동과 인간 특성을 분리하며, 모든 접근 시도에 실시간 위험 점수를 부여한다. 실제로 여러 채널 간 인증(API 포함)을 단일 플랫폼으로 통합함으로써 고객 경험을 저해하지 않으면서도 보안 수준은 유지하는 데 성공했다.
CISO(최고 정보 보안 책임자)들과 가트너의 추천이 일치하는 이유는 명확하다. 정교화된 AI 봇 공격은 과거의 정적 룰이나 단편적 방어 시스템으론 막을 수 없다. AI가 창을 만들었다면, 방패 또한 AI가 되어야 하는 시대다. 사기 감지를 위한 행동 분석을 SOC의 핵심 자산으로 가져오는 기업들만이 이 싸움에서 살아남을 수 있다.
결론적으로 온라인 사기 탐지는 더는 독립적인 기능이 아니라 기업 보안 전략의 중심에 있어야 한다. AI 기반 위협이 실시간으로 진화하는 상황에서, 실시간 판단과 행동이 가능한 SOC만이 회복탄력성을 담보할 수 있다. 기술력뿐 아니라 보안을 둘러싼 의식의 변화 역시 그 무엇보다 중요한 전환점에 이르렀다.