AI 해킹의 진화…'젠소록스AI', 탐지 피하는 오프라인 괴물 등장

차세대 악성 인공지능 ‘젠소록스AI(Xanthorox AI)’가 사이버범죄 포럼을 중심으로 빠르게 확산되며 보안업계에 심각한 경각심을 불러일으키고 있다. 젠소록스AI는 기존의 AI 해킹 툴과 달리 언어모델을 변형한 방식이 아니라, 완전한 오프라인 기반의 자체 구축형 시스템으로 설계돼 있어 탐지가 매우 어렵다는 점에서 위협 수준이 더욱 높다.

슬래시넥스트(SlashNext)의 최신 보고서에 따르면 젠소록스AI는 사이버 범죄자들이 자유롭게 수정하고 배포할 수 있도록 모듈화된 구조를 갖췄으며, API 모니터링이나 클라우드 서비스 차단 우려가 전혀 없는 ‘로컬 퍼스트(Local-First)’ 방식으로 작동한다. 이 AI 플랫폼은 주요 기능을 담당하는 다섯 개의 독립 모델로 분리돼 있어, 각종 악성코드 생성, 이미지 분석, 데이터 스크레이핑, 사회공학적 해킹까지 한 번에 수행할 수 있는 종합 패키지형 도구로 작용한다.

특히 주목할 만한 부분은 ‘젠소록스 코더(Xanthorox Coder)’와 ‘젠소록스 비전(Xanthorox Vision)’이다. 전자는 해킹 코드와 악성 소프트웨어 생성에 특화된 언어 처리 엔진이며, 후자는 이미지 속 텍스트나 메타데이터를 자동 분석해 정보를 추출하는 기능까지 포함하고 있다. 이를 통해 범죄자는 인터넷 연결 없이도 다양한 실시간 공격 시나리오를 실행할 수 있고, 탐지 흔적을 남기지 않은 채 작전을 종료할 수 있다.

슬래시넥스트는 자사 AI 기반 이메일 행위 분석 도구를 통해 젠소록스AI와 같은 위협을 사전에 탐지하고 차단하는 데 주력하고 있다고 밝혔다. 멀티채널 공격, 이미지 기반 스피어 피싱 등 AI를 응용한 최신 수법이 증가함에 따라, 이 같은 행동 기반 분석 기법의 중요성이 크다는 게 전문가들의 평가다.

사이버 보안 크라우드소싱 업체 버그크라우드(Bugcrowd)의 설립자 케이시 엘리스(Casey Ellis)는 젠소록스AI가 “혁신적인 범죄 생태계 발전을 보여주는 사례”라며, “공격자와 방어자 간의 끈질긴 ‘추적과 회피’ 게임에서 근본적으로 벗어나기 위한 해커들의 전략이 고도화되고 있다”고 분석했다. 그는 이어 “다양한 모델을 분리해 운영하는 혼합 전문가(Mixture of Experts) 아키텍처가 매우 정교하게 구현돼 있어, 그 유연성과 효율성 면에서 현재까지 등장한 AI 해킹 툴 가운데 가장 위협적”이라고 경고했다.

이미 전례가 있는 워머GPT(WormGPT)나 프로우드GPT(FraudGPT)와는 차원이 다른 접근법으로 설계된 젠소록스AI는, 악의적인 AI 기술이 어느 수준까지 발전했는지를 단적으로 보여주는 사례다. 보안업계는 이에 대응하기 위해 기존 탐지 기술을 넘어선 AI-대-AI 환경 전환에 서둘러 대응해야 할 시기로 내몰리고 있다.