기업 AI 사용 30배 급증… 보안 위협도 함께 늘었다

클라우드 보안 기업 지스케일러(Zscaler)의 최신 보고서에 따르면, 기업용 인공지능(AI) 및 머신러닝(ML) 도구의 사용량이 지난해 대비 30배 이상 급증했다. 그러나 AI 활용이 확대되면서 보안 위협 또한 증가하는 것으로 나타났다.

이번 보고서는 '지스케일러 위협연구소 2025 AI 보안 리포트'에서 발표된 결과로, 자사 제로트러스트 익스체인지(Zero Trust Exchange) 플랫폼에서 처리된 5,360억 건 이상의 AI 트랜잭션을 분석한 내용을 담고 있다. 보고서는 AI 기반 피싱 공격, 가짜 AI 플랫폼 증가 등 다양한 보안 위협 사례를 제시하고, 향후 AI 보안 환경을 변화시킬 요인들을 언급했다.

특히, 기업 내 AI 및 ML 도입이 연간 3,000% 이상 증가했다는 점이 주목된다. 이는 AI가 생산성과 효율성을 극대화하는 핵심 기술로 급속히 자리 잡았음을 의미한다. 지스케일러의 분석 결과, 기업들은 AI 도구를 활용하기 위해 4,500TB에 달하는 데이터를 전송했지만, 동시에 전체 AI 트랜잭션 중 약 60%를 차단한 것으로 확인됐다. 이는 AI 도구가 데이터 유출, 무단 접근 및 규제 위반 가능성을 높인다는 우려가 반영된 조치로 풀이된다.

보고서에 따르면, 기업들이 가장 많이 사용하는 AI 도구는 챗GPT(ChatGPT)로, 글로벌 AI 사용량의 47.1%를 차지했다. 하지만 동시에 가장 많이 차단된 도구 역시 챗GPT였다. 이는 민감한 데이터 노출과 승인되지 않은 사용에 대한 경각심이 높아졌기 때문으로 보인다. 함께 차단 빈도가 높았던 AI 도구로는 그래머리(Grammarly), 마이크로소프트 코파일럿(Microsoft Copilot), 퀼봇(QuillBot), 워드튠(Wordtune) 등이 포함됐다.

AI 기술 발전에 따라 보안 위협도 빠르게 진화하는 양상이다. 보고서에서는 '에이전틱 AI(agentic AI)'와 중국의 오픈소스 AI 모델 '딥시크(DeepSeek)'를 인용하며, 이러한 기술이 해커들에게 사이버 공격을 확산시킬 새로운 수단이 될 수 있다고 경고했다.

AI 도입 국가별 순위를 보면, 미국이 1위를 차지했으며, 인도가 그 뒤를 이었다. AI 확산이 전 세계적으로 가속화됨에 따라 보안 문제뿐만 아니라 컴플라이언스 준수, 높은 도입 비용, 숙련된 인재 부족 등 다양한 도전 과제가 등장하고 있다.

산업별 AI 사용량을 살펴보면, 금융 및 보험업이 28.4%로 가장 높은 비율을 차지했으며, 이는 사기 탐지, 리스크 모델링, 고객 서비스 자동화와 같은 핵심 기능에서 AI가 적극 활용되고 있음을 반영한다. 이어 제조업이 21.6%, 서비스업 18.5%, IT 10.1%, 헬스케어 9.6% 순으로 나타났다.

지스케일러 연구진은 "AI는 혁신과 효율성을 크게 향상시키는 도구이지만, 동시에 기업들은 생성형 AI 도입에 따른 새로운 리스크를 신중하게 고려해야 한다"며 "빠르게 변화하는 AI 생태계에서 보안 위협을 차단하기 위해선 AI 기반 보안 솔루션 또한 같은 속도와 규모로 발전해야 한다"고 강조했다.