기업 AI 도입 30배 급증… 보안 위협도 덩달아 증가

기업의 AI 도입이 급증하는 가운데, 보안 리스크에 대한 우려도 커지고 있다. 클라우드 보안 기업 제스칼러(Zscaler)의 최신 보고서에 따르면, 전 세계 기업들이 인공지능(AI) 및 머신러닝 도구를 사용하는 비율이 지난해보다 30배 이상 증가했다. 그러나 이러한 기술 활용이 확대되면서 보안 위협 또한 급격히 늘어나고 있다는 분석이다.

이번 보고서는 제스칼러의 '제로 트러스트 익스체인지(Zero Trust Exchange)' 플랫폼을 통해 5360억 건 이상의 AI 트랜잭션을 분석한 결과를 바탕으로 작성됐다. 특히 AI를 활용한 피싱 공격, 가짜 AI 플랫폼 등 현실적인 보안 위협 사례와 향후 AI 기술 발전이 보안에 미칠 영향을 집중 조명하고 있다.

보고서에 따르면, AI 및 머신러닝 도입의 급증은 기업들의 생산성과 효율성을 높이는 주요 요인으로 작용하고 있다. 그러나 동시에 데이터 유출, 무단 접근, 컴플라이언스 위반 등의 리스크가 커지면서 기업들은 AI 트랜잭션의 약 60%를 차단한 것으로 나타났다. 실제로 기업들이 AI 도구로 전송한 데이터는 4500테라바이트에 달했으며, 가장 많이 활용된 AI 도구는 챗GPT(ChatGPT)로, 전체 글로벌 AI 및 머신 사용량의 47.1%를 차지했다. 하지만 챗GPT는 민감한 데이터 유출 위험이 높다는 이유로 가장 많이 차단된 도구로도 꼽혔다. 그 외에도 그램말리(Grammarly), 마이크로소프트 코파일럿(Microsoft Copilot), 퀼봇(QuillBot), 워드튠(Wordtune) 등의 AI 도구가 높은 차단율을 기록했다.

특히 보고서는 AI 혁신이 가속화됨에 따라 보안 위협 또한 날로 정교해지고 있다는 점을 강조했다. 중국의 오픈소스 AI 모델 '딥시크(DeepSeek)'와 같은 기술이 등장하면서 악의적인 공격자들이 AI를 악용하는 사례가 증가하고 있다. 이에 따라 보안 전문가들은 AI 기술을 활용한 보안 솔루션 도입이 더욱 시급해지고 있다고 지적했다.

AI 및 머신러닝 도입이 가장 활발한 국가는 미국이었으며, 그 뒤를 인도가 바짝 뒤쫓았다. 기업들이 AI 기술을 적극 활용하는 동시에 △보안 문제 △엄격한 규제 준수 △높은 도입 비용 △전문인력 부족 등과 같은 도전에 직면하고 있다는 점도 보고서는 지적했다.

산업별로 살펴보면, 금융 및 보험 부문이 전체 AI 트래픽의 28.4%를 차지하며 가장 적극적으로 AI를 도입하고 있는 것으로 조사됐다. 이들은 AI를 활용해 사기 탐지, 리스크 모델링, 고객 서비스 자동화 등의 분야에서 활용하고 있다. 이어 제조업이 21.6%, 서비스 산업이 18.5%, 기술 부문이 10.1%, 헬스케어 산업이 9.6%를 차지했다.

제스칼러 연구진은 "AI가 혁신과 효율성 향상에 기여하는 것은 분명하지만, 동시에 이전에는 없던 새로운 보안 위협도 발생시키고 있다"며 "기업들이 AI 기술을 최대한 활용하면서도 보안 위협을 최소화하기 위해 AI 기반 보안 솔루션을 적극 도입해야 한다"고 조언했다. 결국 AI가 보안 위협을 초래하는 동시에, AI를 활용해 보안 기술도 발전해야 하는 딜레마에 기업들이 직면해 있다는 것이다.