클라우드 기반 네트워크 보안 기업 카토 네트웍스(Cato Networks)가 기업 내 그림자 AI(shadow AI) 문제를 해결할 수 있는 새로운 제너레이티브 AI 보안 기능을 발표했다. 이 기능은 Cato의 클라우드 접근 통제 브로커(CASB) 솔루션에 탑재되었으며, IT 및 보안 팀이 AI 활용의 리스크를 통제하면서 혁신을 도모할 수 있도록 설계됐다.
이번에 발표된 그림자 AI 대시보드는 조직 내에서 사용 중인 생성형 AI 도구를 실시간으로 탐지하고, 분석하며, 인사이트를 제공하는 기능을 갖췄다. 정책 관리 엔진과 결합돼 사용자가 어떤 애플리케이션에 접근하고 어떤 작업(예: 업로드, 다운로드)을 수행할 수 있는지를 세밀하게 제어할 수 있도록 지원한다.
카토 네트웍스는 이 기능이 제너레이티브 AI의 빠른 확산과 함께 성장해온 보안 우려에 대한 대응이라고 설명한다. 오픈AI(OpenAI)의 공동 창업자인 샘 올트먼(Sam Altman)은 최근 생성형 AI의 월간 사용자 수가 10억 명에 육박한다고 발표했는데, 이는 업무 생산성과 자동화를 증대시키는 한편, 기업 내 통제되지 않은 AI 사용 문제 역시 심화시키고 있다는 분석이다.
가트너는 2027년까지 생성형 AI의 잘못된 사용으로 인해 전체 AI 관련 정보 유출의 40% 이상이 발생할 것이라고 경고한 바 있다. 실제로 조직 내 많은 임직원이 공식 승인 없이 AI를 활용하며 민감한 정보가 외부 애플리케이션으로 유출될 가능성이 높아지고 있다. 이를 통해 조직은 보안 위협은 물론 준법 감시 및 비즈니스 의사결정 왜곡 같은 추가 리스크를 안게 된다.
카토 CASB의 새로운 보안 기능은 950개 이상의 제너레이티브 AI 애플리케이션을 식별할 수 있는 데이터베이스를 기반으로, 제어 가능한 환경을 제공한다. 기업은 승인된 애플리케이션과 비승인 도구를 명확히 구분하고, 실시간으로 AI 사용 내역과 데이터를 추적할 수 있어 민감 정보가 대형 언어 모델(LLM)로 유출되는 것을 효과적으로 차단할 수 있다.
카토 네트웍스 제품관리 부사장 오피르 아가시(Ofir Agasi)는 “이제 기업은 생성형 AI를 효율적으로 관리할 수 있는 지능적 수단이 필요하다”며, “이번 업그레이드는 카토 SASE 클라우드 플랫폼을 통해 전체 조직 차원의 AI 사용 실태를 탐색하고 보호하기 위해 설계된 것”이라고 강조했다.
카토 네트웍스 최고경영자 슐로모 크래머(Shlomo Kramer)도 최근 실리콘앵글(SiliconANGLE) 미디어와의 인터뷰에서 “우리는 네트워크 보안을 플랫폼으로 재정의하고 있으며, 이번 조치는 그 일환”이라고 밝혔던 바 있다. AI가 기업 생산성과 경쟁력을 좌우하는 시대, 보안과 관리 역시 그에 걸맞은 수준으로 진화하고 있다는 평가가 나온다.