AI 에이전트 속도에 기존 보안모델 한계…자율 통제 부상

인공지능(AI) 에이전트가 외부 도구와 데이터를 다루며 사람보다 빠르게 작업을 이어가면서, 사람의 승인과 사후 대응을 전제로 한 기존 사이버보안 모델이 한계에 부딪히고 있다. 보안 체계도 AI 에이전트의 자율 행동을 실시간으로 제한하고 기록하는 방식으로 바뀌어야 한다는 지적이 나온다.

테크크런치는 23일 인덱스벤처스의 사이버보안·기업용 소프트웨어 투자 담당 파트너 샤둘 샤(Shardul Shah)가 팟캐스트에서 이 같은 진단을 내놨다고 전했다. 샤는 인덱스벤처스가 사이버보안과 기업용 소프트웨어에 투자해 왔으며, 클라우드 보안 기업 위즈의 여러 투자 라운드에도 참여했다고 소개됐다.

기존 보안 시스템은 사람이 경고를 확인한 뒤 대응 여부를 결정하는 구조에 가깝다. 통상 이런 방식에서는 분석과 승인에 걸리는 시간이 대응 절차의 일부로 전제된다.

그러나 AI 에이전트는 명령을 해석하는 데 그치지 않고 외부 도구를 호출하거나 데이터를 다루며 여러 작업을 이어갈 수 있다. 이에 따라 공격과 방어 과정에서 사람이 확인하는 시간 자체가 새로운 취약점이 될 수 있다.

샤는 주기적으로 사람이 개입하는 기존 보안 방식만으로는 AI 에이전트의 속도를 따라가기 어렵다고 말했다. 에이전트가 업무 시스템과 보안 도구에 직접 연결될수록 사람의 승인 절차와 자동화된 실행 사이의 간격을 어떻게 관리할지가 중요해진다는 의미다.

AI 안전성과 통제되지 않은 에이전트에 대한 우려가 커지면서 관련 스타트업으로도 자금이 유입되고 있다. 테크크런치는 인스팅트(Instinct)와 시밀리(Simile)가 과거라면 설명하기 어려웠을 수준의 대규모 투자와 기업가치를 인정받았다고 소개했다.

다만 테크크런치는 시밀리를 가상 이용자를 활용한 마케팅·제품 조사 서비스를 개발하는 스타트업으로 소개했으며, AI 보안 기업인 인스팅트와는 사업 영역이 다르다고 보도했다.

대형 인수도 보안 기술의 중요성을 보여주는 사례로 거론된다. 구글은 3월 클라우드·AI 보안 기업 위즈 인수를 완료했다고 발표했다.

구글은 이번 인수가 멀티클라우드와 AI 기반 보안 역량을 강화하기 위한 것이라고 설명했다. 거래 규모는 테크크런치가 320억달러(약 43조3280억원)로 소개했지만, 구글 공시에는 매입 가격 조정 등을 반영한 금액이 295억달러(약 39조9430억원)로 기재됐다. 구글 공식 발표와 미국 증권거래위원회 공시 사이에 금액 차이가 있는 이유는 거래 조건 반영 방식이 다르기 때문이다.

방어 기술도 AI를 활용하는 방향으로 이동하고 있다. 팔로알토네트웍스는 여러 AI 모델을 이용해 고객 시스템의 보안 결함을 찾고 수정 방안을 제시하는 구독형 서비스를 출시했다. 액시오스는 이 서비스를 보도했다.

팔로알토네트웍스는 서비스에 앤트로픽의 모델과 오픈AI 모델, 오픈웨이트 모델을 함께 활용한다고 밝혔다. 이는 보안 제품이 단일 탐지 기능에 머물지 않고 결함 분석과 수정 제안까지 자동화하는 흐름으로 확장되고 있음을 보여준다.

문제는 AI를 방어에 투입하는 것만으로 위험이 사라지지 않는다는 점이다. 앤트로픽은 9월 위협 보고서에서 사람의 개입 없이 접근 권한을 갱신하거나 클라우드 저장공간을 수집하는 자동화된 공격 사례를 관찰했다고 밝혔다. 앤트로픽 위협 보고서는 에이전트가 가진 권한과 행동 범위를 별도로 관리해야 한다는 문제를 제기했다.

AI 에이전트 보안에서는 접근 권한의 범위, 외부 도구 사용 기록, 작업 중단 절차가 핵심 관리 대상이 된다. 에이전트가 업무를 대신 수행하는 과정에서 어떤 명령을 받았고 어떤 시스템에 접근했는지 남겨야 사고 원인을 추적할 수 있다.

이 같은 논의는 국내 산업에도 이어질 수 있다. 본지도 앞서 AI 에이전트가 파일 수정과 명령 실행, 검색, 배포까지 수행할 수 있다는 점을 다뤘다. 업무 시스템 안에서 권한을 가진 AI가 움직이면 계정 관리만으로는 보안 통제를 끝내기 어렵다.

샤는 인덱스벤처스가 과거보다 적은 검증만으로도 AI 기반 보안 기업에 투자하고 있다고 말했다. AI 에이전트의 활용 범위가 넓어지는 가운데 보안 기업의 경쟁은 탐지 성능뿐 아니라 에이전트의 권한을 제한하고 행동을 기록하며 필요할 때 중단할 수 있는지로 확대되고 있다.