AI 보안 스타트업 버튜AI, 622억 원 투자 유치…生成형 모델 안전성 강화

AI 보안 스타트업 버튜AI(Virtue AI)가 4,320만 달러(약 622억 원)의 투자금을 유치하고 자사의 인공지능 안전성 솔루션을 강화한다. 라이트스피드 벤처 파트너스와 월든 캐털리스트 벤처스가 주도한 이번 시드 및 시리즈 A 라운드에는 인텔(INTC) 신임 CEO 립부 탄 등 6개 이상의 투자자가 참여해 눈길을 끈다. 이들의 공통된 판단은 갈수록 예측 불가능해지는 AI 동작을 제어할 실질적 수단이 절실하다는 점이다.

AI 기술은 요청을 받을 때마다 다른 결과를 생성할 수 있다는 특성상, 예기치 않은 문제를 유발할 가능성이 높다. 버튜AI는 이런 불확실성을 최소화하기 위해 ‘버튜레드(VirtueRed)’, ‘버튜가드(VirtueGuard)’, ‘버튜에이전트(VirtueAgent)’로 구성된 세 가지 제품군을 내놓았다. 특히 자동 레드팀 기능을 탑재한 버튜레드는 300개 이상의 위험 유형을 분석 가능한 100여 가지 알고리즘을 탑재해, AI 모델의 안전성을 정밀하게 평가할 수 있도록 설계됐다.

이 솔루션은 AI가 생성해낸 악성 코드나 보안 취약점 등을 탐지할 수 있으며, 유럽연합 AI법 등 각종 규제 위반 사례까지 자동으로 파악한다. 그 결과는 요약 리포트 형태로 제공돼 개발자와 보안 담당자들의 조치 판단을 쉽게 해준다. AI 활용이 점점 광범위해지는 상황에서 기업들이 안전한 제품을 빠르게 만들 수 있도록 돕는 데 중점을 뒀다.

버튜가드는 실제 서비스 중인 AI 모델을 실시간으로 방어하는 역할을 맡는다. 음성, 영상, 텍스트 등 멀티모달 생성형 AI 전반에 대응하며, 특히 텍스트 모델 보호 성능은 오픈소스 대안 대비 30배 이상 빠르다는 것이 회사 측 설명이다. 이를 통해 사용자 요청에 대한 응답 속도를 늦추지 않으면서도 악성 결과 생성을 차단할 수 있다.

마지막으로 버튜에이전트는 기업 내 보안 업무를 대신 수행할 수 있는 AI 에이전트를 제공한다. 예를 들어 특정 계정이 접근 가능한 데이터베이스를 판별하거나, 내부 보안 정책을 자동 점검하는 기능 등이 포함된다.

버튜AI는 현재 우버(UBER)와 엔터프라이즈 AI 스타트업 글린(Glean)을 주요 고객으로 확보하고 있다. 공동 창업자이자 CEO인 보 리(Bo Li)는 “기업들은 비효율적인 검증 방식, 비현실적인 가드레일 설정, 수작업 중심 프로세스로 인해 AI 도입에서 큰 병목현상을 겪고 있다”며 자신들이 이를 해소하겠다고 강조했다.

이번 투자를 계기로 버튜AI는 연말까지 엔지니어링과 사업개발 부문을 중심으로 30명의 인력을 추가 채용할 계획이다. 향후 12년간 AI 제품 전 계층을 보호할 수 있는 기능으로 확장하는 것도 장기 로드맵에 포함돼 있다. AI의 전방위 확산 속에서 생성형 모델의 안전성 문제는 산업 전반의 핵심 이슈로 떠오르는 만큼, 버튜AI가 향후 생성형 AI 생태계에서 어떤 역할을 할지 주목된다.