생성형 AI 보안, 더 촘촘해진다… 프롬프트 시큐리티, 정밀 인증 시스템 출시

생성형 AI 보안 스타트업 프롬프트 시큐리티(Prompt Security)가 기업의 AI 애플리케이션과 데이터 접근을 보다 정밀하게 관리할 수 있도록 새로운 인증 기능을 출시했다.

이번에 도입된 '정체성 및 컨텍스트 기반 인증 시스템'은 민감한 데이터를 보호하면서도 AI의 활용도를 극대화할 수 있도록 설계됐다. 기존의 권한 기반 접근 통제 방식이 생성형 AI 환경에서는 충분하지 않다는 점을 반영한 것이다. 프롬프트 시큐리티는 "AI 모델이 자연어 인터페이스를 통해 기밀 정보를 예기치 않게 노출할 가능성이 크기 때문에, 보다 정교한 제어 방안이 필요하다"고 강조했다.

잇마르 골란(Itamar Golan) 프롬프트 시큐리티 공동 창업자 겸 CEO는 "기업들은 지난 수년간 강력한 접근 제어 시스템을 구축해왔지만, 생성형 AI가 새로운 차원의 보안 문제를 일으키고 있다"고 지적했다. 이어 "직원들이 단순히 AI에 급여 정보나 성과 평가 내용을 묻는 것만으로도 기밀이 유출될 수 있는 상황에서, 기존 방법만으로는 한계가 있다"고 덧붙였다.

이번 인증 시스템은 AI 모델이 실시간으로 프롬프트와 응답을 점검하고, 정책 기반으로 데이터 유출을 방지하는 것이 핵심이다. 사용자 신원과 요청의 맥락을 동시 검토하는 '실행 시 컨텍스트 인증', 부서별 정책 설정 기능, 그리고 옥타(Okta)와 마이크로소프트 엔트라(Microsoft Entra) 같은 주요 ID 관리 플랫폼과의 통합 등이 주요 특징이다.

이 외에도 AI가 제공하는 데이터의 일부를 가리거나 완전히 차단하는 ‘유연한 삭제 옵션’, 모든 요청 내역을 기록하는 '감사 로깅' 기능을 포함해 대규모 조직도 보다 쉽게 접근 규칙을 적용하고 보안을 강화할 수 있도록 했다.

프롬프트 시큐리티는 점프 캐피털(Jump Capital), 헤츠 벤처스(Hetz Ventures), 릿지 벤처스(Ridge Ventures), 옥타, F5 등의 투자자로부터 총 2,300만 달러(약 331억 원)의 자금을 유치한 바 있다. 2024년 1월에는 500만 달러(약 72억 원) 규모의 초기 투자 이후, 같은 해 11월 1,800만 달러(약 259억 원)의 추가 투자를 확정 지었다.