센티언트, AI 보안 끌어올릴 오픈소스 프레임워크 공개… 탈중앙 생태계 본격 시동

개발자 중심 인공지능 스타트업 센티언트(Sentient)가 AI 보안을 강화할 수 있는 '신뢰 실행 환경'(Trusted Execution Environments, TEE) 기반의 오픈소스 프레임워크를 공개하며 눈길을 끌고 있다.

센티언트가 최근 공개한 '센티언트 엔클레이브 프레임워크 v0.70'은 AI 모델을 실행하는 동안 데이터가 절대 외부에 노출되지 않도록 하는 *비밀 컴퓨팅(confidential computing)* 기술을 중심에 둔다. 이 프레임워크는 아마존웹서비스(AWS)의 '나이트로 엔클레이브'를 활용하여, 클라우드 제공자나 호스트 시스템조차 AI 워크로드에 접근하거나 수정할 수 없는 철저한 격리 환경을 조성한다.

TEE란 하드웨어 수준의 경계를 통해 데이터 접근을 원천적으로 차단하는 보안 메커니즘으로, 오늘날 AI가 활용하는 개인정보와 민감한 정보 보호에 대한 요구가 커지며 산업계에서 빠르게 주목받고 있다. 센티언트는 이 기술을 통해 신용카드 정보, 개인 메시지, 달력 일정 등 고도의 민감 정보를 안전하게 활용하는 맞춤형 AI 애플리케이션 구현이 가능하다고 강조했다.

센티언트의 공동창업자 힘안슈 티야기(Himanshu Tyagi)는 이번 프레임워크가 “AI 애플리케이션의 실행 코드가 약속한 대로 작동한다는 점을 기술적으로 보장”해주며, 이를 통해 '충성도 있는 AI(Loyal AI)' 구현이 가능하다고 말했다. 그는 “당사의 프레임워크는 가장 강력한 보안 기술 중 하나를 누구에게나 손쉽게 접근할 수 있도록 만들었다”고 밝혔다.

특히 이번 프레임워크는 전체 코드를 오픈소스로 공개해 개발자들에게 자유롭게 활용할 수 있도록 했다. 이는 지난해 6월 피터 틸(Peter Thiel)의 파운더스 펀드(Founders Fund) 등으로부터 8,500만 달러(약 1,224억 원)의 투자를 유치하며 밝힌 '탈중앙화된 오픈소스 생태계' 구축이라는 센티언트의 장기 전략 일환이다.

센티언트는 블록체인 기반의 분산 플랫폼을 통해 누구나 대규모 언어모델(LLM) 개발에 참여할 수 있도록 장려하는 구조를 설계했다. 참여자의 기여도에 따라 암호화폐 보상이 이뤄지며, 데이터는 공유되고 컴퓨팅 리소스는 분산돼 기존의 중앙 집중형 AI 모델 개발 대안으로 부각되고 있다.

현재 암호화폐 거래소 코인베이스(Coinbase)와 바이코노미(Biconomy)도 이 프레임워크에 기반한 보안 AI 애플리케이션을 도입한 상태다. 다만 적용 중인 서비스의 구체적인 내용은 공개되지 않았다.

한편 센티언트는 향후 AWS 외에도 인텔(Intel)의 트러스트 도메인 익스텐션(Trust Domain Extensions), AMD의 SEV(Secure Encrypted Virtualization), 엔비디아(Nvidia)의 멀티 인스턴스 GPU 등 다양한 TEE 환경에 대한 지원도 확대할 계획이다.

이같은 시도는 최근 유럽에서 논란이 된 X(전 트위터)의 AI 훈련을 위한 개인정보 수집 문제와 같이, AI 개발이 이용자 사생활 침해 문제로 비판받고 있는 시점에서 기술적 신뢰성을 제공할 또 다른 해법으로 조명받고 있다. 센티언트는 프레임워크의 차기 버전(v0.7.1)을 통해 파일 시스템의 실시간 검증 기능도 도입하고, AI 모델의 전체 실행 과정을 사용자 스스로 신뢰할 수 있도록 하겠다는 방침이다.