AI에 신뢰를 더하다… 트러스트와이즈, '책임 있는 기술'로 주목

생성적 인공지능의 영향력이 기업 운영 전반과 일상생활에까지 깊숙이 확산되면서 기술의 책임 있는 활용 방안이 주요 의제로 부상하고 있다. 이 가운데 미국 스타트업 트러스트와이즈(Trustwise)는 AI 신뢰성 확보에 선도적으로 나서며 업계의 주목을 받고 있다.

마노지 삭세나(Manoj Saxena) 대표는 “AI 프로젝트의 82%가 실제 운영 단계에 이르지 못하고 있다”며 현시점에서 시장이 기술의 효과보다 *위험성*에 더 주목하고 있다고 지적했다. 그는 “기술이 추구해야 할 것은 단순한 수익 창출이 아니라 인간을 위한 안전한 시스템 구현이며, 트러스트와이즈는 AI 기술 위에 신뢰의 층을 쌓는 것을 사명으로 하고 있다”고 강조했다.

그는 최근 실리콘앵글(theCUBE)과의 인터뷰에서 “AI를 둘러싼 기술적 패권 경쟁이 뜨거운 지금, 혁신과 함께 반드시 따라야 할 것은 *윤리적 기준*”이라며 이를 실현할 수 있는 구조가 필요하다고 밝혔다. 특히 챗GPT 같은 강력한 생성형 AI가 공개되기 전까지는, 누구도 *비상제어체계* 구축에 진지하게 접근하지 않았다고 지적했다.

트러스트와이즈는 이를 해결하기 위해 다양한 검증 프레임워크와 책임 기반 설계 원칙을 통한 기술 개발에 노력을 집중해왔고, 그 성과로 ‘올해의 가장 혁신적인 기술 스타트업’ 부문에서 CUBEd 어워드를 수상하는 등 외부 평가에서도 높은 신뢰를 얻고 있다. 삭세나 CEO는 트러스트와이즈의 미션이 “사회 전체가 안심하고 AI를 사용할 수 있게 만드는 것”이라며, 이를 뒷받침할 수 있는 *신뢰 인프라* 구축이 반드시 이뤄져야 한다고 말했다.

과거 IBM 왓슨 담당 총괄임원으로도 널리 알려진 그는, 9년 전부터 비영리 단체 ‘책임 있는 AI연구소(Responsible AI Institute)’를 창립해 지속가능한 기술 생태계 조성에 힘쓰고 있다. 그는 “AI에는 아무것도 인공적인 것이 없다. 결국 사람의 삶을 바꾸는 기술이며, 그렇기 때문에 더 신중하고 책임 있는 접근이 필요하다”고 지적했다.

트러스트와이즈의 행보는 기술 혁신이 반드시 윤리성과 신뢰성을 바탕으로 해야 한다는 점을 상기시키며, AI 시대의 지속적 성장과 공존의 기준이 무엇인지를 다시 묻게 만든다.