기업 데이터의 흐름을 정밀하게 추적하고 AI 신뢰 위기를 완화하는 새로운 솔루션이 등장했다. AI 데이터 거버넌스 플랫폼 기업인 릴라이언스AI(Relyance AI)는 최근 '데이터 저니(Data Journeys)' 플랫폼을 선보이며 AI 컴플라이언스 작업 시간을 80%까지 단축할 수 있다고 밝혔다. 현재 급성장하는 AI 시장에서 기업들이 가장 어려움을 겪는 데이터 흐름의 불투명성을 해결하는 기술로 주목받고 있다.
릴라이언스AI의 공동 창업자이자 CEO 아비 샤르마(Abhi Sharma)는 “당사의 솔루션은 데이터가 어디에 존재하는지를 넘어, 그것이 왜 사용되는지를 직관적으로 시각화해주는 데 초점을 맞추고 있다”며 “AI 거버넌스의 핵심은 데이터 처리의 맥락 이해에 있다”고 강조했다.
이번 플랫폼은 단순한 데이터 계보 추적 기능을 넘어서 데이터가 수집된 시점부터 인공지능 활용에 이르기까지의 전 과정을 포괄적으로 추적한다. 기존 시스템은 보통 단편적인 테이블이나 컬럼 중심의 이동 경로를 보여줬지만, 데이터 저니는 코드 분석을 기반으로 데이터 처리 목적을 이해하고 이를 시각적으로 표현해 준다. 이를 통해 예측 불가능한 보안 리스크나 알고리즘 편향의 근원을 구조적으로 파악할 수 있다.
AI 도입을 추진하는 기업들에게 있어 규제 대응 능력은 생존과 직결된다. 2024년 유럽에서만 GDPR 관련 과징금이 약 12억 6,000만 달러(약 1조 8,100억 원)에 육박했으며, 미 증권거래위원회(SEC) 공시에 따르면 포춘 500대 기업의 25% 이상이 AI 규제를 핵심 리스크로 지목했다. 데이터 저니는 이처럼 복잡해진 글로벌 규제에 대해 수학적 증거를 제시함으로써 기업들이 데이터 사용의 정당성을 입증할 수 있게 도와준다.
샤르마는 이 플랫폼이 네 가지 주요 비즈니스 리스크를 해소한다고 설명했다. 우선 데이터 컴플라이언스와 리스크 관리 측면에서, 내부 데이터 흐름을 실시간으로 가시화해 규제 기관에 투명한 데이터를 제시할 수 있다. 둘째, 편향 탐지에서는 단순히 학습 데이터만이 아닌 데이터의 전체 여정을 분석함으로써 추론 과정에서 발생할 수 있는 미세한 편향까지 찾아낼 수 있다. 셋째, 대출 승인이나 진단 결정 등 고위험 AI 모델의 설명 책임을 확보하며, 마지막으로 AI 관련 데이터를 적절하게 사용하고 있음을 입증함으로써 글로벌 컴플라이언스를 유연하게 대응할 수 있다.
한 고객 사례에서는 결제 시스템 전환 과정에서 실수로 카드 정보가 스노우플레이크(Snowflake)에 평문 저장되는 문제가 발생했는데, 데이터 저니가 이를 코드 커밋 단계에서 즉시 발견해 심각한 보안 사고를 미연에 방지했다. 일반적으로 몇 시간 이상 소요될 수 있는 데이터 감사와 위험 식별이 몇 분 만에 해결된 셈이다.
릴라이언스AI는 올 하반기 AI 거버넌스를 위한 통합 플랫폼도 출시할 계획이다. 여기에선 실시간 윤리 감시, 편향 탐지, 서드파티와 내부 AI 모두에 대한 전방위적 데이터 통제가 가능해진다. 또 고도화된 컴플라이언스 기능과 더불어 셀프 호스팅 방식의 ‘인호스트(InHost)’ 배포 모델까지 제공해 금융, 헬스케어 등 민감 데이터 산업에서도 활용을 확대할 방침이다.
시장 반응도 뜨겁다. 지난해 10월 마이크로소프트(MSFT)의 M12 펀드와 톰베스트 벤처스가 주도한 3,210만 달러(약 462억 원) 규모의 시리즈 B 투자 유치에 성공한 릴라이언스AI는 현재까지 총 5,900만 달러(약 849억 원)의 자금을 확보했다. 투자사 측은 “AI 도입이 전 산업계 표준이 돼가는 시점에서 데이터 감시 체계를 선점하는 것이 기업의 미래 경쟁력을 좌우할 것”이라고 평가했다.
샤르마는 “AI가 핵심 인프라가 되어가는 지금, 데이터 신뢰와 거버넌스 체계는 단순한 선택이 아닌 필수”라며 “릴라이언스AI의 목표는 AI가 안전하고 책임감 있게 작동할 수 있는 세계적 기준을 제공하는 것”이라고 밝혔다.
앞으로 AI가 기업의 경쟁력인 동시에 위험 요인이 되는 만큼, 데이터 투명성 확보와 감시 체계 구축은 조직의 생존 전략이 될 전망이다. 릴라이언스AI는 겉으로 드러나지 않는 AI 인프라의 결정적인 공백을 채우며, 기업들이 AI를 진정한 자산으로 만들 수 있도록 돕고 있다.