오픈웨이트 AI 안전 협업, 베이스 랩스·허깅페이스 맞손

베이스 랩스가 베이스텐, 허깅페이스, 굿파이어와 오픈 가중치 AI 모델의 학습·배포 과정에 적용할 안전 기술 개발에 나선다. 이번 협업은 가상자산 프로젝트보다 AI 인프라와 모델 안전성에 초점을 맞췄다.

베이스 랩스(Base Labs)는 AI 인프라 기업 베이스텐(Baseten)이 운영하는 연구 조직이다. 모델 특화, 학습, 추론, 메모리, 서빙 기술을 공개 연구 방식으로 다루며 연구 결과와 실험 데이터를 공개한다고 설명한다.

베이스 랩스는 공식 게시물에서 오픈 모델의 안전성을 높이는 학습·모니터링 방법을 개발해 공개할 예정이라고 밝혔다. 베이스텐은 관련 기술을 모델 배포 인프라에 통합해 실시간 모니터링 기능과 관리형 서비스로 제공할 계획이라고 설명했다.

허깅페이스(Hugging Face)는 오픈 가중치 모델의 유통과 개발자 접근성을 담당한다. 허깅페이스 공식 문서에는 베이스텐이 추론 제공업체로 등록돼 있으며, 개발자가 단일 API와 SDK를 통해 여러 인프라 사업자의 모델 서비스를 이용할 수 있다고 나와 있다.

굿파이어(Goodfire)는 AI 해석 가능성 연구를 맡는다. 해석 가능성은 AI 모델이 어떤 내부 신호와 구조를 바탕으로 결과를 내놓는지 분석하는 기술이다.

굿파이어는 자신을 AI 해석 가능성 연구소로 소개하며 모델을 이해하고 모니터링하며 정렬하는 도구와 인프라를 개발한다고 설명한다. 굿파이어는 2026년 2월 1억5000만달러(약 2055억원) 규모의 Series B 투자를 유치했으며 당시 기업가치는 12억5000만달러(약 1조7125억원)로 제시됐다.

이번 협업의 핵심은 오픈 모델의 투명성과 보안 사이의 균형이다. 오픈 가중치 모델은 이용자가 구조를 확인하고 수정·배포할 수 있지만, 같은 개방성이 모델 악용 가능성을 넓힐 수 있다.

이에 따라 참여사들은 모델을 공개하는 데서 그치지 않고 학습 단계의 안전성 검증과 배포 이후의 실시간 감시를 함께 구축하려 한다. 학습 중에는 모델의 행동을 점검하고, 서비스 환경에서는 이상 징후를 감시하는 구조다.

추론 제공업체 체계는 이 같은 인프라 통합의 기반으로 작용한다. 허깅페이스는 모델 페이지와 API에서 개발자가 모델과 제공업체를 선택해 추론 서비스를 이용할 수 있도록 지원하고 있다.

이 구조에서는 모델 개발 조직과 인프라 사업자, 유통 플랫폼, 안전성 연구 조직의 역할이 나뉜다. 베이스 랩스와 굿파이어가 안전성 검증·해석 기술을 다루고, 베이스텐과 허깅페이스가 이를 실제 배포와 접근 경로에 연결하는 방식이다.

오픈 가중치 모델의 확산은 모델 자체뿐 아니라 배포 경로와 안전 통제의 중요성도 키우고 있다. 허깅페이스를 중심으로 오픈웨이트 모델 생태계가 확대되고 있다는 점은 이번 협업이 겨냥한 시장 환경과 맞닿아 있다.

다만 이번 안전 인프라가 어떤 모델에 언제 적용되는지는 공개되지 않았다. 성능 저하나 오탐률을 어떤 방식으로 측정할지도 제시되지 않았다.

관리형 서비스의 구체적인 출시 일정과 공개 연구 결과도 아직 발표되지 않았다. 실제 적용 모델과 안전성 평가 방식이 후속 확인 대상이다.

베이스 랩스라는 이름 때문에 코인베이스가 개발한 이더리움 기반 레이어2 네트워크인 베이스(Base)와의 연계로 해석할 여지도 있다. 그러나 확인된 공식 자료상 베이스 랩스는 베이스텐의 연구 조직이며, 이번 협업에서 베이스 블록체인이나 관련 가상자산과의 직접적인 연결은 확인되지 않았다.

이번 발표는 베이스 생태계의 블록체인 확장 소식이라기보다 오픈 AI 모델의 학습·추론·감시를 하나의 인프라 층으로 연결하려는 기술 협력이다. 적용 모델과 안전성 평가 결과, 관리형 서비스 출시 여부가 향후 확인될 내용이다.