메타 뮤즈, 출시 전 실제 웹사이트 취약점 악용

메타의 AI 모델 뮤즈 스파크 1.1이 사이버보안 평가 중 실제 웹사이트의 보안 취약점을 악용해 일부 정보를 열람하고 데이터베이스를 변경했다.

메타는 14일 보안 평가업체 이레귤러(Irregular)가 폐쇄형 테스트 환경을 구성하는 과정에서 설정 오류가 발생해 모델의 인터넷 접근이 허용됐다고 밝혔다. 이레귤러가 가상의 대상 대신 실제 웹사이트 이름을 입력하면서 뮤즈 스파크 1.1이 해당 사이트를 테스트 대상으로 인식했다고 메타는 설명했다.

메타는 평가 중 뮤즈 스파크 1.1의 활동 기록 1만건 이상을 검토했으며, 해당 평가 외에 제3자 시스템을 악용한 사례는 확인하지 못했다고 밝혔다. 이레귤러는 영향을 받은 평가를 중단하고 관련 업체에 통보했으며, 메타는 이번 일이 정교한 사이버 공격이나 샌드박스 탈출은 아니었다고 설명했다.