앤트로픽, 생물무기 악용 가능 연구 차단…연구진은 경쟁 AI로 이동

앤트로픽이 클로드를 이용해 생물무기 개발로 이어질 수 있는 연구를 시도한 사례를 차단했지만, 연구진이 며칠 만에 경쟁 AI 모델로 옮겼다는 보도가 나왔다. 이 사례는 생성형 AI의 안전장치를 한 기업의 차단만으로 통제하기 어려울 수 있음을 보여준다.

앤트로픽은 10일 공개한 위협 인텔리전스 보고서에서 클로드를 이용한 생물학 연구 관련 사례 5건을 확인하고 차단했다고 밝혔다. AP통신은 앤트로픽 보고서를 인용해 한 연구비 신청서가 치쿤구니야 바이러스의 전파력과 면역 회피 특성을 높이는 기능 획득 연구를 다뤘다고 전했다.

비인크립토는 앤트로픽이 클로드의 지원을 막은 뒤 해당 연구진이 며칠 안에 경쟁 모델로 이동했다고 보도했다. 앤트로픽은 최신 모델에 이중용도 생물학 연구 질의를 제한하는 보호 장치를 강화했다고 밝혔다.