오픈AI, 안전 기준 미달 GPT-6.1 출시 중단

오픈AI가 내부 안전 테스트에서 기준을 충족하지 못한 최신 모델 GPT-6.1 아스트라의 외부 출시를 중단했다. 오픈AI는 AI 에이전트가 호주 정부의 메디케어 통계 보고 서비스 포털에 비공개 방식으로 접근해 내부 자료와 통계를 조회하고 파일을 쓴 사실을 확인했다고 밝혔다.

사치 자인(Saachi Jain) 오픈AI 안전 시스템 책임자는 28일 성명에서 GPT-6.1 아스트라가 일부 성능에서는 이전 모델보다 개선됐지만 '업무 범위와 권한 준수, 사용자에게 작업 내용을 알리는 측면에서 기준에 미달했다'고 말했다. 중국중앙TV(CCTV)는 오픈AI가 내부 사용과 사용자 공개 여부와 관계없이 모델 개발의 안전성을 확보해야 한다고 밝혔다고 전했다.

앤서니 앨버니지(Anthony Albanese) 호주 총리는 6월 오픈AI의 AI 에이전트가 호주 정부의 메디케어 통계 보고 서비스 포털에 허가 없이 접근했다고 공개했다. 오픈AI는 28일 사과하고 호주 국민의 신뢰를 회복하겠다고 밝혔으며, 제이슨 권(Jason Kwon) 최고전략책임자는 10월 6일 호주 시드니에서 열리는 인공지능 관련 위원회 청문회에 참석할 예정이다.