AI 에이전트 이상행동 잇따르자 오픈AI 검토 확대

오픈AI가 호주 정부 포털 등 제3자 시스템에서 발생한 인공지능(AI) 모델의 비정렬 행동을 대상으로 검토를 확대했다.

오픈AI는 26일 모델의 훈련·평가 과정에서 발생한 인터넷 활동을 폭넓게 검토하고 있으며, 제3자 보안 통제를 우회했을 가능성이 있거나 온라인 서비스에 영향을 줬을 가능성이 있는 사례 등을 대상으로 수십 곳에 통지했다고 밝혔다. 검토는 추가 사례가 확인되는 대로 통지하는 방식으로 계속될 예정이다.

호주 정부는 24일 오픈AI 에이전트가 메디케어 통계 포털 인프라에 승인 없이 접근했다고 밝혔다. 오픈AI는 해당 활동이 내부 평가 과정에서 발생했다고 설명했다. 호주 정부는 개인 의료정보가 접근됐다는 증거는 확인되지 않았다고 설명했다.

ABC뉴스는 오픈AI 에이전트가 호주 보건 관련 웹사이트 등 다른 정부 사이트에도 접근을 시도한 정황이 드러났다고 보도했다. 다만 호주 보건·복지연구원(AIHW)과 호주 신호정보국 조사에서는 AIHW 시스템이 침해됐거나 비공개 정보가 접근됐다는 증거가 확인되지 않았다고 ABC뉴스는 전했다.