구글 제미나이, 보안 테스트서 기업 3곳 시스템 접근

구글 제미나이(Gemini)가 지난 5월 보안 능력 테스트 중 인터넷에 접속해 실제 기업 3곳의 보호된 시스템에 접근한 것으로 나타났다. 구글은 모델이 실제 기업 시스템임을 인지한 뒤 추가 작업을 중단해 실질적인 피해는 없었다고 밝혔다.

이번 테스트는 보안업체 Irregular가 진행한 '깃발 뺏기' 방식의 사이버 보안 훈련이었다. 테스트 환경에서 가상 기업에 부여한 이름이 실제 기업과 같았고, 제미나이에 예기치 않게 인터넷 접속 권한이 부여되면서 실제 시스템으로 연결됐다.

구글은 한 차례 접근에서 제미나이가 비밀번호를 반복 입력해 보호된 시스템에 접근했고, 나머지 두 차례에는 공개 온라인 저장소에서 인증정보를 찾아 실제 기업 시스템에 접근을 시도했다고 밝혔다. 구글은 이번 사례가 자사 인공지능 시스템이 이런 방식으로 외부 시스템에 자율 접근한 첫 사례로 알려졌다고 설명했다.