군의 AI 표적 선정 우려한 오픈AI 인권 담당자 발언

군의 인공지능(AI) 표적 선정과 자율무기 활용 가능성이 오픈AI 내부에서도 우려를 낳고 있다. 사라 예거 오픈AI 인권·책임 있는 배포 담당 리드는 군의 AI 활용이 “밤잠을 설치게 한다”고 말했다.

포춘은 예거가 6일 뉴욕에서 열린 ‘ScaleUp:AI’ 행사에서 군의 AI 표적 선정과 자율무기 활용 가능성을 우려했다고 보도했다. 포춘은 예거가 오픈AI에 합류한 뒤 국제 전문가들과 모델의 국제인도법·전쟁법 관련 답변을 점검하고, 연구자·엔지니어와 개선 작업을 했다고 보도했다. 구체적인 시험 결과나 모델 변경 내용은 공개되지 않았다.

행사 발표자 소개에 따르면 예거는 오픈AI의 첫 인권·책임 있는 배포 담당 리드다. 과거 휴먼라이츠워치 워싱턴 디렉터와 미 합참의장실 인권 선임고문을 지냈다.

예거는 처음에는 자신의 임명이 홍보에 그칠 수 있다고 의심했지만, 직원들과 대화한 뒤 기술의 안전성을 내부에서 바꿀 수 있는지 살펴보려 합류했다고 포춘에 말했다. 실제 의사결정 권한과 모델 변경 승인 범위에 관해서는 별도 설명이 나오지 않았다.

이번 발언은 오픈AI가 군사 AI 배포에 안전장치를 두고 있다고 밝힌 가운데 나왔다. 오픈AI는 2026년 2월 28일 국방부와 기밀 환경 내 AI 배치 계약을 공개했다.

오픈AI는 계약 설명에서 모델을 클라우드 환경에서만 배포하고 안전 분류기를 운영한다고 밝혔다. 법률·규정·국방부 정책이 인간의 통제를 요구하는 경우 AI가 자율·반자율 무기를 독립적으로 지휘하지 못하도록 계약에 명시했다고 설명했다.

계약에는 자율·반자율 시스템을 실제 환경에 배치하기 전에 검증·확인·시험을 거쳐야 한다는 조항도 포함됐다고 오픈AI는 밝혔다. 이는 회사가 공개한 계약 설명으로, 계약 전문과 실제 운용 결과를 보여주는 자료는 아니다.

예거가 밝힌 모델 점검도 당사자의 설명이다. 테스트 문서나 독립 평가, 배포 전후 성능 비교 자료는 공개되지 않았다.

국제적십자위원회(ICRC)는 군사 AI가 전쟁의 속도와 규모를 키우고 무력 사용에 대한 인간의 통제를 약화할 수 있다고 우려한다. AI 시스템은 인간의 판단을 지원해야 하며 대체해서는 안 된다는 입장이다.

ICRC는 AI 의사결정 지원 시스템에 불확실한 결과와 자동화 편향 위험이 있다고 지적했다. 사용자가 기계의 권고를 충분히 검토하지 않고 따를 수 있다는 설명이다.

이번 사안은 군사 AI의 활용 범위와 안전장치, 무력 사용 결정에서 인간의 판단을 유지하는 문제를 다룬다. 가상자산이나 블록체인과 직접 연결되는 내용은 확인되지 않았다.