AI 학습 ‘노동력 착취’ 우려…마이크로소프트 문건 공개

마이크로소프트($MSFT) 내부 문건에서 인공지능(AI) 학습을 위한 뉴스 콘텐츠 수집이 ‘인류 역사상 가장 큰 노동력 착취’로 받아들여질 수 있다는 우려가 제기됐다. 문건은 AI가 뉴스 산업의 콘텐츠 공급망을 약화해 모델 품질까지 떨어뜨리는 ‘둠 루프’를 만들 수 있다고 경고했다.

뉴욕타임스(The New York Times)는 17일 공개된 미국 뉴욕 남부지방법원 소송 자료를 통해 이 같은 내용을 보도했다. 해당 자료에는 브렌트 헥트(Brent Hecht) 마이크로소프트 응용과학 부문 책임자가 2023년 작성한 내부 문건이 포함됐다. 마이크로소프트 내부 문건과 법원 자료가 공개되면서 AI 학습 데이터와 뉴스 산업의 관계가 다시 쟁점으로 떠올랐다.

헥트는 대규모 AI 모델이 뉴스 콘텐츠를 흡수하면서 콘텐츠 생산 기반을 훼손할 수 있다고 적었다. 대중이 AI 학습을 ‘전례 없는 규모의 절도’로 받아들일 수 있으며, 콘텐츠 생산이 위축되면 AI가 학습할 신뢰할 만한 자료도 줄어들 수 있다는 취지다.

공개 문서는 뉴욕타임스가 2023년 12월 오픈AI와 마이크로소프트를 상대로 제기한 저작권 소송에서 제출된 자료다. 뉴욕타임스 측은 두 회사가 뉴스 기사를 AI 모델 훈련에 사용했고, 챗봇이 원문 기사를 대체하는 서비스로 작동한다고 주장하고 있다.

문건에는 오픈AI 내부의 우려도 담겼다. 오픈AI 전 정책 책임자 잭 클라크(Jack Clark)는 2020년 메모에서 AI 시스템이 사회의 문화를 만들어온 사람들의 노동을 대체할 수 있다고 썼다.

챗GPT 제품 책임자였던 닉 터리(Nick Turley)는 AI 제품이 출판 콘텐츠를 대체하는 성격을 가질 수 있다고 평가한 것으로 나타났다. 내부 문건들은 생성형 AI의 확산이 콘텐츠 생산자와 플랫폼 사이의 기존 수익 구조를 바꿀 수 있다는 문제의식을 보여준다.

뉴스 원문으로의 이용자 유입을 둘러싼 논의도 공개됐다. 오픈AI 엔지니어는 2023년 메모에서 링크를 눈에 띄게 배치해도 이용자가 원문을 클릭하지 않을 것이라고 적었다. 뉴욕타임스 측은 이를 AI 서비스가 뉴스 웹사이트로 트래픽을 보내기보다 원문 소비를 대체할 수 있다는 주장의 근거로 제시했다.

마이크로소프트는 헥트의 문건이 회사의 공식 입장을 반영하지 않는다고 밝혔다. 회사는 헥트가 의사결정권자가 아니며, 상반되고 비대칭적인 관점을 제시하는 연구 역할을 맡았다고 설명했다.

뉴욕타임스가 공개한 자료에는 마이크로소프트가 AI 훈련과 코파일럿의 사용이 미국 저작권법상 변형적 이용에 해당한다고 주장한 내용도 포함됐다. 변형적 이용은 기존 저작물을 새로운 목적이나 방식으로 활용했는지를 공정 이용 판단에서 고려하는 개념이다.

오픈AI는 공개 데이터를 활용한 AI 모델 훈련이 미국 저작권법상 ‘공정 이용’에 해당한다고 반박하고 있다. 오픈AI는 9월 4일 제출한 요약판결 신청서에서 모델이 뉴스의 사실과 정보를 자체 표현으로 설명하며 원문 기사를 그대로 재현하지 않는다고 주장했다.

오픈AI는 사건 설명에서도 공개 데이터 기반 모델 훈련이 변형적 이용에 해당한다고 밝혔다. 다만 법원이 학습 데이터의 확보 방식과 이용 목적, 원문 시장에 미친 영향, AI 출력이 원문을 대체하는 정도를 어떻게 판단할지는 아직 정해지지 않았다.

이번 사건에서 내부 직원의 문제 제기가 곧 법적 책임을 의미하는 것은 아니다. 법원은 소송 당사자의 주장과 제출 자료를 바탕으로 저작권 침해 여부와 공정 이용 인정 여부를 판단하게 된다.

이번 공개 자료는 AI 기업의 데이터 확보 방식과 뉴스 산업의 지속 가능성이 충돌하는 지점을 보여줬다. 콘텐츠 생산이 위축될 경우 AI가 학습할 신뢰할 만한 자료가 줄어들 수 있다는 ‘둠 루프’가 실제 모델 성능 저하로 이어졌는지는 확인되지 않았다.

AI 학습 데이터와 원문 콘텐츠의 관계는 국내에도 이어지는 쟁점이다. 국내 투자자와 기업 입장에서는 AI 서비스가 뉴스 원문을 얼마나 대체하는지, 콘텐츠 제공자와 어떤 이용 조건을 맺는지가 향후 법원 판단과 함께 확인할 사안이다.

뉴욕타임스 측은 내부 문건이 오픈AI와 마이크로소프트가 AI 제품의 대체 효과와 콘텐츠 공급망 훼손 가능성을 인식하고 있었다는 점을 보여준다고 주장했다. 반면 두 회사는 AI 훈련이 원문 시장을 대체하지 않는 변형적 이용이며, 최종 판단은 저작권법의 공정 이용 기준에 따라 이뤄져야 한다는 입장이다.

소송의 다음 단계는 법원이 학습 데이터와 AI 출력의 관계를 공정 이용 기준에 따라 심리하는 과정이다. 오픈AI와 마이크로소프트의 저작권 책임 여부는 법원의 최종 판단으로 결정될 예정이다.