앤트로픽, 새 클로드 모델에 텍스트 워터마크 적용

앤트로픽이 새로 출시하는 클로드 모델의 생성 텍스트에 통계적 워터마크를 적용한다. 2026년 8월 2일 이전에 출시된 기존 모델에는 향후 수개월에 걸쳐 순차 적용할 예정이다.

앤트로픽은 8월 14일 공식 설명문에서 앞으로 출시되는 클로드 모델에 전 세계적으로 워터마크를 적용한다고 밝혔다. 지역별 적용 체계를 안정적으로 분리하기 어렵다는 이유에서다.

워터마크는 사람이 읽을 수 있는 표식이나 숨은 문자를 텍스트에 추가하는 방식이 아니다. 클로드가 다음 단어를 고를 때 의미 차이가 크지 않은 후보 사이의 선택 방식을 조정해 통계적 패턴을 남긴다.

독자가 보는 문장의 품질과 가독성에는 실질적인 변화가 없도록 설계됐다. 워터마크에는 사용자·조직·대화 내용을 식별할 수 있는 정보가 포함되지 않는다.

워터마크가 확인되더라도 클로드가 해당 콘텐츠 작성이나 처리에 관여했을 가능성을 보여주는 데 그친다. 사람이 작성했는지, 다른 인공지능이 생성했는지는 판별하지 못한다.

기술적 기반은 구글 딥마인드가 2024년 네이처 연구에서 제시한 SynthID-Text 방식이다. 여러 후보 단어의 의미가 크게 다르지 않을 때 토큰 선택 방식을 조정해 통계적 서명을 남기는 기술이다.

네이처 논문은 약 2000만 건의 제미나이 응답을 활용한 실험에서 워터마크 적용 여부에 따른 사용자 평가 차이가 통계적으로 유의미하지 않았다고 밝혔다. 다만 이 결과는 구글 모델과 구글의 실험 환경에 대한 검증으로, 클로드의 모든 모델과 언어·사용 사례에 같은 결과가 나타난다고 단정할 근거는 없다.

짧은 문장이나 정확한 답이 필요한 사실 문장·코드는 후보 선택지가 제한돼 워터마크 탐지 신뢰도가 낮아질 수 있다. 문장을 일부 편집하면 흔적이 남을 수 있지만, 전체 문장을 다시 쓰면 워터마크가 약해질 수 있다.

번역처럼 클로드가 문장 전체를 다시 생성하는 작업에는 워터마크가 적용된다. 반면 전면 재작성이나 번역 이후에도 탐지력이 유지되는지는 실제 사용 환경에서 확인해야 할 요소다.

이번 도입의 제도적 배경에는 유럽연합(EU) AI법이 있다. 유럽연합 집행위원회는 AI Act 투명성 규정 설명에서 AI가 생성하거나 변경한 콘텐츠에 기계가 읽을 수 있는 표시를 붙이는 투명성 의무가 8월 2일부터 적용된다고 설명했다.

관련 실천규범은 자발적 성격이지만, AI 생성 콘텐츠 표시 의무 자체는 법적 의무로 운영된다. 8월 2일 이전에 출시된 클로드 모델에는 유예기간이 적용되며, 앤트로픽은 해당 모델에도 워터마크를 추가할 계획이라고 밝혔다.

앤트로픽은 9월 1일 업데이트에서 탐지 API를 비공개 미리보기로 제공한다고 밝혔다. 우선 대상은 규제기관·수사기관·언론사·팩트체커·독립 연구기관·교육기관 등이며, 일반 이용자에게 API를 공개하는 시점은 제시하지 않았다.

탐지 API는 워터마크의 존재 가능성을 확인하는 보조 수단이다. 앤트로픽은 워터마크가 저작권이나 소유권, 법적 책임을 판단하는 도구는 아니라고 설명했다.

앤트로픽은 앞서 클로드 생성 텍스트에 워터마크를 적용하는 방식을 공개했지만, 당시에는 전 제품군에 적용됐다는 공식 발표가 제시되지 않았다. 이번 설명은 새 모델 적용과 기존 모델의 순차 적용 계획을 구체화했다.

이번 조치는 가상자산 시장의 즉각적인 가격 변수라기보다 생성형 AI 콘텐츠의 출처를 확인하는 방식과 산업 표준을 둘러싼 경쟁에 가깝다. 향후 확인할 요소는 워터마크의 탐지 정확도, 재작성·번역 이후의 내구성, 탐지 API 접근권한, AI 사업자 간 표식의 상호운용성이다.