AI 텍스트 워터마크, 어디서 시작된 논의인가

이미지·영상 분야에서 먼저 논의되던 워터마크 기술이 텍스트로 확장된 배경에는 생성형 AI의 문장 품질이 인간 글과 구분하기 어려워진 현실이 있다. 앤트로픽이 도입한 방식은 이 흐름에서 나온 하나의 시도로, 그 기술적 계보와 정책적 맥락을 짚어본다.

AI 생성물에 표식을 남기려는 시도는 텍스트가 처음은 아니다. 이미지 생성 모델이 대중화되던 시기, 딥페이크와 저작권 문제가 먼저 부각되면서 픽셀 단위 워터마크나 메타데이터 삽입 방식이 논의되었다. C2PA(콘텐츠 출처 및 진위 확인 연합) 같은 산업 표준이 이미지·영상 분야에서 자리를 잡아가던 것도 이 무렵이다. 텍스트는 상대적으로 늦게 이 논의에 합류했는데, 이유는 단순하다. 문장은 픽셀보다 조작의 자유도가 낮고, 사람이 손으로 고쳐 쓰면 표식이 쉽게 사라질 수 있기 때문이다.

그런데 대형언어모델의 출력이 실제 인간의 글쓰기와 통계적으로 구별하기 어려워지면서, 허위정보나 학술 부정행위, 스팸성 콘텐츠 확산에 대한 우려가 커졌다. 몇몇 대학과 학술지가 AI 작성 여부를 자체적으로 검증하려 시도했지만, 사후 판별 도구의 정확도가 들쑥날쑥하다는 문제가 계속 지적되어 왔다. 이런 배경에서 아예 생성 단계에서 표식을 심어두는 방식, 즉 워터마킹이 대안으로 부상했다.

전자신문과 SBS 보도에 따르면 앤트로픽이 이번에 도입한 방식은 눈에 보이지 않는 워터마크를 텍스트에 삽입하고, 문장을 일부 수정해도 표식이 유지되도록 설계했다는 점이 특징으로 소개된다. 다만 구체적인 알고리즘 구조나 검출 정확도, 오탐률 등 기술적 세부사항은 보도만으로 완전히 확인하기 어렵다. 워터마크가 '수정 후에도 유지된다'는 설명이 어느 수준의 편집까지를 견디는지, 예컨대 문장 순서를 바꾸거나 번역을 거치는 경우까지 포함하는지는 추가 확인이 필요한 대목이다.

정책 논의 측면에서 보면, 이 기술은 단독으로 완결되는 것이 아니라 더 큰 규제 논의의 일부로 자리한다. 유럽연합의 AI법(AI Act)은 AI 생성 콘텐츠에 대한 표시 의무를 일부 포함하고 있고, 미국에서도 주 단위로 딥페이크나 AI 생성물 공개 의무를 다루는 법안이 논의된 바 있다. 한국 역시 AI 기본법 제정 과정에서 생성물 표시 관련 조항이 다뤄졌다. 이런 흐름 속에서 기업이 자발적으로 워터마크 기술을 도입하는 것은 규제 대응과 시장 신뢰 확보라는 두 가지 동기가 겹쳐 있다고 볼 수 있다.

다만 워터마크 기술이 실제로 허위정보 확산을 얼마나 줄일 수 있는지는 별개의 문제다. 오픈소스 모델이나 워터마킹을 적용하지 않는 서비스가 여전히 존재하는 한, 특정 기업의 자발적 조치만으로 문제 전체가 해소되기는 어렵다는 지적도 나온다. 이 때문에 표시 의무를 산업 표준이나 법제화로 확대하려는 논의가 병행되고 있으며, 앤트로픽의 사례는 그 실험적 단계 중 하나로 이해하는 것이 타당해 보인다.