글자에 새겨진 출생의 비밀
아주 어릴 적, 할머니가 꾹꾹 눌러쓴 손편지를 받은 기억이 있습니다. 삐뚤빼뚤하지만 힘이 느껴지는 글씨체, 문장 끝마다 찍혀 있던 작은 동그라미. 그 편지는 내용 이전에 ‘할머니가 썼다’는 명백한 증표를 품고 있었습니다. 글씨는 그 사람의 숨결이자, 지울 수 없는 서명이었습니다.
오늘날 우리는 화면 속 텍스트의 홍수 속에서 삽니다. 그 글자들이 누구의 손끝에서, 아니, 어떤 연산 과정에서 태어났는지 가늠하기란 점점 어려워집니다. 인공지능이 쓴 글은 지극히 유창하고 때로는 인간보다 더 인간적인 문장을 구사하며 우리 곁에 스며들고 있습니다.
이러한 흐름 속에서, 앤트로픽(Anthropic), 구글(Google) 등 AI 선두 주자들이 AI 생성 텍스트에 보이지 않는 ‘워터마크’를 삽입하는 기술을 공개하고 연구하며 주목받고 있습니다. 이는 마치 모든 디지털 텍스트에 고유한 생산자 표식을 남기려는 시도처럼 느껴집니다. 디지털 시대에 사라져버린 ‘서명’을 기술로 복원하려는 노력인 셈입니다.
유령처럼 스며든 표식
이 기술은 우리가 흔히 생각하는 이미지 워터마크처럼 눈에 보이는 표식을 남기지 않습니다. 현재 논의되는 대표적인 방식 중 하나는, AI가 문장을 만들 때 특정 단어 선택에 미세한 규칙을 부여하는 것입니다. 예를 들어 수많은 유의어 중 특정 단어를 선택할 확률을 사전에 정의된 규칙에 따라 아주 약간만 조정하는 식으로, AI 모델 자체에 일종의 ‘말버릇’을 심는 방식입니다.
인간의 눈으로는 쉽게 알아챌 수 없는 미묘한 편향입니다. 하지만 충분한 양의 텍스트가 모이면, 그 안에 숨겨진 통계적 패턴, 즉 AI의 ‘서명’이 드러나게 됩니다. 이는 글의 출처를 판별하는 새로운 잣대가 될 수 있다는 기대를 모읍니다.
이러한 접근은 우리가 글의 진실성을 인지하는 방식을 근본적으로 바꿀 수 있습니다. 과거에는 문체나 필체, 작가의 고유한 경험처럼 주관적이지만 인간이 인지할 수 있는 요소들로 글의 주인을 가늠했습니다. 전문가의 감정이나 독자의 해석에 의존했죠. 반면 ‘기술적 진실성’은 인간에게는 보이지 않는, 의도적으로 설계된 통계적 패턴에 기반합니다. 검증 역시 알고리즘을 통한 수학적 탐지에 의존하게 됩니다. 물론 전통적 방식이 모방의 위험에 노출되듯, 이 새로운 기술 역시 우회되거나 제거될 가능성이라는 숙제를 안고 있습니다.
신뢰의 새로운 문법
물론 이 워터마크가 모든 문제를 해결하는 ‘만능 열쇠’는 아닐 것입니다. 누군가는 워터마크를 제거하거나 우회하는 기술을 개발하려 할 것이고, 이는 끝없는 창과 방패의 싸움으로 이어질 수 있습니다. 기술적 해결책은 언제나 또 다른 기술적 도전을 낳는 법이니까요.
더 나아가, 이 기술은 창작의 본질에 대한 질문을 남깁니다. 만약 AI의 도움을 받아 쓴 글에 ‘AI 생성’이라는 낙인이 찍힌다면, 그 글의 가치는 어떻게 평가받게 될까요? 인간과 AI의 협업이 만들어낸 결과물을 우리는 어떻게 받아들여야 할까요?
AI 워터마킹에 대한 논의는 단순히 가짜 뉴스를 막는 기술을 넘어섭니다. 이는 우리에게 ‘진짜’란 무엇인지, ‘창작’의 주체는 누구인지, 그리고 디지털 정보의 홍수 속에서 우리가 무엇을 믿어야 할 것인지 묻고 있습니다. 어쩌면 우리는 글의 내용만큼이나 글의 ‘출생 증명서’를 중요하게 여기는 시대의 첫 페이지를 이제 막 넘기고 있는 것인지도 모르겠습니다.