클로드의 텍스트 워터마킹에 대한 앤트로픽의 설명 (외부 링크)
이를 이해하는 데 도움이 되는 비유로 모노폴리 같은 보드게임을 생각해볼 수 있습니다.
보통은 각 차례마다 주사위를 굴려 나온 무작위 숫자만큼 말을 이동합니다. 그런데 주사위를 굴리는 대신 원주율 π의 숫자가 적힌 책을 이용해 무작위성을 만들기로 했다고 해보겠습니다.²
먼저 무작위로 원주율의 한 자리를 선택합니다. 예를 들어 소수점 아래 1,012,845번째 숫자부터 시작한다고 해보겠습니다. 마침 그 숫자가 6이라고 합시다. 이후에는 각 플레이어가 원주율에서 그다음에 나오는 숫자를 차례대로 자신의 다음 “주사위 값”으로 사용합니다.
실질적으로 보면 움직임은 여전히 무작위입니다. 무작위성이 매번 굴린 주사위에서 나왔는지, 원주율에서 나왔는지는 플레이어에게도 게임 결과에도 별다른 영향을 주지 않습니다.
하지만 게임이 끝난 뒤 모든 이동 순서를 확인할 수 있고, 우리가 원주율의 값도 알고 있다면 이야기가 달라집니다. 그 이동 순서가 원주율을 이용해 결정되었을 가능성이 높은지 계산할 수 있기 때문입니다. 이런 의미에서 원주율을 이용한 게임은 일종의 “워터마크”가 찍혀 있다고 할 수 있습니다.
Claude가 생성하는 텍스트도 마찬가지입니다. 워터마킹은 독자가 읽는 글의 의미나 경험을 바꾸지 않습니다. 하지만 사후에 어떤 텍스트가 Claude에 의해 생성되었을 가능성이 높은지 확인하고 싶다면, 워터마크를 통해 이를 판단할 수 있습니다.
앤트로픽이 재밌는 비유를 했길래 가져와봤습니다. 글의 나머지 부분도 재밌게 읽을 수 있게 쓰여 있어서, 한번 전문을 읽어보시는 걸 추천합니다.
