앤트로픽이 설명한 “AI 생성 문장 판별 워터마크는…”

앤트로픽은 EU 법률을 준수하기 위해 클로드(Claude)가 생성한 콘텐츠에 워터마크(watermark)를 추가할 예정이다. 앤트로픽이 문장에 추가하는 워터마크의 구조를 해설했다.

문장 워터마크는 육안으로 확인할 수 있는 무언가가 아니라 단어 선택 패턴이다. 기술적으로는 구글 딥마인드(Google DeepMind)의 신스ID 텍스트(SynthID Text)가 사용된다.

애초에 클로드와 같은 대규모 언어 모델은 문장을 생성할 때 여러 단어 후보 중에서 가장 적절하다고 여겨지는 단어를 순서대로 선택한다. 예를 들어 오늘의 도시락은 김밥과…라는 문장에 이어지는 단어 후보에 주먹밥, 떡볶이, 라면이 있을 경우, 주먹밥이 선택될 가능성은 낮고 대개의 경우 뒤 2개가 적절하다고 판단된다. 뒤쪽 2개는 어느 쪽을 선택해도 문장 의미 자체가 바뀌는 일은 없으며 어느 쪽이 선택될지는 난수에 의해 결정된다.

문장에 워터마크를 추가할 경우 난수 생성기가 아니라 앞에 있는 단어와 특수한 열쇠(선택 경향)를 사용해 단어가 선택된다. AI가 선택하는 단어는 여전히 무작위지만 열쇠와 일치하는 단어 패턴이 몇 번이고 반복해서 문장 속에 나타나면 AI에 의해 생성됐을 가능성이 높다고 판단할 수 있다.

다만 어디까지나 가능성 문제로 워터마크가 검출되었다고 해서 반드시 AI 제작이라고는 할 수 없다는 점에 주의가 필요하다. 반대로 검출되지 않았다고 해서 AI 제작이 아니라고 단정할 수 있는 것도 아니다.

워터마크를 검출하는 구조는 조만간 워터마크 검출 API로서 제공될 예정. 이건 앤트로픽이 관리하는 열쇠를 문장에서 검출하는 것으로 단순히 AI다운 단어 패턴을 검출하는 외부 도구와는 근본적으로 구조가 다른 것이다.

또 이런 워터마크가 출력의 품질에 영향을 주는 일은 없다고 한다. 앤트로픽 사내 테스트에서는 워터마크로 인한 콘텐츠 내용, 창의성 수준, 가독성에 대한 영향은 확인되지 않았다고 보고되고 있다. 처리 속도는 무시할 수 있을 정도이며 추가 토큰을 소비하는 일도 없다.

앤트로픽 워터마크에는 몇 가지 제한이 있다. 앞서 언급한 가능성 이야기에 더해 클로드 이외 AI가 생성한 콘텐츠는 해당 AI가 사용하는 열쇠를 앤트로픽이 파악하고 있지 않기 때문에 판정할 수 없다는 것, 단어 선택 패턴이 한정되는 짧은 문장이나 사실에 관한 문장, 단순한 오탈자 수정만을 AI로 실행한 문장 판정이 어렵다는 것 등이다.

또 AI가 생성한 문장을 사람이 편집해 검출을 회피할 수도 있다. 앤트로픽은 경미한 편집으로는 워터마크를 완전히 제거할 수 없을 가능성이 있지만 모든 단어를 교체하는 것과 같은 완전한 재작성이라면 제거할 수 있다며 물론 후자의 경우 해당 텍스트를 더 이상 AI 생성이라고 부를 수 있는지에 대해서는 논의의 여지가 있다고 지적했다.

앤트로픽 측은 주의 사항으로 워터마크로 판단할 수 있는 건 클로드가 콘텐츠에 관여했을 가능성이 높다는 것뿐이며 클로드가 썼는지, 클로드가 대폭 편집했는지를 구별할 수는 없고 또 클로드가 문장을 번역할 경우 모든 단어를 클로드가 선택하기 때문에 워터마크가 명확해진다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.

한편 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 미국 캘리포니아주에서 성립된 AI 규제법에 찬성하는 입장을 나타내며 AI가 위험해질 수 있다는 메시지를 발신하고 있다. 이게 일부에게 AI를 중앙집권화해 독점하고 싶어 하는 게 아니냐고 받아들여졌기 때문에 아모데이 CEO가 발언 의도에 대해 설명했다.

발단이 된 건 기술 투자자인 개빈 베이커(Gavin Baker)가 팟캐스트에서 한 발언이었다. 그는 여기서 신뢰하는 여러 인물」로부터 들은 이야기로 앤트로픽이 언젠가 세계에서 유일한 민간 기업이 될지도 모른다고 아모데이 CEO가 발언했다고 소개했다.

아모데이 CEO는 적절한 AI 규제를 바라고 있다. 캘리포니아주에서 성립된, AI 투명성을 확보하는 법안에는 찬성했고 AI에 규제가 없으면 위협이 확대된다며 정부에 의한 규제를 긍정하는 메시지도 발신하고 있다. 그런데 이런 자세가 강력한 AI는 소수 기업만이 관리해야 한다는 사상이나 중앙집권화를 정당화하는 사상으로 이어지고 있는 게 아니냐고 받아들여져 베이커의 발언과 더불어 앤트로픽 자신이 거대한 권력을 갖게 되는 것이 아니냐는 등으로 일부가 생각하기 시작했다. 실제로 캘리포니아주는 앤트로픽과 제휴해 지자체를 대상으로 AI 할인 제도를 실시하고 있기 때문에 AI를 규제해 자신들에게 유리한 환경을 만들어내려 하고 있다고 여겨져도 이상하지 않다.

베이커의 발언에는 먼저 앤트로픽 연구원인 숄토 더글러스(Sholto Douglas)가 반론하며 베이커의 발언은 특정한 사람이 믿는 이야기에 유리하도록 지어낸 거짓말이며 앤트로픽은 무엇보다도 권력 집중을 우려하고 있다고 지적했다. 베이커는 이를 듣고 앤트로픽은 AI 위험성을 이유로 강력한 AI를 중앙집권화하고 싶어 한다고 받아들이고 있는 사람이 실제로 많이 있다는 것이야말로 문제라고 답신했다. 규제를 통해 AI를 선택된 소수 기업과 정치가 손에 집중시킬 것인가, 널리 분산시킬 것인가의 양자택일이 된다는 생각을 나타내며 개인적으로는 후자 쪽이 AI 발전에 있어 중요하다고 말했다.

1/2 Thanks Gavin for an especially thoughtful exchange. I don’t usually spend much time on social media but I wanted to engage here because it really brings out the heart of an important conversation.

First, on regulation, I think that “either concentrate it in the hands of a… https://t.co/2W6vWJAE8Y

— Dario Amodei (@DarioAmodei) August 15, 2026

이에 아모데이 CEO 본인이 가담해 자신의 의도를 공유했다. 아모데이 CEO는 AI 규제법을 지지하는 입장을 나타내고 있지만 항상 신중한 자세를 관철해 왔다고 이야기하고 있다. 예를 들어 앞서 언급한 캘리포니아주 법안은 수익이 적은 기업을 규제 대상에서 제외하고 있어 앤트로픽이 하는 최첨단 AI 기업을 규제하고 보다 소규모의 경쟁 기업에게는 유리해지는 제안과 일치하기 때문에 찬성했다고 설명했다.

다음으로 규제는 일부 기업의 권력 집중으로 이어진다는 사고방식에 대해 지나치게 단순화된 세계관이라고 반론했다. 보통은 기업 권력을 제약하고 일반인에게 이익을 가져다주는 것이라고 여겨진다며 규제가 무엇으로 구성되어 있는지에 크게 좌우된다는 생각을 나타냈다. 덧붙여 아모데이 CEO는 적절한 규칙을 정하는 게 중요하다는 생각을 강조하고 있으며 AI 리스크에 대처한 후 필요에 따라 최첨단 AI 기업의 권력을 제약하고 AI 일반 공개 전에 사전 심사를 실시한다는 접근법도 지지한다고 말했다.

AI 위험성을 호소한 메시지에 대해서는 일부러 위험성을 부추겼다는 의견을 보는데 실제로는 AI 리스크와 장점에 대해 동일한 정도로 의견을 내고 있다고 반론했다. 아버지가 치료약 완성 직전에 C형 간염으로 사망했다는 이야기를 공유하며 AI에는 신약을 개발하는 능력도 있어 규제로 인해 그 능력이 방해받지 않도록 제안하고 있다는 등으로 전했다.

또 AI가 암을 치료한다는 상투적인 문구를 많은 사람이 회의적으로 보고 있는 상황을 인정하며 확실히 비판받아야 마땅하며 실제로 암을 치료해 AI 신뢰를 실현할 수 있다며 그것이야말로 우리 책임이라는 등으로 덧붙이고 있다.

아모데이 CEO는 앤트로픽은 생물학과 의료 분야에서의 대응을 빠른 속도로 해내고 있으며 앞으로 몇 년 동안 믿을 수 없을 정도로 훌륭한 성과를 올리고 앞으로 몇 개월 이내에 초기 단계 발표를 몇 가지 보여줄 수 있다고 생각하고 있다며 실제로 무언가를 이뤄냈을 때에는 가능한 한 큰 목소리로 알리겠다고 밝혔다. 이어 이건 자신이 약속하지만 그때까지는 공허한 약속을 하고 싶지 않다며 한편으로 자신은 AI가 가져오는 현실적인 리스크와 대처 방법을 정직하게 이야기하는 것이라고 말했다.

한편 앤트로픽 연환산 수익이 650억 달러를 돌파한 것으로 나타났다. 2025년 말 시점에서는 90억 달러였다는 점을 생각하면 불과 7개월 정도 만에 7배로 확대된 셈이다.

연환산 수익은 최근 매출 페이스가 1년간 지속됐다고 가정해 연간 사업 규모를 추계하는 지표다. 앤트로픽 연환산 수익은 2025년 말 90억 달러에서 급증해 지난 5월에는 470억 달러, 7월 말에는 650억 달러를 넘었다고 한다.

급성장은 실제로 계상된 매출에도 나타나고 있다. 자료에 따르면 앤트로픽의 2026년 2분기에 해당하는 4월~6월 잠정 매출은 115억 달러 초과였다. 전년 동기 7억 8,700만 달러에서 14배 이상 늘었으며 1분기 47억 3,000만 달러에서도 2배 이상 확대됐다.

성장을 뒷받침하고 있는 요인 중 하나가 코딩 에이전트인 클로드 코드(Claude Code) 이용 확대다. 2025년 5월 등장한 클로드 코드는 코딩 에이전트 시장을 개척하며 급속히 보급되어 왔다. 이런 코딩 에이전트의 보급 속도가 지나치게 빠른 점에서 천문학적인 AI 인프라 투자가 정당화될 가능성도 지적되고 있다.

앤트로픽 성장에서는 기업에서의 클로드 이용 확대도 큰 역할을 하고 있다. 클로드를 AWS, 구글 클라우드, 마이크로소프트 애저 같은 주요 클라우드를 경유해 제공해 기업이 기존 클라우드 환경을 크게 변경하지 않고 클로드를 도입할 수 있어 대규모 업무 이용을 넓히기 쉬운 형태가 되어 있다.

한편으로 이용자가 급증하면 클로드를 구동하기 위한 계산 능력도 대량으로 필요해진다. 앤트로픽은 이전부터 수요 증가에 대해 계산 자원이 부족할 가능성을 지적받아 왔으며 아마존으로부터 최대 5GW, 구글과 브로드컴으로부터 5GW 규모 계산 능력을 확보하는 계약을 맺는 등 인프라 확대를 진행하고 있다.

AI 선구자라고 할 수 있는 경쟁자 오픈AI는 지난 4월 시점 앤트로픽에 연환산 수익에서 추월당했으며 지난 7월 시점에도 뒤처져 있다. 이런 상황에 대해 오픈AI는 4월 주주에게 보낸 서한에서 연산 자원이 부족한 앤트로픽에 비해 오픈AI는 지금까지 대규모로 계산 능력에 투자해 온 것으로 향후 성장 여지가 크다고 호소했다.

앤트로픽은 6월 미국 증권거래위원회에 신규 주식 공개를 위한 등록 신고서 초안을 비공개로 제출했으며 상장을 향한 준비도 진행하고 있다. 보도에 따르면 앤트로픽은 2028년 매출로 1,900억~2,000억 달러를 전망하고 있다고 한다. 투자자가 매출 증가에 따라 AI 인프라 등 비용이 매출에서 차지하는 비율이 저하되어 이익률이 개선되는 걸 기대하고 있다. 관련 내용은 이곳에서 확인할 수 있다.