오픈AI, EU 사용자 대상 챗GPT 생성 텍스트에 워터마크 도입

오픈AI(OpenAI)가 유럽연합(EU) AI법을 지키기 위해 챗GPT(ChatGPT)와 코덱스(Codex)가 생성한 텍스트에 눈에 보이지 않는 워터마크를 넣는다고 발표했다.

EU AI법은 AI 생성 콘텐츠에 인공적으로 만들어졌음을 식별할 수 있는 표시를 의무화했다. 오픈AI는 AI법 준수를 위해 AI 생성 텍스트에 워터마크를 추가한다고 밝혔다. 이 기능은 앞으로 몇 주 안에 챗GPT와 코덱스 전체 요금제 이용자에게 적용될 예정이다. 대상은 EU 역내 이용자다.

전 세계 오픈AI API 이용 개발자는 일부 AI 모델에서 이 기능을 켤 수 있다. 다만 기본값은 꺼져 있다. 오픈AI는 현재로서는 텍스트 워터마크를 전 세계에서 기본으로 켤 계획이 없다고 설명했다.

◇ 단어 선택 바꿔 흔적 남겨=오픈AI 텍스트 워터마크는 AI 모델 단어 선택을 미세하게 바꾸는 방식으로 작동한다. 사람 눈에는 보이지 않는 패턴을 남기고 검출기로 이를 찾아낸다. 단어 자체에 심어지기 때문에 텍스트를 복사해 붙여 넣어도 그대로 유지된다.

오픈AI는 텍스트 워터마크로 이용자가 특정되지 않으며 워터마크를 켜도 AI 모델 성능에 큰 변화는 없었다고 설명했다.

오픈AI는 워터마크 발표와 함께 텍스트에 워터마크가 들어 있는지 판별하는 텍스트그레인(textGrain) 기술 보고서도 공개했다.

◇ 동의어로 바꾸면 검출률 급락=텍스트 워터마크가 만능은 아니다. 단어를 동의어로 바꾸면 검출률을 크게 떨어뜨릴 수 있다. 편집하지 않은 텍스트를 AI 출력으로 검출하는 비율은 92%지만 문장 속 단어 10%를 동의어로 바꾸면 66%로 떨어진다. 단어 25%를 바꾸면 검출률은 17%까지 내려간다. 오픈AI에 따르면 짧은 글과 수학 답변, 번역된 텍스트에서는 검출이 어렵다는 약점도 있다.

이런 제약 때문에 오픈AI는 초기에는 워터마크 검출기 접근 권한을 승인받은 연구자와 전문 기관에만 준다.

오픈AI는 워터마크가 없다고 해서 사람이 쓴 글이라는 게 증명되는 건 아니라고 경고했다. 또 워터마크는 글 생성에 AI가 관여했다는 사실을 보여주지만 그 과정에 사람 판단과 편집, 창의성이 얼마나 들어갔는지는 가려낼 수 없다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.