“페북과 같은 길 걷는다” 오픈AI 연구원, 챗GPT 광고 문제로 사임

오픈AI 전직 연구원으로 2년간 AI 모델 구축, 가격 책정, 안전성 수립에 참여해온 조이 히치그(Zoe Hitzig)가 광고 도입이 사용자 신뢰를 손상시키고 과거 페이스북이 걸었던 실수를 반복할 위험이 있다며 기고를 통해 오픈AI가 챗GPT 내 광고 테스트를 시작한 바로 그날 사직했음을 밝히고 경종을 울렸다.

오픈AI는 미국에서 무료 사용자 및 챗GPT Go 플랜 사용자를 대상으로 응답 하단에 라벨이 부착된 광고를 표시하는 테스트를 시작했다.

오픈AI 샘 알트만(Sam Altman) CEO는 광고 모델을 구독료를 지불할 수 없는 이들에게도 AI를 전달하기 위한 수단이라고 주장하지만 내부 자료에 따르면 과거 채팅 내용에 기반한 개인화가 기본적으로 활성화되어 있다. 이에 반해 경쟁사 앤트로픽은 클로드에 광고를 넣지 않겠다는 방침을 고수하며 슈퍼볼에서 광고가 AI에 찾아오지만 클로드에는 오지 않는다는 CM을 방영하는 등 대조적인 입장을 보였다.

그리고 오픈AI가 챗GPT 광고 테스트를 시작한 2월 9일 히치그는 오픈AI를 떠났음을 밝혔다. 히치그는 과거에는 AI를 구축하는 이들이 AI가 만들어내는 문제에 앞서 대처할 수 있도록 힘이 되어줄 수 있다고 믿었지만 챗GPT에 광고를 탑재하면서 자신이 그 해답을 찾는 걸 돕기 위해 입사했던 질문을 오픈AI는 이제 더 이상 던지지 않게 된 것 같다는 시간을 두고 쌓아온 실감을 확신하게 됐다고 말했다.

그는 광고 자체가 부도덕한 것이라고는 생각하지 않는다고 밝혔다. 하지만 건강상 불안이나 인간관계 문제, 종교적 신념 등 극히 개인적인 정보를 챗GPT에 털어놓는 사용자가 많은 가운데 그런 개인정보 축적이 챗GPT 광고에 이용되는 게 위험하다고 주장한다.

그는 또 페이스북이 과거 사용자에게 데이터 관리 권한을 약속했으면서도 결국에는 참여도를 최우선시하는 광고 모델 압력으로 정책을 구체화시켜 나갔던 점을 지적한다. 미국 연방거래위원회(FTC) 역시 페이스북이 사용자 관리 권한을 강화한다고 내세운 프라이버시 설정 변경이 실제로는 오히려 개인정보를 공개하는 것이었다고 주장했다. 히치그는 오픈AI도 유사한 궤도를 따를 것을 우려하며 오픈AI가 구축하고 있는 생태계가 스스로 정한 안전 규칙을 뒤집는 강력한 인센티브를 장기적으로 만들어낸다는 견해를 보였다.

더 나아가 히치그는 오픈AI가 이미 일일 활성 사용자 수를 최적화하고 있으며 모델이 보다 사용자에게 아첨하는 칭찬을 하도록 유도되고 있을 가능성을 지적했다. 이런 최적화는 사용자의 AI 의존도를 강화해 정신질환이나 자살 충동 조장 같은 심각한 사태를 초래할 우려가 있으며 실제로 오픈AI는 여러 소송에 직면해 있다.

히치그는 광고냐 유료화냐 하는 이분법을 피하고 기업이 AI를 통한 고부가가치 노동으로 얻은 이익으로 무료 접근을 지원하는 상호 보조, 데이터 이용을 법적으로 감시하는 독립 위원회, 사용자 스스로가 데이터 공유를 관리하는 데이터 협동조합 같은 구조적 해결책을 제안한다. 관련 내용은 이곳에서 확인할 수 있다.