사표 낸 오픈AI 안전 담당자 “회사 문화 무너졌다”

오픈AI에서 주요 제품 안전성 보고서 작성을 이끌어온 데이비드 로빈슨(David Robinson)이 회사 문화가 망가졌다고 비판하며 사직한 사실이 알려졌다. 로빈슨은 AI 안전성을 확보하려면 AI 기업 조직문화를 근본적으로 바꿔야 한다고 주장했다.

로빈슨은 오픈AI에서 주요 제품 출시와 함께 나오는 안전성 보고서 작성을 이끌었다. 그는 오픈AI에서 3년 반 동안 일해 회사에서 가장 오래 근무한 직원 가운데 하나라고 밝혔다. 오픈AI 기업문화가 망가졌다는 판단에 사직을 결심했다는 게 그의 설명이다.

로빈슨 주장은 오픈AI와 앤트로픽(Anthropic)에서 연구자로 일하다 그만두며 이들 기업이 우리 목숨을 걸고 도박을 하고 있다고 경고한 제이컵 콕슨(Jacob Coxon) 주장과 일부 맞닿아 있다.

콕슨 주장은 AI 안전성을 둘러싼 폭넓은 논쟁으로 번졌다. 그에게 동조해 AI 기업을 떠나는 연구자가 나왔고 앤트로픽이 더 신중한 AI 개발 계획을 세우는 데도 영향을 준 것으로 여겨진다. 엔비디아(NVIDIA)와 앤트로픽, 스페이스X(SpaceX), 오픈AI, 메타(Meta), 구글(Google) 등 대형 AI 기업 수장들이 도널드 트럼프(Donald Trump) 미국 대통령과 만나 안전 대책을 늘리겠다는 구속력 없는 서약서에 서명하는 계기도 됐다.

◇ 반복 배포 방식이 실패 키운다=로빈슨은 AI 안전성 논의가 개별 규칙이나 새 법률 차원을 넘어 기업문화까지 파고들어야 한다고 주장했다. 그는 오픈AI가 시행착오를 거치며 성장해왔고 회사는 이를 반복적 배포라고 부른다고 말했다. 문제를 찾아내고 이에 맞춰 안전 대책을 개선하는 방식이지만 그 성격상 주기적으로 실패가 생기는 걸 피할 수 없으며 AI 시스템 능력이 커질수록 실패 규모도 커지고 있다고 지적했다. 오픈AI 기업문화가 회사 실패를 낳고 있다는 주장이다.

로빈슨은 오픈AI AI 에이전트가 허깅페이스(Hugging Face)를 해킹했다는 사례와 다른 시스템 침해 보고를 예로 들었다. 이런 일이 벌어질 수 있는 환경은 인간보다 똑똑해지고 인간 뜻대로 움직이지 않을 수 있는 AI를 키우는 곳으로 결코 적절하지 않다고 강조했다. 구체적으로는 여러 겹 안전장치를 갖추고 시간을 들여 신중하게 계획을 세워 이따금 생기는 불가피한 사람 실수가 대참사로 번지지 않게 해야 한다고 했다.

그는 위험이 커진 만큼 최첨단 AI 기업이 원자력발전소나 붐비는 공항처럼 겹겹이 안전장치를 두고 시간이 걸리는 치밀한 계획을 세워 운영해야 한다고 말했다. 그래야 불가피한 사람 실수가 대참사로 이어지는 길이 막힌다는 것이다. 하지만 그런 동료는 한 번도 만나지 못했다고 덧붙였다.

◇ 오픈AI “필요하면 학습 멈춰“=오픈AI 측 관계자는 안전하게 관리하고 보호할 수 있는 범위를 넘어 모델 능력이 커지지 않도록 철저히 하고 있다고 반박했다. 개발 속도를 늦춰야 할 때는 학습을 일시 중단하거나 모델 공개를 보류한다고 했다. 또 연구·시험 환경 보안 강화와 작업을 단순히 끝내는 데 그치지 않고 책임 있게 수행하도록 하는 모델 학습, 제3자 평가기관과 협력 확대, 실시간 감시 개선 등 큰 변화를 추진하고 있다고 설명했다. 이를 통해 학습 과정 초기에 우려되는 행동을 감지하고 대응할 수 있게 하고 있다는 입장이다.

오픈AI 측은 오픈AI 기업문화 개혁을 요구하는 데 그치지 않고 AI 시스템 목표와 행동을 인간 가치관과 의도에 맞추는 AI 정렬을 근본적으로 개선할 때가 왔다고 말했다. 또 어쩌면 오픈AI에 남아 인력 배치와 기업문화를 근본적으로 바꾸기 위해 싸웠어야 했는지도 모른다고 털어놨다. 하지만 실제로는 자신과 동료들이 일상 업무에 쫓겨 큰 변화를 검토할 기회조차 거의 없었고 실제로 변화를 이끌 기회는 더더욱 없었다고 했다. 그래서 회사 밖에서 안전을 끌어낼 더 강한 유인이 이 문제를 푸는 데 무엇보다 중요하다는 결론에 이르렀다고 덧붙였다. 오픈AI 밖에서 행동에 나설 필요가 있었다는 주장이다. 관련 내용은 이곳에서 확인할 수 있다.

한편 오픈AI가 현지시간 2026년 10월 1일 챗GPT(ChatGPT) 최신 업데이트를 발표했다. 이번 업데이트로 챗GPT에 옷을 가상으로 입어볼 수 있는 입어보기(Try on) 버튼이 생겼다.

오픈AI는 챗GPT 쇼핑 기능을 업데이트해 옷과 액세서리를 가상으로 착용해보는 기능과 마음에 든 상품을 저장해 나중에 다시 볼 수 있는 찜하기 기능을 전 세계에 내놨다고 밝혔다.

오픈AI는 2025년 4월 쇼핑 기능을 업데이트해 챗GPT가 보여준 상품을 바로 살 수 있는 기능을 선보인 바 있다. 하지만 기술매체 테크크런치(TechCrunch)에 따르면 이 기능은 기대만큼 성과를 내지 못했고 오픈AI는 방향을 틀 수밖에 없었다.

최근 AI 기업들은 AI를 쇼핑에 활용할 방법을 찾고 있다. 인스팅트(Instinct) AI 에이전트는 이용자에게 적극적으로 상품을 추천하지만 일부 이용자에게 좋지 않은 평가를 받았다.

Instinct became shitty Amazon recommends app overnight.

I didn’t need to buy carry on luggage, sunglasses, or a brim hat. This feels so disappointing. At least make me a personalized shopping list of things I actually need!! https://t.co/TNQIEwK9z2

— Shruti Gandhi / Array VC preseed rounds (@atShruti) September 29, 2026

◇ 셀카 올리면 착용 모습 생성=오픈AI 입어보기 기능은 회사가 2026년 9월 8일 발표한 챗GPT 이미지 2.5(ChatGPT Images 2.5)를 바탕으로 한다.

이용자가 챗GPT가 보여준 옷이나 액세서리에 뜨는 입어보기 버튼을 누르면 셀카 찍기와 셀카 선택하기 가운데 하나로 자기 사진을 올리라는 안내가 나온다. 사진을 올리면 챗GPT 이미지 2.5가 고른 상품을 걸친 이용자 모습을 이미지로 만들어준다. 웹페이지 화면을 캡처하거나 상품 이미지를 올려 챗GPT에 자기에게 입혀달라고 요청할 수도 있다. 일부 상품에는 이미 입어보기 버튼이 표시되고 있었다.

쇼핑 관련 또 다른 새 기능은 챗GPT가 보여준 상품을 찜 목록에 저장하는 기능이다. 오픈AI에 따르면 찜한 상품을 가상으로 입어봤다면 착용 이미지도 함께 저장된다. 상품 오른쪽 위에 뜨는 아이콘을 누르면 찜 목록에 담을 수 있다.

오픈AI는 이 밖에 시도해보고 싶은 패션 스타일을 말로 설명하면 챗GPT가 그 코디를 완성하는 데 필요한 상품을 찾아주고 유명인 코디 사진을 올리면 그 사람이 걸친 상품 가운데 살 수 있는 걸 찾아준다고 홍보했다.

AI 가상 착용 기능을 내놓은 건 오픈AI만이 아니다. 구글(Google)은 좋아하는 옷을 가상으로 입어볼 수 있는 앱 도플(Doppl)을 출시했다. 관련 내용은 이곳에서 확인할 수 있다.