오픈AI, 사용자 기밀 정보 보호 위한 잠금 모드 발표

오픈AI가 프롬프트 인젝션(Prompt Injection) 공격으로부터 사용자 기밀 정보를 보호하기 위한 잠금 모드(Lockdown Mode)를 발표했다.

잠금 모드는 오픈AI 제품이 웹 및 외부 서비스에 연결할 수 있는 도구와 기능을 제한하는 선택적 고급 보안 설정이다. 간단히 말해 외부 네트워크 요청을 제한해 프롬프트 인젝션 공격으로 인한 데이터 유출 위험을 줄인다는 개념이다. 다만 보안 강화 대가로 일부 편의 기능이 비활성화되거나 제한된다는 점에 유의해야 한다.

이에 오픈AI는 잠금 모드에 대해 모든 사용자에게 적합한 기능은 아니라며 기밀 데이터를 다루며 프롬프트 인젝션 공격과 관련된 데이터 유출 위험으로부터 보다 엄격한 보호가 필요한 개인 및 조직을 위해 설계됐다고 설명했다.

잠금 모드는 모든 계정 유형 및 워크스페이스에서 사용 가능하지만 순차 배포될 예정이어서 일부 사용자 설정 화면에서는 아직 표시되지 않을 수 있다.

잠금 모드는 챗GPT 설정 내 보안 메뉴에서 고급 보안 항목을 보면 찾을 수 있다. 잠금 모드와 개발자 모드는 동시에 활성화할 수 없다. 잠금 모드가 활성화된 상태에서는 입력창 상단에 상태 메시지가 표시되며 특정 채팅에서만 비활성화하려면 상태 메시지에서 관리를 선택한 뒤 이 채팅에서 끄기를 선택하면 된다. 기타 옵션을 열어 잠금을 선택한 뒤 비활성화를 선택하는 방법도 있다.

프롬프트 인젝션 공격이란 악의적인 입력을 정상적인 프롬프트로 위장해 AI를 조작, 기밀 정보를 유출하거나 잘못된 정보를 확산시키는 AI 대상 사이버 공격 일종.

오픈AI는 프롬프트 인젝션 공격으로부터 사용자 기밀 정보를 보호하기 위해 다층적 보안 및 안전 시스템을 지속적으로 강화하고 있으며 잠금 모드는 그 일환으로 AI 모델·제품·시스템 레벨 전반에 걸친 보호 체계를 기반으로 한다. 구체적으로는 샌드박스, URL 기반 데이터 유출 보호, 모니터링 및 강제 적용, 역할 기반 접근 및 감사 로그 등 엔터프라이즈 제어 기능이 포함된다.

잠금 모드는 기밀 데이터를 공격자에게 전송할 수 있는 송신 네트워크 요청을 제한해 프롬프트 인젝션 공격에 의한 데이터 유출 최종 단계를 차단하도록 설계됐다. 다만 챗GPT가 처리하는 콘텐츠에서 프롬프트 인젝션 공격 자체가 발생하는 걸 막지는 못한다. 예를 들어 캐시된 웹 콘텐츠나 업로드된 파일에서 프롬프트 인젝션 공격이 발생할 수 있으며 이 경우 응답의 동작이나 정확도에 영향을 줄 수 있다.

잠금 모드를 활성화하면 오픈AI 제품 내 기능이 비활성화된다. 먼저 실시간 웹 브라우징. 웹 브라우징이 캐시된 콘텐츠 접근으로만 제한된다. 검색 결과가 제한되거나, 이용 불가하거나 오래된 정보일 수 있다. 다음으로 이미지 지원. 챗GPT가 일반 응답에서 이미지를 표시하거나 웹에서 이미지를 가져오지 못할 수 있다. 사용자는 계속 이미지 파일을 업로드할 수 있으며 이미지 생성 기능은 다른 기능이 이용 가능한 경우 계속 사용할 수 있다.

딥 리서치(Deep Research)와 에이전트 모드 역시 비활성화된다. 캔버스 네트워크 기능의 경우 사용자가 캔버스에서 생성된 코드 네트워크 접근을 승인할 수 없다. 파일 다운로드는 챗GPT가 데이터 분석을 위해 파일을 다운로드할 수 없게 된다. 다만 수동으로 업로드된 파일은 챗GPT에서 처리할 수 있다.

잠금 모드에서는 메모리 사용, 파일 업로드, 대화 공유 기능, 대화 내용의 AI 모델 개선 활용 여부 등 설정은 변경되지 않는다. 이런 설정 대부분은 워크스페이스 관리자가 개별적으로 구성할 수 있다.

한편 오픈AI에 따르면 잠금 모드를 활성화해도 대화 내용을 AI 모델 학습에 활용할지 여부에 관한 설정은 변경되지 않는다. 관련 내용은 이곳에서 확인할 수 있다.