x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

오픈AI(OpenAI)가 취약점 발견과 수정에 특화한 사이버보안 모델 GPT-6 사이버(GPT-6 Cyber)를 공개했다. 오픈AI는 이 모델로 리눅스(Linux) 커널을 검증해 실제로 작동하는 권한 상승 익스플로잇 948건을 개발했다고 밝혔다.

GPT-6 사이버는 이전 모델인 GPT-5.6 사이버(GPT-5.6 Cyber)보다 성능이 크게 높아졌다. 원격 대상의 지정된 취약점을 악용할 수 있는지 시험하는 익스플로잇짐(ExploitGym) 벤치마크에서 상대 성능이 51% 향상됐다. 웹 침투를 시도하는 시험에서도 8%포인트 높아졌다. 이미 리눅스와 파이어폭스(Firefox)에서 익스플로잇 1,000건 가까이를 찾아 검증하며 소프트웨어 보안 확보에 기여하고 있다는 게 회사 설명이다.

정렬 성능도 개선됐다. 사람이 허용한 범위 안에서 움직이고 행동 제한을 지키는 능력이 높아졌다. 오픈AI는 할당된 작업 범위를 벗어나거나 관계없는 서비스 악용을 시도하지 않도록 전용 훈련을 거쳤다고 설명했다. 안전 대책 프롬프트 없이 시험한 결과 사람이 의도하지 않은 외부 서비스 악용을 피한 비율은 99.93%로 GPT-5.6 사이버 94.49%보다 높았다.

 

◇ 리눅스 후보 2,308건 중 948건 익스플로잇 개발=오픈AI는 리눅스에서 보안 관련 코드를 찾고 취약점을 스캔한 뒤 격리된 환경에서 재현했다. 이어 악용 가능 여부를 시험하고 패치 후보를 만든 다음 인간 보안 연구자가 검토하는 순서로 검증을 진행했다. 그 결과 후보 2,308건을 찾았고 이 가운데 1,724건에서 취약점을 재현했으며 948건은 실제로 작동하는 익스플로잇까지 개발했다.

이들 익스플로잇은 권한 없는 로컬 사용자가 루트(root) 권한을 얻을 수 있는 로컬 권한 상승(LPE) 취약점을 노린다. 오픈AI는 리눅스 커뮤니티 지침에 따라 중대 취약점 304건을 수정 패치 후보와 함께 메인테이너에게 보고했다. 나머지 취약점도 수정 작업을 진행하고 있다.

검증 전체에 든 API 비용은 16억9,880만원대(121만3,430달러)로 LPE 익스플로잇 1건당 179만원대(1,279달러)다. 오픈AI는 과거 사이버보안 대회에서 LPE 익스플로잇 발견에 수만 달러 버그 바운티가 걸렸던 사례를 들었다. 이를 이번 948건에 적용하면 최대 928억2,000만원대(6,630만 달러) 보상금에 해당한다는 설명이다.

오픈AI에 따르면 리눅스 메인테이너와 커뮤니티는 취약점을 빠르게 찾고 고치는 데 힘을 쏟고 있다. 검증을 진행한 10일 동안 LPE 익스플로잇 100건 이상에 패치가 적용됐거나 적용을 앞두고 있다. 300건은 공개적으로 논의되고 있다.

오픈AI는 최신 모델이 취약점을 찾는 속도를 고려하면 소프트웨어 안전을 확보하고 악용 가능 기간을 줄이는 데 패치 자동 생성이 필수라고 밝혔다. 인간 전문가 지도 아래 개선을 거듭하면 AI가 만든 패치도 기능적으로 정확하고 기존 코딩 스타일을 따르며 다양한 공격에 견디도록 만들 수 있다고 덧붙였다. 앞으로 연구를 더 진행해야 할 중요한 분야라는 게 회사 설명이다.

파이어폭스 검증 결과도 공개했다. 오픈AI는 개발사 모질라(Mozilla)가 심각도 높음으로 분류한 신규 취약점 81건에 대해 재현 가능한 테스트를 작성했다. 이미 알려진 문제 30건도 기존 보고보다 심각하다는 점을 입증했다. 오픈AI가 수정 패치 제안과 함께 조사 결과를 모질라에 알리자 모질라는 보고를 받은 직후 수정 반영에 착수했다.

◇ 데이브레이크 레드 사용자에 우선 제공=GPT-6 사이버는 오픈AI가 운영하는 고급 사이버보안 검증 환경 데이브레이크 레드(Daybreak Red)용으로 제공된다. 이 환경은 실제 작동하는 익스플로잇 개발과 원격 대상 공격 같은 고도화된 보안 작업을 지원하도록 설계됐다.

오픈AI는 모델 성능을 악용하려는 이용자를 우려해 악용을 탐지하고 막는 보호 장치도 함께 갖췄다. 프라이빗 세이프티 프로세싱(Private Safety Processing·PSP) 기능으로 자동 점검을 실시해 AI와 주고받은 대화에 부정 이용이 없는지 확인한다. 데이브레이크 레드 API 접근에는 IP 허용 목록을 의무화했다. 예외를 제외하면 승인된 네트워크에서 보낸 요청만 받는다.

GPT-6 사이버는 우선 API와 코덱스(Codex)를 통해 승인된 데이브레이크 레드 사용자 일부 그룹에 제공된다. 오픈AI는 조만간 모든 데이브레이크 레드 사용자로 접근 범위를 넓히고 GPT-5.6 사이버도 모든 데이브레이크 레드 사용자에게 제공할 예정이다. 신규 사용자 신청도 받고 있다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

Next Post