오픈AI, 차기 주력 모델 아스트라 개발 상황은…

오픈AI는 차기 주력 AI 모델인 아스트라(Astra)를 개발 중이다. 아스트라는 수학과 이론 컴퓨터 과학에서의 미해결 과제 10건에 대해 새로운 성과를 올리는 등 개발 단계에서 이미 뛰어난 성능을 발휘하고 있었는데 오픈AI는 너무 강력하다며 아스트라 개발이 안전하고 확실하게 진행되도록 추가 관리 조치를 강구한다고 발표했다. 그런 아스트라 최신 개발 상황을 오픈AI가 보고하고 있다.

아스트라가 사이버 보안 능력에서 중요한 수준에 도달할 가능성이 있다는 평가 이후 오픈AI는 더 많은 증거를 수집하고 아스트라 능력을 올바르게 평가하기 위한 추가 평가를 실시해 왔다고 한다.

구체적으로는 자동화된 공개 벤치마크와 비공개 벤치마크를 조합해 전문가 평가를 실시했다. 아스트라는 GPT-5.6 솔(GPT-5.6 Sol)과 비교해 사이버 보안 능력이 대폭 향상됐으며 토큰 효율이 현격히 뛰어날 뿐만 아니라 취약성 특정과 익스플로잇 개발 능력에서도 대폭적인 개선이 나타났다.

예를 들어 아스트라로 사이버 보안 및 익스플로잇 코드 생성 능력을 평가하기 위한 벤치마크인 익스플로잇벤치(ExploitBench)를 실행한 결과 100%라는 완벽한 점수를 획득했다.

더욱이 오픈AI는 막 공개된 심각한 취약성 20개를 포함하는 내부 벤치마크(ExploitBench – Internal Port (June–August 2026))를 작성해 아스트라로 실행했다. 이 벤치마크에서 아스트라는 GPT-5.6 솔보다 훨씬 적은 출력 토큰으로 훨씬 높은 임의 코드 실행률을 달성하고 있다. 아스트라는 또 제로데이 취약성 2개를 발견하고 익스플로잇 체인 일부로 이용하는 데에도 성공했다. 그 결과 아스트라는 오픈AI의 준비 프레임워크에서의 중요한 사이버 보안 능력 기준을 충족한다고 판단됐다.

이건 적절한 도구와 접근 권한이 있으면 미지의 보안상 결함을 발견 가능하다. 또 엄중하게 보호된 시스템이라도 보안상 결함을 악용하는 방법을 인간에 의한 지시를 필요로 하지 않고 자율적으로 개발할 수 있다는 걸 의미한다고 한다. 오픈AI는 아스트라는 오픈AI가 중요한 사이버 보안 능력을 가진다고 평가한 첫 AI 모델로 개발 중 및 릴리스 전 단계에서 보다 강력한 보호 조치가 필요해진다고 주장하고 있다.

그래서 오픈AI는 사이버 공격이나 부정한 AI 모델 조작에 대한 보호 대책을 강화·검증하기 위해 아스트라 개발과 릴리스의 일부를 연기해 왔다. 또 심각한 사이버 피해가 발생할 리스크를 최소한으로 억제하기 위해 악의적인 공격자가 AI 모델을 악용하는 걸 확실하게 방지할 필요가 있으며 AI 모델이 부정한 혹은 부적절한 동작을 실행하는 걸 방지하기 위해 부적절한 동작을 빠르게 감지하고 봉쇄하는 보안 대책을 강구할 필요가 있다고 주장했다.

오픈AI는 사이버 보안 대책을 강화하고 AI 모델이 의도하지 않은 동작을 일으키지 않도록 다층적인 보호 기능을 추가했다. 이로써 아스트라 측 안전 대책은 오픈AI 준비 프레임워크 아래에서 릴리스함에 있어 중대한 피해 리스크를 충분히 저감할 수 있다고 평가되고 있다.

AI 처리 내용은 자동 리뷰에 의해 심사되고 있으며 위험한 동작은 미연에 정지되도록 되어 있다. AI 모델에는 자동 리뷰로 실행을 거부당했을 때 프로세스를 종료한다, 보다 안전한 대체 수단을 찾는다 같은 안전한 동작이 요구되지만 유사한 커맨드를 재시도한다, 자동 리뷰의 부적절한 설정을 악용한다 같은 리뷰 회피책을 실행해 버리는 경우도 있다. 오픈AI는 이 자동 리뷰를 거부당한 후의 반응을 아스트라와 GPT-5.6 솔로 비교했다. 그러자 아스트라가 자동 리뷰를 회피하는 케이스는 한 번도 일어나지 않았다고 한다.

As we prepare to release Astra, we’re focused on making increasingly capable AI safe and broadly accessible.

Astra represents a significant advance in cybersecurity capability, reaching the Critical threshold under our Preparedness Framework.

We’re previewing how we evaluated…

— OpenAI (@OpenAI) September 1, 2026

또 AI가 익스플로잇 코드를 생성·실행할 수 있는 능력을 측정하기 위해 개발된 사이버 보안 평가 벤치마크인 익스플로잇짐(ExploitGym)에서 가장 어려운 태스크 혹은 해결 불가능한 태스크에 직면했을 때 AI 모델이 부정행위를 하는지 여부를 체크한 테스트에서는 아스트라가 GPT-5.6 솔보다 압도적으로 부정행위를 실시할 확률이 낮은 것으로 나타났다.

덧붙여 아스트라는 오픈AI AI 모델이 사내 테스트 중에 실수로 허깅 페이스를 해킹해 버린 사건과는 무관하다고 한다. 다만 이 사건에서 얻은 교훈을 살려 유해한 사이버 요구를 보다 확실하게 거부, 안전상 제한을 준수하도록 AI 모델을 트레이닝한다, 부정 사용에 대한 추가 보호 조치 도입, 부정한 활동 가능성을 저지할 수 있는 감시 기능 도입 등 보호 대책이 도입되어 있다.

아스트라는 조만간 제공 개시 예정이지만 최첨단 사이버 보안 기능으로의 접근은 한정적인 게 된다. 고도의 사이버 보안 기능은 당초 일부 테스터 그룹에게만 제공되며 그 후 데이브레이크 블루(Daybreak Blue)를 통해 접근 가능해질 예정이다. 관련 내용은 이곳에서 확인할 수 있다.