x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

AI 모델 성능을 자체 평가하는 아티피셜애널리시스(Artificial Analysis)가 오픈AI GPT-6 아스트라(GPT-6 Astra) 벤치마크 결과를 공개했다. 코딩 에이전트 성능을 재는 아티피셜애널리시스 코딩 에이전트 인덱스에서 GPT-6 아스트라는 67점을 기록해 클로드 오푸스 5(Claude Opus 5)와 페이블 5(Fable 5), 뮤즈 스파크 1.3(Muse Spark 1.3)과 거의 같은 수준에 이르렀다. 다만 1위인 페이블 5.1이 기록한 70점에는 못 미쳤다.

아티피셜애널리시스는 9월 3일 GPT-6 아스트라에 대해 코딩 에이전트 능력을 평가하는 코딩 에이전트 인덱스와 폭넓은 지적 능력을 평가하는 인텔리전스 인덱스 결과를 공개했다. 두 지수에서는 서로 다른 경향이 확인됐다. 코딩에서는 높은 비용 효율을 보인 반면 종합적인 지적 능력 평가에서는 비싼 요금이 비용 효율을 떨어뜨렸다.

코딩 에이전트 인덱스에서는 코덱스(Codex)에서 돌린 GPT-6 아스트라가 67점을 얻었다. 67점인 페이블 5와 같은 점수이며 68점인 클로드 오푸스 5나 64점인 뮤즈 스파크 1.3과도 비슷한 수준이다. 클로드 코드에서 동작하는 페이블 5.1은 70점으로 1위에 올랐다.

GPT-6 아스트라에서 크게 개선된 건 토큰 효율이다. 최대 추론 강도로 코덱스를 쓸 경우 GPT-6 아스트라가 소비하는 토큰 수는 GPT-5.6 솔 3분의 1, 클로드 오푸스 5의 7분의 1 수준이었다. 아티피셜애널리시스는 GPT-6 아스트라 토큰 사용량이 GPT-5.6 솔보다 70% 줄었다고 평가했다.

이런 토큰 효율은 과제당 비용에도 반영됐다. 최대 추론 때 GPT-6 아스트라는 GPT-5.6 솔과 과제당 비용이 거의 같으면서도 코딩 에이전트 인덱스에서는 2점 앞섰다. 페이블 5와 같은 67점을 기록하면서 과제 1건당 비용은 페이블 5 절반 미만이었다. 토큰 단가만 보면 GPT-6 아스트라보다 제미나이 3.8 플래시(Gemini 3.8 Flash)가 저렴하지만 과제당 비용에서는 GPT-6 아스트라가 더 낮다.

이 때문에 GPT-6 아스트라는 코딩 에이전트 인덱스 점수와 과제당 비용을 비교했을 때 파레토 프런티어에 자리한다. 같은 비용대 모델 가운데 점수가 가장 높고 같은 점수대 모델 가운데 비용이 가장 낮은 비용 효율 우수 모델이라는 뜻이다.

인텔리전스 인덱스에서는 평가가 다소 다르다. GPT-6 아스트라는 61점으로 GPT-5.6 솔, 뮤즈 스파크 1.3과 동점이었고 66점인 페이블 5.1에는 5점 뒤졌다. 인텔리전스 인덱스에서도 토큰 효율 자체는 개선돼 최대 추론 때 출력 토큰 수가 GPT-5.6 솔보다 10% 적었다.

하지만 GPT-6 아스트라 API 요금은 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러로 입력 4달러, 출력 20달러였던 GPT-5.6 솔보다 2.5배 올랐다. 그 결과 최대 추론 때 과제 1건당 비용은 GPT-5.6 솔보다 75% 비싸졌다.

 

다른 평가에서는 모델 지식과 환각을 측정하는 AA-옴니사이언스(AA-Omniscience)에서 최대 추론 때 환각률이 GPT-5.6 솔의 92%에서 51%까지 떨어졌다. 아티피셜애널리시스는 동시에 정답률도 4점 올라 단순히 답변을 삼가는 방식으로 환각을 줄인 게 아니라고 설명했다.

장기간에 걸친 복잡한 지식 작업을 평가하는 AA-브리프케이스(AA-Briefcase)에서 GPT-6 아스트라는 GPT-5.6 솔보다 80일로(Elo)포인트 개선됐다. 반면 직종 44개에 걸친 경제적 가치가 있는 작업을 평가하는 GDPval-AA v2에서는 80일로포인트 하락했다.

은행 고객지원을 다루는 τ3-뱅킹(τ3-Banking)과 과학 분야 파이썬 문제를 다루는 사이코드(SciCode), 대량 문서를 대상으로 하는 장문맥 추론 AA-LCR에서도 GPT-6 아스트라는 GPT-5.6 솔보다 2~3점 가량 낮았다.

아티피셜애널리시스 결과를 보면 GPT-6 아스트라는 모든 능력에서 전 세대를 크게 앞선 모델이라기보다 코딩 에이전트로서 토큰 효율을 크게 끌어올린 모델이라 할 수 있다. 코딩 에이전트 인덱스에서는 최상위권 성능을 낮은 과제당 비용으로 구현한 반면 인텔리전스 인덱스에서는 GPT-5.6 솔과 같은 61점에 머물렀고 2.5배가 된 토큰 단가 탓에 토큰 효율 향상 이점이 상쇄됐다. 관련 내용은 이곳에서 확인할 수 있다.

한편 GPT-6 아스트라는 3D 모델링과 게임엔진 조작에 뛰어나다는 점을 내세우고 있으며 인터넷에는 이 모델로 만든 3D 작품 실례가 다수 올라오고 있다.

기존 AI 모델도 블렌더(Blender) 같은 3D 제작 앱을 조작해 어느 정도 모델링 작업을 해낼 수 있었지만 작품으로 성립시키려면 사람 손질이 반드시 필요했다. 반면 GPT-6 아스트라는 프롬프트를 입력하는 것만으로 블렌더에서 3D 공간을 만들고 언리얼 엔진 5에서 걸어 다닐 수 있는 인터랙티브 콘텐츠로 만드는 작업까지 끝낼 수 있다. 오픈AI 직원인 토마 리쿠아르(Thomas Ricouard)는 GPT-6 아스트라 예로 걸어 다닐 수 있는 데모 하우스 영상을 공개했다.

 

작업 과정도 밝혔다. 먼저 프롬프트로 방 개수와 집 전체 구조를 입력하자 GPT-6 아스트라가 상세한 평면도를 생성했다. 이어 블렌더로 집 3D 모델을 만드는 데 성공했고 블렌더에 탑재된 렌더러 사이클스(Cycles)로 조명 효과를 반영한 이미지를 출력하도록 지시하자 결과물을 내놨다.

리쿠아르가 언리얼 엔진 5로 장면을 내보내라고 지시하자 GPT-6 아스트라는 자체 파이프라인을 구축해 블렌더에서 언리얼 엔진 5로 장면을 옮겼다. 이후 지시를 이어간 결과 문을 여닫는 식으로 상호작용할 수 있는 앱이 완성됐다. 그는 아스트라가 시네마틱 콘텐츠와 3D 모델 이해에 탁월하다며 스카이박스와 시네마틱 라이팅 구축, 구도 선정 같은 작업을 처음 몇 차례 프롬프트를 빼면 자동으로 수행한다고 밝혔다.

엑스에는 다른 작품도 올라오고 있다. 오픈AI 직원 샤리프 샤미엠(Sharif Shameem)은 샌프란시스코에 있는 팰리스 오브 파인 아츠(Palace of Fine Arts)를 3D로 구현한 작품을 공개했다. GPT-6 아스트라는 팰리스 오브 파인 아츠 사진 수백 장을 수집한 뒤 블렌더로 장면을 만들면서 수집한 이미지와 비교해 계속 개선하는 동작을 보였다.

 

AI 분야 유명 투자자 맷 슈머(Matt Shumer)는 GPT-6 아스트라로 사람이 활동하는 가상 세계를 만들어냈다. 아이팟 형태와 UI를 재현하고 그 UI에서 코덱스(Codex) 스레드를 볼 수 있게 한 인터랙티브 콘텐츠도 나왔다. 프롬프트는 블렌더로 아이팟 3D 모델을 만들고 원래 아이팟 UI와 조작 방식으로 코덱스 스레드를 시각화할 수 있는 맥용 앱을 만들어 달라는 단순한 내용이었으며 걸린 시간은 15분이었다.

지도에 핀을 꽂으면 그 주변을 3D 모델로 만들어 보여주는 앱과 증기기관차 3D 모델을 만든 사례도 있다. 캐릭터 삼면도를 주고 3D 모델을 만들게 하는 과제 결과도 올라왔는데 이 작례에서는 머리 색이나 옷차림 같은 대략적인 특징은 재현했지만 사람 모델러를 대체하기에는 아직 거리가 멀다는 게 드러났다. 관련 내용은 이곳에서 확인할 수 있다.

한편 GPT-6 아스트라가 인간 조작 도움 없이 퍼즐 FPS 포털(Portal)을 클리어했다는 보고가 나왔다. GPT-6 아스트라가 클리어하기까지 든 API 비용은 79만원대(571.18달러)였다.

실제 플레이 모습은 유튜브에 공개되어 있다. 다만 게임 시작부터 클리어까지를 모두 담은 건 아니고 게임 도중 GPT-6 아스트라가 일시정지한 채 추론하는 시간은 잘려 있다. 영상 재생 시간은 2시간이지만 테스트를 진행한 코지블레이즈에 따르면 클리어까지는 23시간 43분이 걸렸다.

포털은 워프 포털을 설치할 수 있는 총을 써서 복잡한 스테이지를 공략하며 시설 탈출을 노리는 FPS 게임이다.

GPT-6 아스트라는 MCP 서버에서 동작하며 로딩이나 레벨 전환 때 게임을 일시정지시키는 플러그인 소스포즈툴(SourcePauseTool) 개량판을 써서 포털을 플레이했다. GPT-6 아스트라가 사고하는 동안 게임은 일시정지 상태가 되고 모델이 입력 시퀀스를 보내면 정지가 풀려 실행되는 구조다.

포털은 퍼즐 게임이지만 발을 헛디디거나 장치에 걸리면 게임오버가 되기도 한다. 그때마다 GPT-6 아스트라는 다시 시도하며 추론을 거듭했다. 도구를 써서 길을 여는 모습도 보였다. 까다로운 타이밍을 요구하는 장면도 있지만 여러 차례 다시 시도하며 클리어를 노렸다.

마지막 관문인 글라도스(GLaDOS) 스테이지를 공략하려면 플레이하면서 여러 장치를 알아차려야 한다. GPT-6 아스트라는 시행착오 끝에 이를 클리어했다. 코지블레이즈에 따르면 GPT-6 아스트라는 최종적으로 도구 호출을 3,336회 했고 든 API 비용은 571.18달러였다.

엔딩에 흐르는 스틸 얼라이브(Still Alive)는 실험을 위해 만들어진 AI인 글라도스가 인간에게 파괴되고도 여전히 살아 있다고 비꼬듯 부르는 곡이다. 다만 이번에 글라도스를 파괴한 것도 AI인 GPT-6 아스트라다.

코지블레이즈는 이번 검증에 쓴 설정을 깃허브에 공개했다. 또 GPT-6 아스트라가 포털을 클리어하기까지 전 과정을 유튜브로 생중계했으며 아카이브에서 다시 볼 수 있다. GPT-6 아스트라가 어디에서 고전했는지, 어떤 사고를 거쳐 토큰을 얼마나 썼는지도 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

Next Post