오픈AI, 사용자 10억명‧40PB 이상 다루는 자체 스토리지 공개

오픈AI는 챗GPT와 코덱스(Codex) 같은 서비스를 운영하고 있으며 사용자 수는 2026년 7월 말 기준 10억명에 이르렀다. 오픈AI는 10억명이 넘는 사용자 데이터를 자체 개발한 온라인 스토리지 시스템 해비타트(Habitat)로 관리한다. 오픈AI는 공식 블로그를 통해 해비타트 세부 구조를 소개했다.

해비타트 초기 버전은 2023년 11월 열린 데브데이(DevDay)에서 처음 발표됐다. 초기 해비타트는 작은 파이썬(Python) 라이브러리였으며 검색과 암호화 직렬화 같은 처리를 마이크로소프트(Microsoft) 데이터베이스 서비스인 애저 코스모스DB(Azure Cosmos DB) 기능에 연결하는 게 주된 목적이었다. 오픈AI가 해비타트를 우선 쓰라는 업무 지시를 내리지는 않았지만 엔지니어들은 자연스럽게 해비타트를 즐겨 쓰게 됐다.

이후 해비타트는 오픈AI 서비스 규모 확대에 맞춰 업데이트를 거듭했다. 2026년 9월 현재 해비타트는 초당 요청 7,000만건 이상과 주간 활성 사용자 10억명 이상, 데이터 500페타바이트 이상을 처리하는 핵심 시스템으로 자리 잡았다. 오픈AI는 이 정도 규모 인프라를 구축하고 운영하는 게 쉽지는 않지만 유달리 어려운 일도 아니라고 밝혔다. 다만 회사가 해마다 10배 넘게 성장하면서 전례 없는 속도로 성숙한 플랫폼을 구축해야 했다며 급증하는 사용자와 데이터에 대응하는 어려움을 강조했다.

해비타트는 클라이언트 쪽에서 작동하는 파이썬 라이브러리 형태로 업데이트돼 왔다. 하지만 오픈AI 서비스가 늘면서 구현이 복잡해졌고 2025년 중반에는 하위 호환성을 유지하기 어려워졌다. 오픈AI는 이에 대응해 해비타트를 독립 서비스로 분리했고 클라이언트 사정과 상관없이 업데이트를 배포할 수 있게 됐다.

오픈AI는 해비타트를 서비스로 전환하면서 파이썬 대신 다른 저수준 언어로 옮기는 방안도 검토했다. 그러나 지금은 언어 이전보다 시급한 과제 해결을 우선하겠다고 판단했다. 앞으로 저수준 언어 이전이 꼭 필요해질 무렵이면 코덱스나 GPT로 코드를 저수준 언어로 옮기는 방식이 실용화돼 있을 것이라는 계산된 도박에 나서 파이썬 개발을 이어갔다.

오픈AI는 해비타트 병렬 처리를 구현하려고 표준 라이브러리 asyncio를 활용했다. 하지만 asyncio는 CPU 스레드마다 한 번에 작업을 하나씩만 실행할 수 있어 CPU 부하가 큰 작업에서는 지연이 커진다. 오픈AI는 지연을 최대한 줄이려고 CPU·메모리·스토리지·네트워크 사용률을 모니터링하며 최적화를 진행했다.

최적화 덕분에 해비타트는 초당 2,000만건이 넘는 요청을 처리할 수 있게 됐다. 그럼에도 오픈AI는 효율을 더 끌어올리려고 파이썬에서 러스트(Rust)로 옮기기로 결정했다. 오픈AI는 2026년 2분기 엔지니어 2명과 코덱스, GPT-5.5를 활용해 해비타트 서비스 전체를 러스트로 다시 작성하는 데 성공했다. 러스트판 해비타트는 파이썬판보다 CPU 효율이 6배, 메모리 효율이 15배 높아졌고 지연 시간도 크게 줄었다. 2026년 9월 현재 러스트판이 전체 요청 95%를 처리하고 있으며 파이썬판은 몇 주 안에 폐기될 예정이다. 관련 내용은 이곳에서 확인할 수 있다.