오픈AI, 브로드컴과 LLM 추론 칩 발표했다

오픈AI가 반도체 기업 브로드컴과 공동으로 설계·제조한 첫 커스텀 프로세서 할라페뇨(Jalapeño)를 발표했다. 할라페뇨는 오픈AI 추론 시스템에 맞춰 특별히 설계된 칩으로 오픈AI AI를 활용하면서 설계부터 제품화까지 불과 9개월 만에 개발됐다.

오픈AI는 2025년 10월 10기가와트급 칩을 자체 개발한다는 목적으로 브로드컴과 수조 원대 규모 전략적 파트너십을 체결한 바 있다.

이번에 발표된 할라페뇨는 범용 AI 워크로드용 설계를 전용하는 게 아니라 현대 LLM 추론을 전제로 신규 설계된 칩이다. 개발에는 브로드컴 외에 보드, 랙, 시스템 통합을 담당하는 셀레스티카(Celestica)도 참여했다. 브로드컴은 반도체 실장과 토마호크(Tomahawk) 네트워크 실리콘 등을 담당하며 대규모 생산과 데이터센터 전개를 지원한다.

오픈AI는 할라페뇨는 LLM 추론의 미래에 대한 오픈AI 비전을 바탕으로 설계된 액셀러레이터이며 양사가 공동으로 구축 중인 멀티제너레이션 컴퓨팅 플랫폼에서 첫 AI 액셀러레이터다. 이 플랫폼은 고도의 AI를 더 빠르고 더 신뢰성 높게 더 많은 이들이 이용하기 쉽게 만드는 걸 목적으로 한다고 밝혔다.

아직 오픈AI는 할라페뇨 설계에 관한 세부 사항을 거의 공개하지 않았다. 다만 오픈AI는 기반 아키텍처가 데이터 이동을 줄인다고 밝혔으며 추론 클러스터 주요 성능 병목 중 하나인 로직 회로와 오프칩 메모리 간 데이터 이동을 줄이도록 설계됐을 가능성을 시사하고 있다.

오픈AI에 따르면 시작 칩은 GPT-5.3-코덱스-스파크(GPT-5.3-Codex-Spark)를 포함한 머신러닝 워크로드를 실행하면서 목표 주파수와 소비전력 조건에서 최종 실행 성능을 측정하고 있는 단계이며 아직 실험 단계임에도 최첨단 제품을 크게 웃도는 전력당 성능을 보였다고 보고했다.

오픈AI 그레그 브로크먼(Greg Brockman) 사장은 전 세계는 컴퓨팅 주도 경제로 이행하고 있다며 할라페뇨는 컴퓨팅 자원을 더 풍부하게 만들겠다는 자사의 장기적인 풀스택 인프라 전략 일환이며 그 결과 AI는 더 빠르고 신뢰성 높아지며 개인과 기업에 더 합리적인 가격으로 제공되고 더 중요한 과제 해결에 활용할 수 있게 된다고 밝혔다. 이어 스택 더 많은 부분을 자체 설계해 더 효율적으로 고도의 지능을 제공하고 선진적인 AI를 더 널리 이용할 수 있게 할 수 있다고 덧붙였다.

브로드컴 혹 탄(Hock Tan) CEO는 오픈AI와의 협업은 향후 10년간 AI에 필요한 물리 인프라를 확장한다는 자사의 근본적인 과제를 대변한다며 이건 복수 세대에 걸친 로드맵 시작에 불과하다면서 업계를 선도하는 당사의 실리콘을 오픈AI와 직접 공동 개발해 2026년부터 마이크로소프트 및 기타 파트너와 함께 기가와트 규모 데이터센터 전개를 가능하게 한다고 말했다.

We’ve designed and built our first AI chip: Jalapeño.

Designed from the ground up by OpenAI and brought to production with @Broadcom, Jalapeño is purpose-built for the LLM workloads powering ChatGPT, Codex, the API, and future agentic products.

Chips are foundational to the AI… pic.twitter.com/mHU7DaMMTi

— OpenAI (@OpenAI) June 24, 2026

오픈AI는 할라페뇨를 2026년 말까지 초기 도입할 예정이며 마이크로소프트 등 데이터센터 파트너와 기가와트 규모 전개를 목표로 하고 있다. 또 오픈AI는 할라페뇨를 복수 세대에 걸친 컴퓨팅 플랫폼의 첫걸음으로 표현하며 미래에 추가 추론 프로세서를 개발할 계획이 있다는 걸 시사했다. 관련 내용은 이곳에서 확인할 수 있다.