35년 만에…ARM, 첫 자체 설계 실리콘 발표했다

영국에 본사를 둔 반도체 기업 ARM이 3월 24일 차세대 AI 인프라를 뒷받침할 새 제품군인ARM AGI CPU를 발표했다. IP 라이선스 및 CSS 제공을 주력으로 해온 ARM이 35년 이상 역사상 처음으로 자체 설계한 완성품 실리콘 제품을 직접 공급하는 것으로 ARM 네오버스(ARM Neoverse) 플랫폼을 기반으로 한 새로운 데이터센터용 실리콘 제품 라인 첫 번째 제품으로 자리매김했다.

ARM에 따르면 ARM AGI CPU는 AI 에이전트 시대 인프라 수요를 염두에 두고 설계한 것. AI 시스템이 전 세계적으로 상시 가동되고 소프트웨어 에이전트가 여러 모델과 연계하며 실시간 판단을 내리는 환경이 도래하는 가운데 CPU는 가속기 제어, 메모리 및 스토리지 관리, 워크로드 스케줄링, 시스템 간 데이터 이동, 나아가 다수 에이전트에 대한 팬아웃 조율까지 담당하는 현대 인프라 핵심 존재가 되고 있다. ARM은 이런 변화에 대응하기 위해 랙 규모에서 고밀도·고효율로 동작하는 CPU로 ARM AGI CPU를 투입했다고 밝혔다.

ARM AGI CPU는 TSMC 3나노 공정 기술로 제조되며 ARM 네오버스 V3(ARM Neoverse V3) 코어를 최대 136개 탑재한다. 코어에는 각각 전용 2MB L2 캐시가 갖춰져 있으며 동작 주파수는 최대 3.7GHz다. 듀얼 칩렛 설계를 채택해 메모리와 I/O를 동일 다이 측에 배치해 저지연을 우선시하며 100나노초 미만 메모리 접근을 목표로 한다.

메모리는 최대 DDR5-8800을 12채널 지원하며 800GB/s를 초과하는 총 대역폭과 코어당 6GB/s 메모리 대역폭을 실현한다. 칩당 최대 6TB 용량을 지원하며 I/O 측면에서는 96레인 PCIe Gen6, CXL 3.0, AMBA CHI 확장 링크를 지원한다. 이런 기능을 300W TDP 안에서 제공한다는 점도 특징이다.

성능 면에서는 ARM 레퍼런스 서버 구성을 기준으로 최신 x86 시스템과 비교해 랙당 2배 이상 성능을 발휘할 수 있다. 구체적인 도입 형태로는 칩 2개를 탑재한 1U 듀얼 노드 구성을 채택해 블레이드당 272코어를 구현한다. 이를 30블레이드 탑재한 36kW 공랭 랙에서는 8,160코어 운용이 가능하다. 또 슈퍼마이크로와 제휴한 200kW 수랭 구성에서는 ARM AGI CPU 336개를 수용해 4만 5,000코어 이상을 집적할 수 있다. ARM은 높은 메모리 대역폭 덕분에 랙당 더 많은 유효 스레드를 확보할 수 있으며 네오버스 V3 코어가 지닌 높은 싱글스레드 성능과 효율성이 이런 랙 단위 성능 향상으로 이어진다고 설명한다.

파트너십과 관련해서는 메타가 리드 파트너 겸 고객으로 개발에 협력하고 있으며 ARM AGI CPU는 메타 자체 커스텀 가속기 MTIA와 결합해 메타 앱 생태계를 뒷받침하는 기가와트 규모 인프라 최적화에 활용될 계획이다. 알렉시스 비욜린 메타 인프라 담당 부사장은 차세대 AI 가속기인 MTIA와 결합해 기가와트 규모 데이터센터 전반에 걸쳐 성능과 효율을 극대화할 수 있을 것으로 기대한다고 말했다.

오픈AI는 ARM AGI CPU는 자사 인프라가 확장되는 과정에서 중요한 역할을 할 것으로 기대된다면서 대규모 AI 워크로드를 조율하는 오케스트레이션 레이어를 강화하고 시스템 전체 효율성·성능·대역폭을 개선하기 위해서라고 밝혔다.

엔비디아 젠슨황 CEO는 가속 컴퓨팅은 CPU를 불필요하게 만든 것이 아니라 오히려 CPU를 불가결한 파트너로 만들었다며 ARM 아키텍처는 자사 모든 플랫폼 기반이 되고 있다면서 로보틱스용 젯슨(Jetson), 자율주행 시스템용 드라이브(Drive), 블루필드(BlueField) DPU, 베라(Vera) CPU에 이르기까지 ARM은 폭넓게 활용되고 있다고 밝혔다. 이어 자사가 구축하는 이런 시스템은 ARM 생태계과 ARM 플랫폼을 유연하게 형성하고 조율하고 변형할 수 없다면 실현이 불가능하다면서 이런 적응성과 변경 용이성이 자사 모든 플랫폼에 ARM을 통합할 수 있게 해왔다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.