x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

지난 4월 24일 아마존이 AWS 그래비톤(AWS Graviton)을 메타에 공급하는 계약을 체결했다고 발표했다. 이번 계약으로 메타는 수천만 개에 이르는 칩을 공급받게 되어 세계 최대 규모 AWS 그래비톤 고객사 중 하나가 된다.

이번 계약에 대해 아마존은 AI 인프라스트럭처 구축 방식 변화를 반영한 것이라며 대규모 모델 학습에는 GPU가 여전히 필수적이지만 AI 에이전트 부상으로 실시간 추론·코드 생성·검색·다단계 태스크 오케스트레이션 등 CPU 부하가 높은 워크로드에 대한 수요가 급증하고 있다. 그래비톤5(Graviton5)는 이런 워크로드에 특화 설계되어 있으며 메타는 이를 대규모로 효율적으로 실행할 수 있는 처리 능력을 확보하게 된다고 설명했다. AWS 그래비톤은 ARM 기반 CPU로 GPU가 아니다.

AWS 그래비톤은 메타 사내 다양한 워크로드를 지원하는 한편 메타 AI 개발을 뒷받침하는 역할도 담당한다. 이런 작업에는 수십억 건에 이르는 인터랙션을 처리하면서 복잡한 다단계 에이전트 워크플로를 조율할 수 있는 인프라스트럭처가 필요한 만큼 AWS 그래비톤에 최적화된 작업이라고 할 수 있다.

아마존이 메타에 공급하는 그래비톤5는 코어 192개와 전 세대 대비 5배 용량 캐시를 탑재했으며 코어 간 통신 지연을 최대 33% 줄이는 데 성공했다. 이는 더 빠른 데이터 처리와 넓은 대역폭을 의미하며 지속적으로 추론을 수행하고 다단계 태스크를 실행해야 하는 AI 에이전트에 중요한 요건.

AWS 그래비톤은 AWS 니트로 시스템(AWS Nitro System) 위에 구축되어 전용 하드웨어와 소프트웨어를 활용해 고성능·고가용성·고보안을 실현한다. AWS 니트로 시스템은 하드웨어에 직접 접근할 수 있는 베어메탈 인스턴스를 제공하는 동시에 메타가 성능 저하 없이 자체 가상 머신을 실행할 수 있도록 ENA(Elastic Network Adapter) 및 아마존 EBS(Amazon Elastic Block Store) 디바이스도 제공한다.

또 그래비톤5 인스턴스는 EFA(Elastic Fabric Adapter)도 지원해 인스턴스 간 저지연·고대역폭 통신을 구현한다. 이는 대규모 태스크를 다수 프로세서에 분산시켜 협력 처리해야 하는 메타 AI 에이전트 워크로드에 필수적인 요소다.

아마존 나페아 부샤라(Nafea Bshara) 부사장은 메타와의 파트너십이 확대되고 수천만 개에 이르는 그래비톤 코어가 배포되는 건 전용 설계 실리콘과 AWS AI 스택 전체를 결합해 차세대 AI 에이전트가 무엇을 실현할 수 있는지를 보여주는 사례라고 밝혔다.

메타 인프라스트럭처 책임자인 산토시 자나르단(Santosh Janardhan)은 자사 AI 사업을 뒷받침하는 인프라스트럭처를 확장하는 데 있어 컴퓨팅 리소스의 다양화는 전략적으로 필수적이라며 AWS는 오랜 기간 신뢰할 수 있는 클라우드 파트너였으며 AWS 그래비톤으로의 확장을 통해 AI 에이전트 기반이 되는 CPU 부하 높은 워크로드를 자사 규모에 필요한 성능과 효율성으로 실행할 수 있게 될 것이라고 말했다.

한편 최근에는 앤트로픽(Anthropic)이 아마존과의 전략적 제휴를 확대하고 AWS 그래비톤을 포함한 AI 칩 확보를 위한 투자를 발표한 바 있다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

No Content Available
Next Post