x

이메일로 만나보는 스타트업 가이드

투자, 행사, 정부사업 등 스타트업 생태계 소식을 이메일로 편하게 받아보세요.

구글이 7세대 TPU인 아이언우드(Ironwood) 일반 제공을 몇 주 내에 시작한다고 발표했다. 아이언우드는 AI 처리에 특화된 칩으로 고속 학습과 추론을 저비용으로 구현할 수 있다.

TPU는 구글이 독자 개발한 AI 전용 프로세서로 구글 AI 모델인 제미나이와 비오(Veo) 개발 및 운영에 활용되고 있으며 구글 클라우드 서비스를 통해 전 세계 사용자가 TPU를 이용할 수 있도록 제공되고 있다.

지난 4월 공개된 아이언우드는 칩당 192GB 메모리를 탑재하고 있다. 2024년 12월 일반 제공이 시작된 Trillium(TPU v6e)과 비교해 칩당 성능이 4배 이상 향상됐다. 구글에 따르면 아이언우드는 추론 모델 처리에 최적화된 7세대 TPU로 한 포드(pod) 단위 연산 성능은 세계 최강급 슈퍼컴퓨터 엘캐피탄(El Capitan) 24배 이상에 달한다.

아이언우드는 일반 제공에 앞서 여러 기업에 선공급됐다. 예를 들어 클로드 시리즈를 개발하는 AI 기업인 앤트로픽(Anthropic)은 아이언우드를 포함해 100만 대 이상 TPU를 사용하는 계약을 체결한 바 있다.

아이언우드는 칩 간을 초당 9.6Tb 속도로 상호 연결할 수 있으며 최대 9,216개 칩으로 네트워크를 구성할 수 있다.

또 구글은 ARM 기반 CPU 액시온(Axion)을 사용한 가상머신(VM) N4A와 베어메탈 서버 C4A metal도 함께 발표했다. 관련 내용은 이곳에서 확인할 수 있다.

뉴스 레터 구독하기

Related Posts

No Content Available
Next Post