욕조보다 뜨거운데…완전 액냉 시스템 발표한 엔비디아

엔비디아가 45°C 냉각액을 순환시키는 AI 서버용 완전 액체 냉각 방식을 발표했다. 루빈(Rubin) 세대 AI 인프라에서는 칩과 네트워크 장비를 포함한 모든 주요 부품을 폐쇄 루프식 액체로 냉각하며 팬을 사용하지 않는 설계를 채용한다고 한다.

GPU 고성능화로 문제가 되는 건 발열로 최근에는 데이터센터 냉각 시스템으로서 공랭이 아닌 냉각액을 이용한 액냉 시스템이 주목받고 있다. 예를 들어 마이크로소프트에서는 서버를 저온에서 끓는 액체에 담가 냉각하는 시스템을 개발하고 있다.

이번에 엔비디아가 새로 발표한 방식은 물 75%와 프로필렌 글리콜 25%로 구성된 냉각액이 프로세서에 직접 부착한 콜드플레이트를 흐르는 완전 액체 냉각 방식. 기존 데이터센터에서는 서버가 발생시키는 열을 대량 냉기로 제거하기 때문에 냉각 설비만으로 소비 전력 최대 40%를 차지하는 경우가 있다. 엔비디아 완전 액체 냉각 방식은 냉각액이 45°C로 서버에 유입되어 열을 흡수한 뒤 55°C로 배출되어 서버 성능을 유지하는 설계다. 냉각액 온도가 높기 때문에 조건이 갖춰지는 지역에서는 옥외 드라이쿨러를 통한 방열이 가능해져 전력 부하가 큰 냉각기 가동을 줄일 수 있다고 한다.

엔비디아에 따르면 칠러 설비 설정 온도를 1°C 올리면 냉각에 드는 에너지 비용을 4% 절감할 수 있다는 시산도 있으며 고온 액체 냉각은 데이터센터 전체 전력 사용량을 억제하는 수단이 된다고 밝혔다.

이 방식에서는 외기온 등의 조건이 갖춰지는 지역이라면 옥외 드라이쿨러만으로 열을 외부에 방출할 수 있어 기계식 칠러를 가동하지 않아도 될 가능성이 있다고 한다. 엔비디아는 시설 냉각에 필요한 물을 냉각탑을 사용하는 일반 방식과 비교해 최대 100% 절감할 수 있다고 밝히고 있다.

한편 완전 액체 냉각 방식 효과는 입지 기후에 좌우된다. 더운 지역이나 외기온이 45°C를 넘는 시기에는 칠러 가동이 필요해질 가능성이 있지만 연간 가동 시간을 한정할 수 있다면 자원 소비 절감으로 이어질 것으로 보인다.

완전 액체 냉각 방식에서는 기존에 공랭에 의존하던 부품도 액체로 냉각해야 하므로 엔비디아는 서버 내부 냉각 구조도 재검토하고 있다. 기존에 공랭 서버에서 6U가 필요하던 구성을 2U에 수납할 수 있는 경우도 있어 비용 절감뿐 아니라 고밀도화, 공간 절약, 소음 저감을 기대할 수 있다고 한다.

또 데이터센터에서 나오는 배열을 인근 상업시설이나 주택 난방에 재활용할 가능성도 제시됐다. 다만 엔비디아는 GPU 서버 자체가 필요로 하는 대량 전력이나 전력 공급에 따른 환경 부하는 별도의 과제로 남는다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.