기밀 데이터 보호용 TPU 공개한 구글

구글(Google)이 2026년 11월 9일 AI 처리에 특화한 8세대 TPU 새 시스템인 TPU 8tx와 TPU 8i Max를 발표했다. TPU 8tx는 AMD CPU와 함께 쓰는 시스템으로 기밀 데이터를 안전하게 처리할 수 있다. TPU 8i Max는 칩 2개를 결합해 많은 정보를 다루는 AI의 처리 성능을 높였다.

구글은 AI 학습과 추론에 특화한 프로세서인 텐서 처리 장치(Tensor Processing Unit·TPU)를 자체 개발하고 있다. 구글은 2026년 4월 8세대 TPU를 내놨다. 대규모 AI 모델 학습에 특화한 TPU 8t와 AI 추론을 빠르게 처리하는 TPU 8i다.

최근에는 질문에 답하는 데 그치지 않고 여러 작업을 스스로 진행하는 AI 에이전트 이용이 늘고 있다. AI 에이전트는 많은 정보를 읽어 들여 오랜 시간 처리를 이어갈 수 있어야 한다. 기업 기밀 정보를 안전하게 다루는 장치도 필요하다.

구글은 AI 에이전트가 확산하면서 생긴 새 수요에 대응하려고 8세대 TPU에 시스템 2종을 추가했다. 새 칩을 처음부터 개발하는 대신 기존 TPU에 메모리와 네트워크, 보안 기능을 조합하는 방식이다. 이렇게 하면 용도에 맞는 시스템을 짧은 기간에 개발할 수 있다는 설명이다. 이로써 8세대 TPU 제품군은 TPU 8t와 TPU 8i, TPU 8tx, TPU 8i Max까지 4종이 됐다.

◇ 처리 중인 데이터까지 지키는 TPU 8tx=새로 추가된 TPU 8tx는 기업이나 정부기관이 기밀 정보를 다룰 때 안전성을 높이도록 설계한 시스템이다. 데이터는 보통 저장하거나 전송할 때 암호화된다. 하지만 컴퓨터가 데이터를 처리하려면 메모리에서 복호화해야 한다. 그래서 기밀 정보를 다루는 AI는 처리 중인 데이터와 AI 모델 자체를 보호하는 게 과제다.

TPU 8tx는 TPU 8t와 같은 칩을 쓰고 호스트 CPU로 AMD 5세대 에픽(EPYC) 프로세서를 결합했다. 하드웨어 수준에서 기밀 정보를 보호하는 장치를 갖춰 AI가 처리하는 도중에도 데이터와 모델 가중치를 보호하고 격리할 수 있다. 또 저지연 네트워크 기술 보드플라이(Boardfly)를 적용해 처리 지연을 TPU 8t보다 최대 절반 줄였다. 구글은 성능 저하도 거의 없다고 밝혔다.

TPU 8tx는 소규모 학습도 처리할 수 있다. 기업이 보유한 데이터로 모델을 추가 학습할 수 있다. 대규모 모델 능력을 소규모 모델에 옮기는 증류와 시행착오를 거쳐 AI를 개선하는 강화학습도 할 수 있다. 기밀 데이터를 다른 시스템으로 옮기지 않고도 AI 모델을 조정하고 운영할 수 있다는 의미다.

◇ 칩 2개를 묶은 TPU 8i Max=TPU 8i Max는 많은 정보를 참조하며 작업하는 AI를 위해 설계했다. AI가 한 번에 참조할 수 있는 정보량을 컨텍스트 윈도라고 한다. 소프트웨어 코드 전체나 몇 시간 분량 동영상을 AI에 맡기려면 메모리에서 방대한 데이터를 읽어 들여야 한다. 데이터가 많을수록 메모리 전송 속도가 처리 성능을 제한하는 원인이 된다.

TPU 8i Max는 기존 TPU 8i 2개를 패키지 하나에 담아 대량 데이터를 효율적으로 처리할 수 있게 했다. 연산 성능과 SRAM 용량, 고대역폭메모리(HBM) 전송 속도가 TPU 8i보다 각각 2배로 늘었다. 연산 성능과 메모리 성능을 함께 끌어올려 AI가 많은 정보를 다룰 때 생기는 처리 대기를 줄일 수 있다. TPU 8i Max는 기존 서버 랙과 같은 설치 면적에 칩을 2배로 넣을 수 있다. 따라서 데이터센터 면적당 연산 성능도 높아졌다.

◇ 소프트웨어 지원도 확대=구글은 새 시스템을 발표하면서 TPU용 소프트웨어 확충 계획도 설명했다. 구글은 2026년 10월 토치TPU(TorchTPU)를 오픈소스로 공개했다. 이를 쓰면 AI 개발에 널리 쓰이는 파이토치(PyTorch) 코드를 TPU에서 돌릴 수 있다. AI 에이전트 개발 환경에서 TPU 설정과 성능 조정을 돕는 새 도구도 미리보기 버전으로 내놨다.

아민 바흐다트(Amin Vahdat) 구글 AI·인프라 부문 수석부사장은 TPU 8t를 대규모 학습에 맡기고 TPU 8i는 저지연 추론에 맡기면 된다고 설명했다. TPU 8tx는 기밀 정보 보호에, TPU 8i Max는 대량 정보 처리에 배치하는 식이다. 이렇게 하면 AI 에이전트의 폭넓은 용도에 대응할 수 있다는 게 그의 설명이다.

구글이 1년에 TPU 시스템 4종을 내놓은 건 이번이 처음이다. TPU 8tx와 TPU 8i Max의 구체적인 출시일과 가격은 기사 작성 시점까지 공개되지 않았다. 순다르 피차이(Sundar Pichai) 구글 최고경영자(CEO)는 구글 딥마인드(Google DeepMind) 연구자와 하드웨어 개발자가 함께 설계를 진행한다고 말했다. 그래서 기존 반도체 개발 주기를 기다리지 않고도 고객을 위한 기술 혁신을 이어갈 수 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.