구글, TPU 8세대 라인업 신규 2종 추가 공개

- 기존에는 학습용 TPU 8t, 추론용 TPU 8i만 있었음. 이번에 TPU 8tx와 TPU 8i Max 2종 공개

- TPU 8tx : 금융·정부기관 등 민감 데이터를 다루는 고객의 보안 추론용 가속기

- TPU 8i Max : 추론용 TPU 8i 두 개를 한 패키지에 넣은 것. 8i 대비 연산, SRAM 용량, HBM 대역폭이 모두 2배 높음. HBM 용량은 384GB로 TPU 8i의 288GB보다 33% 높음

- 범용 D램 활용처를 올리는 KV캐시 처리 소프트웨어 기술 〈TPU Sync〉도 공개. TPU Sync는 HBM이 저장하던 KV캐시 중에 덜 자주 쓰는 KV캐시를 범용 D램에 보관하는 기술