[엔비디아, Rubin HBM4·NVLink 대역폭 하향…양산 안정성 확보 가능성]
*Rubin HBM4 대역폭 22TB/s→19.2TB/s
-엔비디아가 차세대 Vera Rubin 플랫폼의 공개 사양을 수정해 Rubin GPU당 HBM4 메모리 대역폭을 기존 22TB/s에서 19.2TB/s로 12.7% 하향
-NVLink 6 대역폭도 GPU당 3.6TB/s에서 3.0TB/s로 16.7% 낮아졌으며, HBM4 용량 288GB와 NVFP4 추론 성능 50PFLOPS는 유지
-사양 변경은 엔비디아의 별도 발표 없이 이뤄졌으며 과거 웹페이지와 비교하면 9월 1~11일 사이 수정된 것으로 추정
*NVL72 HBM4 대역폭 1,580→1,400TB/s
-Vera Rubin NVL72의 전체 HBM4 용량은 20.7TB로 유지됐지만 메모리 대역폭은 1,580TB/s에서 1,400TB/s로 11.4% 감소
-NVLink 대역폭도 260TB/s에서 216TB/s로 16.9% 하향
-반면 외부 네트워크 대역폭은 28.8TB/s에서 32.4TB/s로 12.5% 확대돼 랙 간 연결 성능은 강화
*HGX Rubin NVL8 사양 하향폭 더 커
-8개의 Rubin GPU를 탑재하는 HGX Rubin NVL8의 HBM4 대역폭은 176TB/s에서 130TB/s로 26.1% 감소
-HBM4 총용량도 2.3TB에서 2.0TB로 13% 줄었으며 NVLink 스위치 대역폭은 28.8TB/s에서 24TB/s로 하향
-학습 성능도 NVFP4 기준 280PFLOPS에서 270PFLOPS, FP8·FP6 기준 140PFLOPS에서 130PFLOPS로 조정
*HBM4 공급·수율 확보 위한 사양 조정 가능성
-앞서 SemiAnalysis를 인용한 업계 보도에서는 HBM4 공급업체들이 엔비디아가 요구한 초기 대역폭 목표를 충족하는 데 어려움을 겪고 있다고 전한 바 있음
-HBM4 속도 요구조건을 낮출 경우 메모리 생산수율을 높이고 Rubin 플랫폼 양산에 필요한 HBM4 공급량을 확보하는 데 도움이 될 가능성
-기사에서는 이번 변경을 최고 성능보다 HBM4 양산 물량과 안정적인 공급 확보에 무게를 둔 조정으로 해석
*실제 성능 영향은 워크로드별로 달라질 전망
-이번 변경은 공개 사양 기준으로 실제 애플리케이션 성능을 측정한 벤치마크 결과는 아님
-메모리와 GPU 간 데이터 이동량이 많은 대규모 모델 학습은 대역폭 감소의 영향을 상대적으로 많이 받을 수 있지만 연산 성능이 병목인 추론 작업은 영향이 제한적일 가능성
-NVL72의 외부 네트워크 대역폭이 확대된 만큼 클러스터 단위 성능에서 내부 대역폭 감소를 얼마나 상쇄할 수 있을지는 실제 시스템 테스트를 통해 확인 필요
https://finance.biggo.com/news/644d815a-795e-48d8-99b5-0ca330dbe0c0