[SK증권 반도체 한동희, 손 건] HBM, 조연에서 주연으로… 메모리 병목에 SK하이닉스가 내놓은 해법 ▶️ 발표 개요 - 김호식 SK하이닉스 부사장, 12일(현지시간) 美 새너제

[SK증권 반도체 한동희, 손 건]

HBM, 조연에서 주연으로… 메모리 병목에 SK하이닉스가 내놓은 해법

▶️ 발표 개요

- 김호식 SK하이닉스 부사장, 12일(현지시간) 美 새너제이 'OCP 글로벌 서밋'서 '메모리 중심 AI 랙 시스템(MARS)' 발표
- 메모리를 AI 랙 시스템 설계의 중심에 두는 발상의 전환 제시
- 기존에는 메모리를 GPU·CPU 하위 부품으로 간주

▶️ 문제 인식

- 추론형 에이전트 시대로 넘어오면서 메모리가 추론 성능을 좌우하는 핵심 인프라로 부상
- 그러나 서버 랙이 AI 칩 중심으로 설계돼 메모리 효율성 저하, 공급난 가중
- GPU·CPU 중심 서버에서 메모리 벽(memory wall) 병목과 전력 소비 증폭
- 프로세서 중심 랙에서는 메모리 부족 서버가 여유 서버의 메모리를 끌어쓸 수 없어 메모리 추가 구매 필요
- 메모리 접근 확대를 위해 GPU를 추가 구매하면 비용 부담 증가
- 김 부사장, "GPU 메모리인 HBM은 물리적·경제적 제약에 직면"

▶️ MARS 솔루션: 분리형(disaggregated) 메모리

- CPU·GPU에 연결된 메모리를 분리해 대규모 '메모리 풀(pool)' 조성
- 서버 간 수요 균형 유지, AI 프로세서 추가 없이 부족 서버에 메모리 용량 할당
- 수요에 따라 용량을 할당해 불필요한 서버 구매비용 절감, 풀 기반 고속 데이터 공유도 가능
- 컴퓨팅 시스템을 분리형 메모리·SSD 중심으로 재설계해야 한다고 강조
- 8월 네이처 일렉트로닉스(Nature Electronics)에 분리형 메모리 개념 소개

▶️ 향후 계획

- MARS 맞춤형 테스트 지원 중, 여러 파트너사와 시스템 확장 추진

▶️ URL: https://buly.kr/A48SRfx

* SK증권 리서치 IT팀 채널 :
https://t.me/skitteam