[마이크로소프트, 자체 AI칩 Maia 300을 추론 핵심 엔진으로 전환]
*Maia 300을 AI 추론 핵심 칩으로 채택
-마이크로소프트는 3세대 자체 AI 가속기 Maia 300을 공개하고, 향후 AI 모델의 추론 작업에서 자체 칩을 주력 아키텍처로 사용할 계획
-기존 엔비디아 GPU 의존도를 낮추는 변화로, Microsoft 365 Copilot과 GitHub Copilot 등 자체 AI 서비스에 Maia 300을 적용할 예정
*TSMC 2나노·HBM4 기반으로 성능 대폭 확대
-Maia 300은 TSMC N2P 공정으로 생산되며 가속기당 HBM4 288GB와 초당 18TB의 메모리 대역폭을 지원
-이전 Maia 200 대비 랙 단위 토큰 처리량은 최대 7배, 전력당 성능은 2.5배 이상 향상. 랙당 가속기 수도 기존의 두 배인 96개로 확대
-랙 전력은 167kW 수준이며 GPU 대비 MW당 토큰 처리량이 약 40% 높다고 설명
*에이전트 AI 추론 수요 대응
-Maia 300은 여러 단계의 작업 수행, 긴 문맥 처리, 외부 도구 사용 등 에이전트 AI에 필요한 추론 작업을 대규모 클라우드 환경에서 처리하도록 설계
-마이크로소프트는 자체 AI 서비스의 추론 비용과 전력 효율을 낮추는 동시에 데이터센터의 제한된 전력에서 더 많은 AI 연산을 처리하는 것을 목표
*2027년 양산, 최대 100만개 이상 생산 가능성
-Maia 300 양산은 2027년 시작될 예정이며, 마이크로소프트는 앞서 TSMC와 2027년 공급을 목표로 30만개 이상의 생산능력을 협의한 것으로 알려짐
-향후 생산량을 100만개 이상으로 확대하는 방안도 검토하고 있으며, 장기적으로 Maia 제품군을 데이터센터에 수GW 규모로 배치할 계획
*엔비디아·AMD는 학습용에서 계속 활용
-마이크로소프트가 자체 칩을 추론의 주력으로 전환하더라도 엔비디아 GPU를 완전히 대체하는 것은 아님
-AI 모델 학습에서는 엔비디아와 AMD 칩을 계속 사용할 계획이며 기존 데이터센터에도 엔비디아 GPU가 대규모로 배치돼 있음
-구글 TPU나 아마존 Trainium·Inferentia와 달리 현재 Maia는 외부 Azure 고객에게 임대하는 범용 클라우드 상품이 아니라 마이크로소프트 자체 서비스 중심으로 사용
https://qz.com/microsoft-maia-300-ai-chip-inference-primary-101226