[AI 추론 스타트업, GPU 직접 구매 확대…‘자산 경량’ 모델 변화]
*추론 스타트업, 자체 GPU 확보로 전략 전환
-Fireworks, Fal, Modal, Baseten, Together 등 AI 추론 스타트업들은 기존에 클라우드 사업자의 GPU를 임대한 뒤 고객에게 재판매하는 자산 경량형 사업모델을 활용
-최근 고객 수요를 충족할 만큼 컴퓨팅 용량을 확보하기 어려워지면서 일부 업체들이 직접 엔비디아 GPU를 구매하거나 자체 데이터센터 용량을 확보하기 시작
-하이퍼스케일러와 네오클라우드가 자체 추론 서비스를 확대하면서 경쟁사인 추론 스타트업에 GPU를 임대할 유인도 낮아지는 상황
*Fal·Baseten·Together, 직접 GPU 구매 확대
-Fal은 최근 엔비디아 GPU를 직접 구매해 임대한 데이터센터에 설치하기 시작했으며 이달 조달한 16.5억달러의 벤처자금 일부를 GPU 구매와 AWS 용량 확보에 사용할 계획
-Fal은 GPU 구매를 위한 부채조달 가능성도 투자자들과 논의한 것으로 알려짐
-Baseten도 엔비디아 GPU를 직접 구매해 자체 관리 데이터센터에 배치하는 방안을 검토
-Together는 지난해부터 자체 하드웨어를 구매하기 시작했으며 2026년 말까지 자체 데이터센터 용량 250MW 확보를 목표
*컴퓨팅 공급 부족에 소형 네오클라우드 의존 확대
-Modal은 대형 클라우드에서 원하는 가격과 물량의 Blackwell GPU를 확보하기 어려워지자 지난 1년간 약 30개의 추가 네오클라우드와 계약
-대형 하이퍼스케일러뿐 아니라 소규모 클라우드까지 공급처를 다변화하면서 필요한 컴퓨팅 용량을 확보하는 방식
-다만 공급망이 여러 소형 업체로 분산되면서 보안과 운영 리스크도 함께 증가
*Fireworks 해킹, 소형 클라우드 의존 위험 부각
-Fireworks의 최근 해킹은 회사가 이용하던 소형 클라우드 사업자의 취약한 보안체계가 원인이었던 것으로 알려짐
-일부 고객은 사고 이후 다른 추론 서비스 업체로 이전하는 방안을 검토
-Fireworks는 7월 기준 연환산 매출 10억달러를 돌파해 전년 대비 5배 증가했으며 최근 기업가치 175억달러를 인정받음
*CoreWeave·DigitalOcean도 재판매 고객보다 직접 고객 우선
-CoreWeave는 올해 3월 자체 추론 서비스를 출시한 이후 경쟁 추론업체에 컴퓨팅 용량을 제공하는 데 더욱 신중해진 것으로 알려짐
-DigitalOcean 역시 GPU 용량이 제한된 상황에서는 컴퓨팅을 재판매하는 업체보다 실제 소프트웨어와 서비스를 구축하는 최종 고객을 우선한다고 설명
-컴퓨팅 공급자가 자체 추론 사업을 확대할수록 중간 사업자인 추론 스타트업의 GPU 조달 안정성이 약화될 가능성
*자산 경량 모델에서 수직계열화 경쟁으로 이동
-IREN은 추론 스타트업의 기존 구조를 장기 임차한 사무실을 단기로 재판매했던 WeWork에 비유하며 수요나 자금조달이 약해질 경우 취약할 수 있다고 지적
-직접 GPU와 데이터센터를 확보하면 초기 자본부담과 부채는 증가하지만 핵심 컴퓨팅 용량을 안정적으로 확보하고 공급자 의존도를 낮출 수 있음
-이에 따라 AI 추론 시장의 경쟁력이 단순한 소프트웨어 최적화에서 GPU 확보·자금조달·데이터센터 운영까지 포함하는 수직계열화 능력으로 확대
*Fireworks·Modal은 소프트웨어 중심 전략 유지
-Fireworks는 GPU와 데이터센터 자체는 범용화된 자산이며 모델을 빠르고 효율적으로 실행하는 소프트웨어가 더 강력한 경쟁우위라고 판단해 현재 직접 하드웨어 구매 계획은 없음
-Modal 역시 필요할 경우 자체 하드웨어를 확보할 수 있지만 장기적인 부가가치는 칩 소유보다 소프트웨어 계층에서 창출된다는 입장
https://www.theinformation.com/articles/ai-inference-startups-quietly-buying-chips
