NVIDIA Run:ai - 여러 팀이 GPU를 나눠 쓰도록 관리하는 Kubernetes 기반 플랫폼
- 여러 팀이 공유하는 GPU 인프라에서 AI 개발, 학습, 추론 작업을 배치하고 자원을 배분하는 NVIDIA의 오픈소스 플랫폼
- GPU 하나를 여러 작업에 나눠 할당하고, 남는 자원을 동적으로 활용해 유휴 GPU를 줄이는 방식
- 작업 우선순위와 공정한 배분, 자원 회수, GPU 간 연결 구조를 고려한 배치 지원
- 부서와 프로젝트별 GPU 할당량과 사용 정책을 설정해 특정 팀의 자원 독점 방지
- 여러 Kubernetes 클러스터의 작업과 자원을 한곳에서 관리하며, 온프레미스와 클라우드, 혼합 환경에 배포 가능
- 개발용 작업 공간…
https://news.hada.io/topic?id=35507
NVIDIA Run:ai - 여러 팀이 GPU를 나눠 쓰도록 관리하는 Kubernetes 기반 플랫폼 - 여러 팀이 공유하는 GPU 인프라에서 AI 개발, 학습, 추론 작업을 배치
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 subscribers
Open in Telegram