Minions - 유휴 Mac의 GPU를 모아 머신러닝 추론 작업을 분산하는 Apple의 시스템
- 여러 Mac의 유휴 Apple Silicon GPU로 대규모 머신러닝 추론 작업을 나눠 처리하는 Apple 연구진의 분산 시스템
- 기존 하드웨어를 활용해 GPU 추가 구매 부담을 줄이고, 자원이 부족한 중앙 GPU 인프라를 보완
- Hugging Face 모델의 임베딩 생성과 Ollama 기반 LLM 추론을 지원하며, 각 Mac이 하위 작업을 가져와 로컬에서 실행
- 네트워크 단절과 절전, 전원 종료로 작업이 중단되면 다른 기기에 재할당해 이어서 처리
- 여러 팀의 운용 사례에서 일부 작업의 실행 대기 시간이 10시간 이상에서 수분 수준으로 감소. 분…
https://news.hada.io/topic?id=35312
Minions - 유휴 Mac의 GPU를 모아 머신러닝 추론 작업을 분산하는 Apple의 시스템 - 여러 Mac의 유휴 Apple Silicon GPU로 대규모 머신러닝 추론 작업
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 subscribers
Open in Telegram