업스테이지, GPU 한 장에서 실행하는 Solar Mini 4 발표 - 정보 조회, 문서 분류, 도구 호출처럼 반복되는 에이전트 작업을 적은 연산과 비용으로 처리하는 언어 모델 -

업스테이지, GPU 한 장에서 실행하는 Solar Mini 4 발표

- 정보 조회, 문서 분류, 도구 호출처럼 반복되는 에이전트 작업을 적은 연산과 비용으로 처리하는 언어 모델
- 총 350억 파라미터 중 토큰당 30억만 활성화하는 MoE 구조이며, 양자화 모델은 H100 80GB 한 장에서 배포 가능
- Artificial Analysis Intelligence Index에서 24.1점을 기록해, 비교 대상인 활성 파라미터 30억 모델 가운데 가장 높은 성능을 보임
- 512K 컨텍스트, JSON 구조화 출력과 병렬 도구 호출을 지원해 긴 문서 처리와 사내 시스템 연동에 활용 가능
- API 정가는 100만 토큰당 입력 0.10달러·출력 0.…

https://news.hada.io/topic?id=34738