**IBM CEO, “오픈 웨이트 모델은 이제 온프레미스에서 성능도 좋고 비용도 저렴하다”**

- IBM CEO Arvind Krishna는 오픈 웨이트 모델이 최첨단 모델 대비 약 90%의 효과를 내면서 토큰 비용은 10~25% 수준이어서 기업의 온프레미스 활용에 적합하다고 봄
- 일부 작업에는 최고 성능 모델이 필요하지만, 이메일 요약과 작성, 계약서 검토, 고객 전화 응대 등 대다수 작업은 훨씬 저렴한 모델로도 동등하게 처리할 수 있다고 봄
- IBM에 따르면 온프레미스 AI 인프라에 대한 관심이 급증하고 있으며, 대부분 기업은 랙 2~3개로 유용한 AI 인프라를 구축할 수 있음
- 실제 운영에는 커널과 네트워크 전문 인력, GPU 간 네트워크…

[https://news.hada.io/topic?id=36024](https://news.hada.io/topic?id=36024)