IBM CEO, “오픈 웨이트 모델은 이제 온프레미스에서 성능도 좋고 비용도 저렴하다”
- IBM CEO Arvind Krishna는 오픈 웨이트 모델이 최첨단 모델 대비 약 90%의 효과를 내면서 토큰 비용은 10~25% 수준이어서 기업의 온프레미스 활용에 적합하다고 봄
- 일부 작업에는 최고 성능 모델이 필요하지만, 이메일 요약과 작성, 계약서 검토, 고객 전화 응대 등 대다수 작업은 훨씬 저렴한 모델로도 동등하게 처리할 수 있다고 봄
- IBM에 따르면 온프레미스 AI 인프라에 대한 관심이 급증하고 있으며, 대부분 기업은 랙 2~3개로 유용한 AI 인프라를 구축할 수 있음
- 실제 운영에는 커널과 네트워크 전문 인력, GPU 간 네트워크…
https://news.hada.io/topic?id=36024
IBM CEO, “오픈 웨이트 모델은 이제 온프레미스에서 성능도 좋고 비용도 저렴하다” - IBM CEO Arvind Krishna는 오픈 웨이트 모델이 최첨단 모델 대비 약 90
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 subscribers
Open in Telegram