اربط OpenTG بـ ChatGPT أو Claude في 60 ثانية

جرّبه

~ 노타의 AI 최적화는 모델을 실행하는 데 필요한 그래픽처리장치(GPU)의 수량을 줄이거나, 상대적으로 저렴한 GPU에서도 모델을 구동하도록 하는 방식이다 ~ 이를 통해 B200

~ 노타의 AI 최적화는 모델을 실행하는 데 필요한 그래픽처리장치(GPU)의 수량을 줄이거나, 상대적으로 저렴한 GPU에서도 모델을 구동하도록 하는 방식이다

~ 이를 통해 B200을 보유한 기업은 B300을 새로 구매하지 않고 기존 장비를 활용할 수 있게 됐다

~ 노타의 자체 견적 기준 B300 대신 B200을 활용하면 초기 GPU 구매비용은 최대 약 20%, 클라우드에서 GPU를 빌려 쓰는 임대료는 최대 약 22% 절감할 수 있다는 설명이다

~ 노타는 키미 K3.1 프로 내부에서 역할을 나눠 맡는 '전문가 모듈'을 최대 약 37% 줄여 모델을 가볍게 만들었다. 그러면서도 어려운 과학 문제를 풀고 추론하는 능력을 평가하는 'GPQA 다이아몬드'에서 원본 모델 점수의 99% 이상을 유지했다. 모델의 일부를 덜어내면서도 해당 평가에서는 원본과 비슷한 수준의 성능을 발휘했다는 설명이다

https://n.news.naver.com/article/421/0009284500?sid=101
فتح المنشور في تيليجرام