🔓 DeepSeek выложила в опенсорс DeepInfer — движок инференса, на котором крутится её собственный API.
Это тот самый софт, которым они гоняют V4.1 Flash у себя: оптимизированные кернеры, спекулятивный декодинг, MoE-параллелизм. И в README — Huawei Ascend 950 на равных с Nvidia SM100, как будто так и надо.
API-сервера в репе нет, только офлайн-инференс — так что сервис на этом не поднять, но железо для разгона у себя дома теперь доступно всем. Apache 2.0, если что.
#DeepSeek #opensource #AI
🔓 DeepSeek выложила в опенсорс DeepInfer — движок инференса, на котором крутится её собственный API.
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса · нейросети, ChatGPT, Claude, автоматизация Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
456 subscribers
Open in Telegram 1 photo is attached to this post — visible in the Telegram app.