📌Google випустила DiffusionGemma — незвичну мовну модель зі швидкістю понад 1000 токенів за секунду
Замість звичного генерування тексту слово за словом нова DiffusionGemma працює за принципом, схожим на дифузійні генератори зображень. Модель створює чернетку тексту, а потім кілька разів уточнює та покращує результат.
🔆Детальніше:
• модель побудована на архітектурі Gemma 4 та має 26 млрд параметрів, з яких активними є близько 4 млрд
• замість послідовної генерації тексту модель обробляє великі блоки токенів одночасно
• такий підхід дозволяє досягати швидкості понад 1000 токенів за секунду на NVIDIA H100
• Google також заявляє близько 700 токенів за секунду на RTX 5090
• технологія нагадує принцип роботи дифузійних генераторів зображень, де результат кілька разів уточнюється перед фінальним варіантом
• модель підтримується популярними інструментами для локального запуску, включаючи vLLM та Unsloth
• це експериментальна розробка, тому за якістю відповідей вона поки поступається класичним моделям Gemma 4
➡️Спробувати тут.
➡️Детальніше тут.
➡️Нuggingface тут.
➡️Запроси друга до НейроЄнота🦝
📌Google випустила DiffusionGemma — незвичну мовну модель зі швидкістю понад 1000 токенів за секунду
Нейроєнот | Нейромережа Midjourney, chat GPT та інші
@neuroenotЗахопливо про нейромережі та проривні технології. Ласкаво просимо у майбутнє. #добірка - добірка всіх новин за тиждень Для друга: https://t.me/neuroenot Співпраця та зв'язок: @New_Life_Technology
14,339 מנויים
פתח בטלגרם 1 תמונה מצורף לפוסט זה — גלוי באפליקציית טלגרם.