📌Bonsai 27B дозволяє запускати Qwen 3. — Нейроєнот

Нейроєнот | Нейромережа Midjourney, chat GPT та інші

@neuroenot

Захопливо про нейромережі та проривні технології. Ласкаво просимо у майбутнє. #добірка - добірка всіх новин за тиждень Для друга: https://t.me/neuroenot Співпраця та зв'язок: @New_Life_Technology

📌Bonsai 27B дозволяє запускати Qwen 3.6 27B локально на смартфонах

PrismML представила Bonsai 27B — оптимізовану версію Qwen 3.6 27B, яка завдяки агресивному квантуванню може працювати навіть на сучасних смартфонах.

🔆Детальніше

• Доступні дві версії моделі: 1-bit Bonsai 27B (≈3.9 ГБ) і Ternary Bonsai 27B (≈5.9 ГБ).

• 1-bit версія розрахована на запуск безпосередньо на смартфонах, а Ternary — на звичайних ноутбуках.

• За даними PrismML, Ternary-версія зберігає близько 95% можливостей оригінальної моделі, а 1-bit — близько 90%.

• Обидві моделі мультимодальні: працюють із документами, скриншотами, фотографіями та підтримують контекст до 262 тисяч токенів.

• Модель орієнтована на локальну роботу ШІ-агентів, що дозволяє виконувати складні сценарії без використання хмарних сервісів.

• Ваги моделі поширюються за ліцензією Apache 2.0, а для розробників доступний безкоштовний Preview API.

➡️Детальніше тут.
➡️Hugging Face тут.

➡️Запроси друга до НейроЄнота🦝