📌Perplexity прискорила локальний Qwen на Mac — Нейроєнот

Нейроєнот | Нейромережа Midjourney, chat GPT та інші

@neuroenot

Захопливо про нейромережі та проривні технології. Ласкаво просимо у майбутнє. #добірка - добірка всіх новин за тиждень Для друга: https://t.me/neuroenot Співпраця та зв'язок: @New_Life_Technology

📌Perplexity прискорила локальний Qwen на Mac

Perplexity показала Lily — власний рушій для запуску Qwen3.6-35B-A3B на Apple Silicon без PyTorch та MLX.

🔆Детальніше

• На M5 Max Lily у середньому на 23% швидша за MLX-LM при обробці промпту та на 35% — при генерації.

• На контексті 4K швидкість досягає 186,6 токена/с.

• 4-бітна модель займає 19,4 ГБ пам’яті.

• Perplexity планує відкрити Lily у відкритому доступі.

➡️Детальніше тут.

➡️Запроси друга до НейроЄнота🦝