📌Needle 2 — ШІ-модель розміром лише 14 МБ — Нейроєнот

Нейроєнот | Нейромережа Midjourney, chat GPT та інші

@neuroenot

Захопливо про нейромережі та проривні технології. Ласкаво просимо у майбутнє. #добірка - добірка всіх новин за тиждень Для друга: https://t.me/neuroenot Співпраця та зв'язок: @New_Life_Technology

📌Needle 2 — ШІ-модель розміром лише 14 МБ

Cactus Compute представила компактну модель Needle 2, яка призначена для локальної роботи на пристроях. Вона може перетворювати звичайні запити користувача на структуровані команди для підключених інструментів.

🔆Детальніше

• 45 млн параметрів при розмірі близько 14 МБ.

• Працює локально без підключення до інтернету.

• Може виконувати такі задачі, як керування пристроями, встановлення таймерів, заповнення форм та отримання даних із документів.

• Розрахована на смартфони, смартгодинники, системи розумного дому та інші edge-пристрої.

• Для роботи потрібно близько 28 МБ оперативної пам'яті.

• На Raspberry Pi виробник заявляє швидкість до приблизно 500 токенів за секунду.

➡️Спробувати тут.

➡️Запроси друга до НейроЄнота🦝