📌Laya — опенсорсна альтернатива Jev для швидких рішень — Нейроєнот

Нейроєнот | Нейромережа Midjourney, chat GPT та інші

@neuroenot

Захопливо про нейромережі та проривні технології. Ласкаво просимо у майбутнє. #добірка - добірка всіх новин за тиждень Для друга: https://t.me/neuroenot Співпраця та зв'язок: @New_Life_Technology

📌Laya — опенсорсна альтернатива Jev для швидких рішень

ConvAI Innovations випустила Laya — відкриту модель, яка не генерує текст, а одразу повертає структуроване рішення та його ймовірність. Її можна використовувати для класифікації листів, маршрутизації заявок, визначення терміновості або виявлення prompt injection.

🔆Детальніше

• На відміну від звичайних LLM, Laya не створює текст, тому не потрібно додатково витягувати JSON із відповіді моделі.

• Випустили три версії: для англійської, мультимовну з підтримкою понад 100 мов та модель для агентів, підтримки, обробки рахунків і security alerts.

• Моделі мають від 322 до 421 млн параметрів. Мультимовна версія на Tesla T4 обробляє один запит приблизно за 32,8 мс.

• Автори заявляють, що Laya приблизно у 7 разів швидша за Jev, але для порівняння використані різні тести, тому ці цифри не є прямим бенчмарком.

• Ваги доступні на GitHub за ліцензією Apache 2.0. Модель можна запускати локально без зовнішнього API.

➡️Детальніше тут.
➡️Github тут.

➡️Запроси друга до НейроЄнота🦝