📌TypeSafe представила Jev для швидких рішень усередині програм

📌TypeSafe представила Jev для швидких рішень усередині програм

TypeSafe випустила Jev — модель, яка не генерує текстову відповідь, а одразу повертає структуроване рішення з імовірностями. Компанія позиціонує її для автоматизації великої кількості невеликих рішень у програмному забезпеченні.

🔆Детальніше

• Замість послідовної генерації токенів Jev обчислює результати паралельно та повертає типізовані значення, які програма може використовувати без додаткового розбору тексту.

• Наприклад, для запиту про повернення товару модель може одразу визначити ймовірності різних сценаріїв: повернення — 97%, техпідтримка — 2%, інше — 1%.

• TypeSafe заявляє затримку від 70 до 500 мс. Для відповідних System One-запитів компанія отримала прискорення до 200 разів порівняно з LLM.

• В окремих тестах workflow TypeSafe заявляє ×193,6 вищу швидкість та ×444,6 нижчу вартість. Це результати власних тестів компанії, а не універсальний показник для всіх задач.

• Серед сценаріїв використання — класифікація запитів, маршрутизація задач, виявлення шахрайства, вибір наступної дії агента та перевірка результатів інших моделей.

➡️Детальніше тут

➡️Запроси друга до НейроЄнота🦝