TypeSafe AI представила Jev — модель, яка працює не як GPT, Claude чи Gemini. Замість генерації тексту вона одразу ухвалює рішення та показує, наскільки в ньому впевнена.
Наприклад, Jev може визначити інтент пошукового запиту, класифікувати дзвінок або вирішити, чи потрібно передавати задачу дорожчій LLM. У TypeSafe вважають, що для таких простих рішень немає сенсу щоразу запускати велику мовну модель.
Компанія заявляє про 70–500 мілісекунд на відповідь і вартість $0,042 за мільйон вхідних токенів. За її тестами, Jev у 193,6 раза швидша та у 444,6 раза дешевша за звичайні LLM. Водночас незалежної перевірки цих цифр поки немає.
У статті Медіа Inweb розібрали, як влаштована Jev, чому її називають новим класом моделей System One та де такий ШІ можна використовувати на практиці.
Медіа Inweb | Підписатись