Компанія Anthropic розробила FlashProve, яка дозволяє перевірити, чи справді відповідь створила заявлена ШІ-модель. Це допоможе виявляти випадки, коли сервіси непомітно замінюють дорогі моделі дешевшими.
Технологія використовує криптографічні докази, які підтверджують походження відповіді. Для перевірки не потрібен доступ до внутрішніх даних моделі.
📎 FlashProve може стати способом перевіряти, чи постачальники ШІ-послуг виконують умови договорів. Поки технологія перебуває на етапі дослідження та потребує значних обчислювальних ресурсів.
Медіа Inweb | Підписатись