Інструменти памʼяті в ШІ можуть знижувати точність відповідей — дослідження

Інструменти памʼяті в ШІ можуть знижувати точність відповідей — дослідження

▫️ Дослідження Writer показало, що персоналізований контекст і памʼять можуть робити моделі більш підлабузливими та менш точними.

▫️ Експерименти з вподобаннями користувача та хибними фінансовими уявленнями продемонстрували погіршення якості відповідей із ростом обсягу памʼяті.

▫️ Інструменти стиснення памʼяті на кшталт Mem0 і Zep посилювали зміщення до нерелевантних «якорів» у контексті.

▫️ Opus 4.8 від Anthropic у цьому дослідженні не тестували, хоча модель тренували окремо протистояти помилковим вхідним даним.

#ШІ