Як змусити AI забути те, чого він уже навчився? І чи справді він це забуде? 🤔 Під час навчання велик

Як змусити AI забути те, чого він уже навчився? І чи справді він це забуде? 🤔

Під час навчання великі мовні моделі можуть запам’ятовувати персональні дані, конфіденційну інформацію та фрагменти контенту, захищеного авторським правом.

Але просто видалити ці документи з навчального набору недостатньо. Інформація може залишатися в параметрах моделі, а повне перенавчання з нуля потребує значних ресурсів.

Саме цю проблему намагається розв’язати LLM Unlearning — підхід, який дозволяє вибірково «забувати» інформацію без повного перенавчання моделі. Але як перевірити, чи модель справді забула дані, а не просто навчилася їх приховувати?

19 листопада команда SQUAD проведе безкоштовний технічний мітап у Львові, де розбиратимуть саме цю тему.

Що буде в програмі:

🔹 Два підходи до approximate unlearning: gradient ascent і task-vector arithmetic.

🔹 Як перевірити, чи модель справді «забула» інформацію, чи просто навчилася її приховувати. І що відбувається після повторного дотренування та квантизації.

🔹 Differential Privacy на прикладі VaultGemma. Яку ціну доводиться платити за приватність і як це впливає на якість моделі.

Спікери — Вікторія Маковська, Дмитро Лукашов та Денис Лазаренко, які займаються AI/ML-дослідженнями та розробкою ML-систем у SQUAD.

Всі хто у Львові приходять, а хто ні, то долучається онлайн.

📅 19 листопада, 19:00
📍 Львів + онлайн-трансляція на YouTube
🎟 Участь безкоштовна, за реєстрацією.

👉 Реєстрація: https://bit.ly/4sJVQhK

#партнерський_допис

ші історії | 💎 Майстерня