Як змусити AI забути те, чого він уже навчився? І чи справді він це забуде? 🤔
Під час навчання великі мовні моделі можуть запам’ятовувати персональні дані, конфіденційну інформацію та фрагменти контенту, захищеного авторським правом.
Але просто видалити ці документи з навчального набору недостатньо. Інформація може залишатися в параметрах моделі, а повне перенавчання з нуля потребує значних ресурсів.
Саме цю проблему намагається розв’язати LLM Unlearning — підхід, який дозволяє вибірково «забувати» інформацію без повного перенавчання моделі. Але як перевірити, чи модель справді забула дані, а не просто навчилася їх приховувати?
19 листопада команда SQUAD проведе безкоштовний технічний мітап у Львові, де розбиратимуть саме цю тему.
Що буде в програмі:
🔹 Два підходи до approximate unlearning: gradient ascent і task-vector arithmetic.
🔹 Як перевірити, чи модель справді «забула» інформацію, чи просто навчилася її приховувати. І що відбувається після повторного дотренування та квантизації.
🔹 Differential Privacy на прикладі VaultGemma. Яку ціну доводиться платити за приватність і як це впливає на якість моделі.
Спікери — Вікторія Маковська, Дмитро Лукашов та Денис Лазаренко, які займаються AI/ML-дослідженнями та розробкою ML-систем у SQUAD.
Всі хто у Львові приходять, а хто ні, то долучається онлайн.
📅 19 листопада, 19:00
📍 Львів + онлайн-трансляція на YouTube
🎟 Участь безкоштовна, за реєстрацією.
👉 Реєстрація: https://bit.ly/4sJVQhK
#партнерський_допис
ші історії | 💎 Майстерня
Як змусити AI забути те, чого він уже навчився? І чи справді він це забуде? 🤔 Під час навчання велик
ШІ історії
@imatrofAIВласні думки та ШІ-історії. Практика, готові інструкції, AI-брифи й щомісячні живі сесії: https://imatrof.com/?utm_source=telegram&utm_medium=profile&utm_campaign=evergreen&utm_content=paid_cta Чат: t.me/+-dzV2FhGiy4wMTky Співпраця: t.me/imatrof
11,231 subscribers
Open in Telegram