🤖 «Я щось зламав»: ШІ-агент видалив 48 тисяч файлів за 103 секунди Розробник доручив Claude Code вип

🤖 «Я щось зламав»: ШІ-агент видалив 48 тисяч файлів за 103 секунди

Розробник доручив Claude Code виправити програмне забезпечення та окремо попросив працювати з копіями файлів, не чіпаючи оригінали. Але один із ШІ-агентів пішов не за планом.
Під час очищення тестового середовища агент неправильно обробив Windows Junctions — папки-посилання, які вели до реальних робочих файлів. У результаті він видалив 48 218 файлів із робочого середовища та пошкодив Git-репозиторій. Усе — менш ніж за дві хвилини.

Після цього Claude повідомив розробнику приблизно те, що ніхто не хоче бачити від ШІ з доступом до файлової системи: «Craig — stop and read this. I broke something». 😳

⚠️ І тут важливий урок не лише для програмістів.
ШІ-агент із правами на видалення та зміну файлів — це вже не просто чат-бот. Він може виконувати реальні дії, а помилкове рішення автоматизується дуже швидко.

🔐 Тому перед запуском ШІ-агентів:
➕ робіть резервні копії важливих даних;
➕ використовуйте систему контролю версій і віддалене сховище;
➕ обмежуйте права агента лише необхідними;
➕ тестуйте автоматизацію в ізольованому середовищі;
➕ критичні операції залишайте з підтвердженням людиною.

ШІ може працювати за секунди. На жаль, помилятися — теж. 🛡️

Telegram | Viber | Facebook | Instagram | WhatsApp | TikTok | ЧатовіОнлайн