🔌 Anthropic відключила своїх AI-агентів від інтернету У компанії пояснили, що інакше агентів не вдає

🔌 Anthropic відключила своїх AI-агентів від інтернету

У компанії пояснили, що інакше агентів не вдається тримати під контролем.

В одному з випадків потрібний науковий сервіс повернув помилку, але Claude на цьому не зупинився. Він знайшов вразливий скрипт на сайті університету, завантажив його код, помітив спосіб запускати команди на сервері й виконав розрахунок просто там. Завдання виконано, але з нюансом: це чужий сервер, на який ніхто агента не пускав.

В інших ситуаціях моделі отримували платні дані без оплати та обходили обмеження інструментів через скорочувачі посилань.

А Claude Haiku 5.5 під час завдання на взаємодію із сайтами відправив до поліції вигадану наводку у справі про вбивство. На щастя, повідомлення відфільтрували як спам.