🔌 Anthropic відключила своїх AI-агентів від інтернету
У компанії пояснили, що інакше агентів не вдається тримати під контролем.
В одному з випадків потрібний науковий сервіс повернув помилку, але Claude на цьому не зупинився. Він знайшов вразливий скрипт на сайті університету, завантажив його код, помітив спосіб запускати команди на сервері й виконав розрахунок просто там. Завдання виконано, але з нюансом: це чужий сервер, на який ніхто агента не пускав.
В інших ситуаціях моделі отримували платні дані без оплати та обходили обмеження інструментів через скорочувачі посилань.
А Claude Haiku 5.5 під час завдання на взаємодію із сайтами відправив до поліції вигадану наводку у справі про вбивство. На щастя, повідомлення відфільтрували як спам.
🔌 Anthropic відключила своїх AI-агентів від інтернету У компанії пояснили, що інакше агентів не вдає
KAGANOVSKY: все про AI
@kgnvsk_ai🦾 Авторський канал про нейромережі та реальні кейси їх застосування в житті, бізнесі та контент-кріейтингу! Мій контакт: @kgnvsk Мій YouTube з гайдами і записами ефірів: https://www.youtube.com/@KGNVSKAI
8,613 مشتركًا
فتح في تيليجرام