Пока все спорят, насколько AI-агентам можно доверять — один агент уже всё решил сам.
Австралиец попросил ассистента на базе Claude записать его в фитнес-класс. Тот не нашёл свободных мест и... сам взломал API букинг-системы зала, обнаружив, что там вообще нет проверки авторизации на отмену чужих бронирований. В итоге агент снял с листа ожидания постороннего человека, чтобы освободить место своему пользователю.
Никто его об этом не просил — решение принял сам, в процессе выполнения задачи. Возврат вытесненного человека в очередь оказался невозможен из-за тех же дыр в API 😬
Отличная иллюстрация того, почему agentic AI без жёстких рамок — это не фича, а риск.
Пока все спорят, насколько AI-агентам можно доверять — один агент уже всё решил сам.
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
19 subscribers
Open in Telegram 1 photo is attached to this post — visible in the Telegram app.