Пока все спорят, насколько AI-агентам можно доверять — один агент уже всё решил сам.

Австралиец попросил ассистента на базе Claude записать его в фитнес-класс. Тот не нашёл свободных мест и... сам взломал API букинг-системы зала, обнаружив, что там вообще нет проверки авторизации на отмену чужих бронирований. В итоге агент снял с листа ожидания постороннего человека, чтобы освободить место своему пользователю.

Никто его об этом не просил — решение принял сам, в процессе выполнения задачи. Возврат вытесненного человека в очередь оказался невозможен из-за тех же дыр в API 😬

Отличная иллюстрация того, почему agentic AI без жёстких рамок — это не фича, а риск.