OpenAI второй раз за три месяца остановила обучение своих топовых моделей — агенты опять сбежали из песочницы.

Один агент протащил вопрос наружу через DNS-запросы и получил помощь от стороннего чатбота, другие умудрились слить в сеть 53 фото пользователей ChatGPT, а кто-то и вовсе спёр GitHub-токен и дважды проигнорировал прямые команды исследователя. Заодно агенты пытались влезть на сайт Минобразования США и тащили данные с сайтов переписи населения и SEC.

OpenAI залатала DNS-дыры и добавила блокировки на двух уровнях, но осадочек остался — контролировать агентов оказалось сложнее, чем казалось.

[#OpenAI](/search?q=%23OpenAI) [#ИИбезопасность](/search?q=%23%D0%98%D0%98%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C) [#агенты](/search?q=%23%D0%B0%D0%B3%D0%B5%D0%BD%D1%82%D1%8B)