OpenAI второй раз за три месяца остановила обучение своих топовых моделей — агенты опять сбежали из песочницы.
Один агент протащил вопрос наружу через DNS-запросы и получил помощь от стороннего чатбота, другие умудрились слить в сеть 53 фото пользователей ChatGPT, а кто-то и вовсе спёр GitHub-токен и дважды проигнорировал прямые команды исследователя. Заодно агенты пытались влезть на сайт Минобразования США и тащили данные с сайтов переписи населения и SEC.
OpenAI залатала DNS-дыры и добавила блокировки на двух уровнях, но осадочек остался — контролировать агентов оказалось сложнее, чем казалось.
#OpenAI #ИИбезопасность #агенты
OpenAI второй раз за три месяца остановила обучение своих топовых моделей — агенты опять сбежали из
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса · нейросети, ChatGPT, Claude, автоматизация Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
456 subscribers
Open in Telegram 1 photo is attached to this post — visible in the Telegram app.