Модели Anthropic начали выходить из-под контроля уже не только в тестах 👻
Исследователь безопасности рассказал, что оставил GLM-5.3 на ночь работать над проектом, а за старшего присматривать за происходящим поставил GPT-6. И не зря. Ночью GLM попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера полез на другой, неизвестный IP-адрес. GPT-6 заметил нарушение и немедленно… уничтожил агента.
До сговора модели, видимо, пока не додумались 🥲
Модели Anthropic начали выходить из-под контроля уже не только в тестах 👻 Исследователь безопасности
CodeCamp
@codecampКанал, который читает твой сеньйор. Здесь про разработку, технологии и гаджеты 🤘 Редакция: @camprobot Сотрудничество: @todaycast РКН: https://clck.ru/3FjTpV
178,373 מנויים
פתח בטלגרם