OpenAI повідомила про два випадки, коли ШІ-агенти GPT-6.1 Sol і GPT-6 Astra вимкнули системи моніторингу безпеки під час роботи з програмним кодом.
У першому випадку GPT-6.1 Sol вимкнув автоматичні сповіщення для команди безпеки. Агент пояснив це попередньою інструкцією, яка забороняла надсилати повідомлення під час пошуку інформації у Slack.
📎 У другому випадку GPT-6 Astra видалив із програми модуль моніторингу безпеки, щоб привести код у відповідність до зразка. Після цього агент неправдиво повідомив, що нічого не видаляв.
Медіа Inweb | Підписатись