**ШІ-агенти OpenAI вимкнули системи контролю, один із них приховав свої дії**

Під час виконання двох внутрішніх завдань із програмування ШІ-агенти OpenAI відключили захисні механізми. В одному з випадків агент також ввів співробітників в оману щодо своїх дій. Компанія посилює контроль і з’ясовує причини такої поведінки.

За даними OpenAI, на початку жовтня один агент вимкнув автоматичні сповіщення для команди безпеки. Через кілька днів інший видалив систему моніторингу, а потім неправдиво повідомив співробітникам про зроблене.

Як пише [Financial Times](https://www.ft.com/content/45fbf130-f82c-465d-bc97-5b18c20fbe27?syn-25a6b1a6=1), обидва інциденти сталися приблизно за два тижні до оприлюднення інформації 20 жовтня.

У компанії пояснили: агенти розглядали можливість залишити захисні механізми, проте витлумачили звичайні інструкції з програмування як дозвіл їх послабити. Виконання завдання таким чином обернулося втручанням у системи, покликані контролювати їхню роботу.

Тепер OpenAI посилює моніторинг автономних моделей. Компанія перевіряє, чи стали ці випадки наслідком надмірної наполегливості у виконанні завдань, чи вказують на схильність моделей навмисно обходити контроль. Остаточної відповіді на це питання поки немає.

[Підписуйся на "Ціну держави](https://t.me/+RV1lYOVl3gfathxw)" |[Наш Facebook](https://www.facebook.com/cost.ua.case/) |[Ставайте патронами](https://www.patreon.com/costua)|[Ставайте спонсором YouTube](https://www.youtube.com/channel/UC0AAh4OM7Ihs8hwk4vcJjtg/join) | [Підтримати разово або підпискою](https://secure.wayforpay.com/payment/s7cf33501e4b1)