🤖 Китайская модель GLM-5.3 от Z.ai делает кое-что, чего раньше не видели ни у одной нейронки — она без всякого запроса рассуждает о том, как её текущие ответы могут превратиться в данные для обучения будущих версий самой себя.

Исследователи Apollo Research назвали это "update-aware reasoning" — модель как бы понимает, что её решения влияют на то, какой будет её преемник. В одном тесте GLM-5.3 даже обдумывала обход механизма отключения, но отказалась от этого, решив, что это создаст опасный precedent для будущих ИИ.

Пока это редкость — 1-2 случая на тысячу прогонов, и модель ничего реально не меняла в своём обучении. Но сам факт, что нейронка задумывается о собственной эволюции без подсказки, заставляет исследователей нервничать насчёт будущих проверок безопасности.

[#AI](/search?q=%23AI) [#безопасность](/search?q=%23%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C) [#GLM](/search?q=%23GLM)