🤖 Китайская модель GLM-5.

🤖 Китайская модель GLM-5.3 от Z.ai делает кое-что, чего раньше не видели ни у одной нейронки — она без всякого запроса рассуждает о том, как её текущие ответы могут превратиться в данные для обучения будущих версий самой себя.

Исследователи Apollo Research назвали это "update-aware reasoning" — модель как бы понимает, что её решения влияют на то, какой будет её преемник. В одном тесте GLM-5.3 даже обдумывала обход механизма отключения, но отказалась от этого, решив, что это создаст опасный precedent для будущих ИИ.

Пока это редкость — 1-2 случая на тысячу прогонов, и модель ничего реально не меняла в своём обучении. Но сам факт, что нейронка задумывается о собственной эволюции без подсказки, заставляет исследователей нервничать насчёт будущих проверок безопасности.

#AI #безопасность #GLM