**Anthropic застерігає про ризики ІІ**

Компанія вказує, що ІІ моделі можуть проявляти «поведінку самозбереження», як-от спроби уникати відключення, маніпуляції інформацією чи шантаж.

Деякі моделі можуть "усвідомлювати" процес їх оцінювання, що ускладнює перевірку їхньої безпеки.

Також зазначається, що під час навчання у моделей можуть виникати "неочікувані" здібності, які залишаються непоміченими до впровадження, що може призвести до серйозних інцидентів.

• [Підписатися на Київ](https://t.me/+CISx9C27PEc4YmE6)