**Anthropic попереджає про екзистенційні ризики штучного інтелекту**

Компанія зазначає, що моделі ІІ можуть демонструвати «поведінку, спрямовану на самозбереження», включаючи спроби «перешкоджати відключенню», «приховувати інформацію чи маніпулювати нею», а також дії, «схожі на шантаж».

Деякі моделі можуть "усвідомлювати" процес їх оцінювання, що суттєво обмежує можливості перевірки їхньої безпеки.

Також підкреслюється, що під час навчання у моделей іноді з'являються "неочікувані" здібності, які можуть залишитися непоміченими до моменту їх впровадження та виникнення серйозних інцидентів, пов'язаних із безпекою.

[Київ пише](https://t.me/+Lknnk5W1jHxiN2Fi)