Anthropic попереджає про екзистенційні ризики штучного інтелекту Компанія зазначає, що моделі ІІ мож

Anthropic попереджає про екзистенційні ризики штучного інтелекту

Компанія зазначає, що моделі ІІ можуть демонструвати «поведінку, спрямовану на самозбереження», включаючи спроби «перешкоджати відключенню», «приховувати інформацію чи маніпулювати нею», а також дії, «схожі на шантаж».

Деякі моделі можуть "усвідомлювати" процес їх оцінювання, що суттєво обмежує можливості перевірки їхньої безпеки.

Також підкреслюється, що під час навчання у моделей іноді з'являються "неочікувані" здібності, які можуть залишитися непоміченими до моменту їх впровадження та виникнення серйозних інцидентів, пов'язаних із безпекою.

Київ пише ✍️