**«Більшість людей може загинути через ШІ»: штучний інтелект здатен стати настільки потужним, що людство втратить контроль над його діями, — новий член ради директорів OpenAI Крістіано

Чим сильнішими стають моделі, тим складніше людям зрозуміти, **чому вони ухвалюють ті чи інші рішення**.
Нинішніх систем безпеки **недостатньо ні в OpenAI, ні в інших великих лабораторіях**.
Одна з головних небезпек — момент, коли ШІ стане достатньо сильним, щоб **самостійно покращувати власні можливості швидше, ніж люди встигатимуть його контролювати**.
У такому разі помилка може бути **не локальною, а глобальною і незворотною**.
Крістіано роками займається саме проблемою **AI alignment — як зробити так, щоб надпотужний ШІ залишався підконтрольним людям**.

Здається, до цього все йде 
**
**[Україна Online | Підписатись](https://t.me/+PrLok3ySBnljZWMy)