❗️«Більшість людей може загинути через ШІ»: штучний інтелект здатен стати настільки потужним, що людс

❗️«Більшість людей може загинути через ШІ»: штучний інтелект здатен стати настільки потужним, що людство втратить контроль над його діями, — новий член ради директорів OpenAI Крістіано

📍Чим сильнішими стають моделі, тим складніше людям зрозуміти, чому вони ухвалюють ті чи інші рішення.
📍Нинішніх систем безпеки недостатньо ні в OpenAI, ні в інших великих лабораторіях.
📍Одна з головних небезпек — момент, коли ШІ стане достатньо сильним, щоб самостійно покращувати власні можливості швидше, ніж люди встигатимуть його контролювати.
📍У такому разі помилка може бути не локальною, а глобальною і незворотною.
📍Крістіано роками займається саме проблемою AI alignment — як зробити так, щоб надпотужний ШІ залишався підконтрольним людям.

Здається, до цього все йде 🥺

Україна Online | Підписатись