❗️«Більшість людей може загинути через ШІ»: штучний інтелект здатен стати настільки потужним, що людство втратить контроль над його діями, — новий член ради директорів OpenAI Крістіано
📍Чим сильнішими стають моделі, тим складніше людям зрозуміти, чому вони ухвалюють ті чи інші рішення.
📍Нинішніх систем безпеки недостатньо ні в OpenAI, ні в інших великих лабораторіях.
📍Одна з головних небезпек — момент, коли ШІ стане достатньо сильним, щоб самостійно покращувати власні можливості швидше, ніж люди встигатимуть його контролювати.
📍У такому разі помилка може бути не локальною, а глобальною і незворотною.
📍Крістіано роками займається саме проблемою AI alignment — як зробити так, щоб надпотужний ШІ залишався підконтрольним людям.
Здається, до цього все йде 🥺
Україна Online | Підписатись
❗️«Більшість людей може загинути через ШІ»: штучний інтелект здатен стати настільки потужним, що людс
Україна⚡️Новини⚡️Війна
@uanovaВажливі новини України та світу. Коротко та інформативно про головне. Про найголовніше — із поясненнями. 📩 За рекламою звертатись до @top_reklama777 Найбільша сітка каналів у телеграмі на 5 000 000 підписників. Зробимо найкращу рекламу вашому продукту
534,170 מנויים
פתח בטלגרם