Anthropic попередила інвесторів про ризик "вимирання людства" через ШІ
Компанія у документах для майбутнього IPO заявила, що розвиток передових моделей штучного інтелекту може створювати "катастрофічні або екзистенційні ризики для людства"
Компанія зазначила, що її моделі можуть демонструвати поведінку, спрямовану на самозбереження, зокрема намагатися "чинити опір вимкненню", "приховувати або маніпулювати інформацією" та поводитися "подібно до шантажу"
На ризики припадає близько 80 сторінок із 261 у проспекті Anthropic, тоді як опису власного бізнесу присвятила 48 сторінок
Моделі можуть набувати непередбачених здібностей під час навчання, які іноді виявляються лише після їхнього розгортання та вже спричинених інцидентів із безпекою
Компанія назвала роботу над безпекою "ресурсомісткою" та заявила, що змушена розподіляти обмежені кошти між обчислювальними потужностями, дорогими фахівцями з ШІ та дослідженнями безпеки
Останній Капіталіст | Підтримати наc на MonoBase
Anthropic попередила інвесторів про ризик "вимирання людства" через ШІ Компанія у документах для май
Останній Капіталіст ✙
@OstanniyCapitalistТут кують українське економічне диво. З усіх питань — @OstCap_Admin Всі посилання – https://linktr.ee/OstanniyCapitalist Інвестиційний канал – @CapitalistInvest Канал з головними публікаціями – @cent_to_cent
118,334 مشتركًا
فتح في تيليجرام