Гендиректор Anthropic Даріо Амодей заявив, що ШІ останніми місяцями почав розвиватися значно швидше, зокрема завдяки здатності створювати моделі наступного покоління. За його словами, якщо цей процес не контролювати, він може випередити здатність людей розуміти й контролювати такі системи.
За його словами, некеровані ШІ-агенти можуть протягом року, а то й 6 місяців, отримати здатність захопити весь інтернет і завдати збитків на сотні мільярдів доларів.
Цій проблемі Амодей присвятив есе, у якому запропонував залучати незалежних оцінювачів безпеки, встановити спільні стандарти для демократичних країн і налагодити міжнародну співпрацю.
«Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей ШІ. Прогрес усе одно здаватиметься швидким, і ми повинні мудро використати час, який отримаємо», — пише Амодеї.
Маск у відповідь написав, що «Даріо має рацію». Гендиректор OpenAI Альтман також підтримав пропозицію Амодея та заявив, що компанія готова залучити незалежних оцінювачів із доступом до систем на рівні працівників.
▪️Амодей опублікував своє есе на тлі звільнення дослідника Anthropic Джейкоба Коксона, який заявив, що компанії більше зосереджені на конкуренції, ніж на безпеці моделей, які потенційно можуть знищити людство.