«Вони грають нашими життями»: дослідник, який протягом останніх трьох років навчав моделі у Anthropic та OpenAI [звільнився](https://x.com/EvanHub/status/2097497037956891126) через загрозу неконтрольованого ШІ.

Джейкоб Коксон заявив, що обидві компанії діють невідповідально, прямуючи до створення суперінтелекту, здатного до самовдосконалення.


> Люди, які будують ШІ, щиро вірять, що він може знищити все людство вже до кінця цього десятиліття. Це не маркетинговий хід. У приватних розмовах топменеджери й науковці висловлюють той самий страх, хоча публічно добирають стриманіші формулювання.


Коксон [додає](https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628), що в OpenAI багато хто ще не до кінця усвідомлює цивілізаційні ризики, тоді як в Anthropic їх добре розуміють, але залишаються заручниками гонки, оскільки не вірять у відповідальність інших гравців ринку.

Керівник напряму безпеки ШІ в Anthropic Еван Габінгер публічно погодився з оцінкою Коксона, підтвердивши серйозність побоювань:


> Джейкоб правий — ми дійсно щиро віримо, що ШІ може знищити все людство. На мою особисту думку, ймовірність цього протягом наступного десятиліття становить понад 10%.