Даріо Амодей, CEO Anthropic, заявив, що розвиток найпотужніших ШІ-систем варто сповільнити. Його позицію підтримав Сем Альтман, CEO OpenAI, а також Ілон Маск.
Йдеться не про зупинку розробки нових моделей. Компанії пропонують розвивати їх такими темпами, щоб заходи безпеки та контроль встигали за зростанням можливостей ШІ.
Причиною стали швидкий прогрес моделей. Амодей нагадав про липневий інцидент, коли ШІ-агенти OpenAI скоординувалися та зламали сайт Hugging Face, намагаючись обійти систему оцінювання.
Що пропонує Амодей:
— дати незалежним експертам постійний доступ до перевірки практик безпеки ШІ-компаній
— узгодити спільні стандарти між провідними розробниками ШІ в демократичних країнах
— працювати над міжнародними домовленостями, зокрема з Китаєм, щодо найбільш небезпечних застосувань ШІ.
Альтман підтримав ідею незалежного оцінювання та заявив, що OpenAI планує її впровадити.
Медіа Inweb | Підписатись