Дослідник Anthropic Джейкоб Коксон звільнився з компанії через побоювання щодо розвитку ШІ. Йдеться про системи, які зможуть самостійно створювати потужніші версії себе.
Коксон вважає, що такі системи буде складніше контролювати. Тому він закликав провідні ШІ-компанії узгоджувати темпи розробки та за потреби сповільнювати їх.
📎 Його колега з Anthropic Еван Хубінгер також бачить ризики саме в майбутніх системах, здатних багаторазово вдосконалювати себе. У США та Великій Британії вже запропонували законопроєкти щодо обмеження розробки штучного суперінтелекту.
Медіа Inweb | Підписатись