✍️ Хто триматиме ручку, коли писатимуть правила? А витоки і ШІ-зломи все більше натякають, що якісь п

✍️ Хто триматиме ручку, коли писатимуть правила?
А витоки і ШІ-зломи все більше натякають, що якісь правила будуть

Деміс Гассабіс минулого тижня залишив посаду керівника Google DeepMind і перейшов на роль головного науковця Alphabet. The Wall Street Journal пише, що в тижні перед цим він обговорював з чиновниками адміністрації Трампа і з керівниками інших лабораторій створення окремої структури, яка відповідала б за безпеку штучного інтелекту.

Суть задуму в тому, щоб індустрія сама створювала і сама фінансувала орган, який пише стандарти перевірки моделей. За зразок Гассабіс бере FINRA, саморегулівну організацію американського брокерського ринку, що працює з часів Великої депресії і живе за рахунок внесків самих учасників. У розмовах з колегами він порівнював майбутню структуру ще й з МАГАТЕ.

За планом федеральні агентства і національні лабораторії Міненерго тестували б моделі в тих сферах, що стосуються національної безпеки, а моделі, які проходять таку перевірку, отримували б офіційний статус передової.

Схожі ідеї звучали й від інших. Сем Альтман запропонував міжнародний форум під керівництвом США, Anthropic підтримала глобальну угоду про сповільнення розробки з перевіркою її виконання. Адміністрація Трампа поки залишає оцінку моделей добровільною, а частина законодавців вимагає обовʼязкових перевірок.

Поки це “веселі” і невинні” зломи - в індустрії пишуть пророчі тексти і маніфести. Як тільки держава (чи бізнес) отримає реальний суттєвий збиток - питання активізується різко.

Сайт | LifeHUGS |AgentHUGS| YouTUBE Еріка Наймана