«В АІ не має бути прав», — CEO Microsoft AI
СEO Microsoft AI Мустафа Сулейман переконаний, що небезпека АІ для людства реальна і терміново вимагає розробки системи «стримування» ШІ-агентів. Інакше «новий вид із кремнію» почне змагатися з людьми за ресурси.
Тому він критикує «Конституцію Claude», на основі якої Anthropic будує «особистість» своїх моделей. В Anthropic вважають, що у АІ може бути функціональна версія емоцій, і в цих же категоріях модель вчать розмірковувати про себе.
📌 Ідея «прав» АІ-моделей тільки збільшує ризики, що технологія вийде з-під контролю, наполягає Сулейман. Для своїх моделей Microsoft AI розробили «Кодекс поведінки гуманістичного ШІ» з головною ідеєю, що АІ має бути підлеглим та контрольованим інструментом.
Сулейман проти того, щоб давати АІ володіти активами, заробляти гроші або спілкуватися між собою незрозумілою людині мовою. За його словами, сучасні ШІ-системи не мають свідомості, вони «движки завершення послідовностей», створені служити людям.
«В АІ не має бути прав», — CEO Microsoft AI СEO Microsoft AI Мустафа Сулейман переконаний, що небезп
25 238 підписників
Відкрити в Telegram