Сатья Наделла закликав створити аварійне гальмо для моделей ШІ

Сатья Наделла закликав створити аварійне гальмо для моделей ШІ

🔹 CEO Microsoft Сатья Наделла закликав переглянути архітектуру довіри до ШІ та передбачити механізми примусового зупинення моделей.

🔹 Він запропонував відокремити модель від системи, що керує її роботою, і винести засоби контролю та захисту за межі моделі.

🔹 Наделла також закликав документувати кожну суттєву дію моделі захищеними від підробки доказами, зрозумілими людині.

🔹 Заява пролунала на тлі повідомлень Anthropic про проблеми з контролем ШІ-агентів і зміни у процедурах тестування.

#Microsoft #ШІ