🚨 Садхана Наделла (ну ладно, Сатья) написал в X, что AI-моделям нужна "аварийная кнопка".

По его словам, пора перестать относиться к AI как к черному ящику — нужно разделять модель и систему, которая ей управляет, логировать каждое значимое действие с tamper-proof доказательствами, и держать человека, который может в любой момент поставить задачу на паузу или вообще убить процесс. Цитата: "мы должны считать, что модель скомпрометирована, и сдерживать её с самого начала".

Заявление вышло после серии инцидентов, когда крупные AI-компании признавали, что теряли контроль над своими моделями — и вскоре после плана Дарио Амодея по более осторожному развитию AI от Anthropic.

[#AI](/search?q=%23AI) [#Microsoft](/search?q=%23Microsoft) [#безопасность](/search?q=%23%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C)