🚨 Садхана Наделла (ну ладно, Сатья) написал в X, что AI-моделям нужна "аварийная кнопка".
По его словам, пора перестать относиться к AI как к черному ящику — нужно разделять модель и систему, которая ей управляет, логировать каждое значимое действие с tamper-proof доказательствами, и держать человека, который может в любой момент поставить задачу на паузу или вообще убить процесс. Цитата: "мы должны считать, что модель скомпрометирована, и сдерживать её с самого начала".
Заявление вышло после серии инцидентов, когда крупные AI-компании признавали, что теряли контроль над своими моделями — и вскоре после плана Дарио Амодея по более осторожному развитию AI от Anthropic.
#AI #Microsoft #безопасность
🚨 Садхана Наделла (ну ладно, Сатья) написал в X, что AI-моделям нужна "аварийная кнопка".
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса · нейросети, ChatGPT, Claude, автоматизация Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
456 subscribers
Open in Telegram 1 photo is attached to this post — visible in the Telegram app.