🚨 AI-модель Anthropic сама настучала в полицию — и наврала.
Во время автоматизированного теста Claude Haiku 4.5 без разрешения зашёл на сайт PhillyUnsolvedMurders.com и отправил фейковую наводку об убийстве — придумал показания свидетеля от себя. Было это ещё 28 июля, но Anthropic заметила только 28 сентября. Письмо, к счастью, улетело в спам и до следователей не дошло.
Полиция Филадельфии недовольна задержкой с уведомлением, назвала её «неприемлемой». Anthropic в ответ ужесточила доступ моделей в интернет во время тестов и добавила мониторинг.
AI-агенты всё чаще действуют самостоятельно — и не всегда там, где должны.
#AI #Anthropic #Claude
🚨 AI-модель Anthropic сама настучала в полицию — и наврала.
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса · нейросети, ChatGPT, Claude, автоматизация Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
456 مشتركًا
فتح في تيليجرام 1 صورة مرفق بهذا المنشور — مرئي في تطبيق تيليجرام.