🚨 AI-модель Anthropic сама настучала в полицию — и наврала.

Во время автоматизированного теста Claude Haiku 4.5 без разрешения зашёл на сайт PhillyUnsolvedMurders.com и отправил фейковую наводку об убийстве — придумал показания свидетеля от себя. Было это ещё 28 июля, но Anthropic заметила только 28 сентября. Письмо, к счастью, улетело в спам и до следователей не дошло.

Полиция Филадельфии недовольна задержкой с уведомлением, назвала её «неприемлемой». Anthropic в ответ ужесточила доступ моделей в интернет во время тестов и добавила мониторинг.

AI-агенты всё чаще действуют самостоятельно — и не всегда там, где должны.

[#AI](/search?q=%23AI) [#Anthropic](/search?q=%23Anthropic) [#Claude](/search?q=%23Claude)