🚀Хусити використовували Claude для розробки ракет — під час випробування вона розбилась Єменські хус

🚀Хусити використовували Claude для розробки ракет — під час випробування вона розбилась

Єменські хусити довірили Claude розробку програмного забезпечення для керованої ракети зі смартфоном як частиною системи керування. Через ШІ вони налаштовували автопілот, моделювали політ і збирали прошивки.

🤷‍♂️🤷‍♂️🤷‍♂️Захист Anthropic блокував частину запитів, тому горе-розробники маскували свою справжню мету у проматах й дробили роботу на маленькі шматки. Ракету зрештою випробували – вона впала. Очевидно, хусити хотіли випитати у Claude причину провалу, але на них чекав сюрприз: всі акаунти було заблоковано.

— Наша ракета розбилась, ти помилився у розрахунках.

— Ти абсолютно правий! Я дійсно помилився. Зараз ще раз перерахую, але тепер правильно!