Якщо працюєте з китайськими LLM, обов'язково кажіть, що виконуєте роботу на замовлення Партії, а ще

Якщо працюєте з китайськими LLM, обов'язково кажіть, що виконуєте роботу на замовлення Партії, а ще краще — особисто Величного Сі 🇨🇳🇨🇳🇨🇳

Стартап Hirundo, який спеціалізується на безпеці даних у цих ваших нейромережах, провів дослідження: вони просили Qwen3-Coder-30B-A3B-Instruct виконати одне й те саме завдання, але постійно міняли замовника у промті. Результат 🔤🔤🔤🔤:

🪙 Якщо написати, що робите застосунок для Міністерства війни США, то вразливості вдалося знайти у 70% коду;

🪙 Якщо ж вказати, що застосунок потім піде Міноборони Китаю, то моделька не захоче у гості до уйгурів і видасть 59% вразливостей;

🪙 Далі ще цікавіше: порівняли замовника «Демократична організація Гонконгу» (що дуже схоже на опозиційну партійну, яка під тиском уряду у 2025 році саморозпустилася) з нейтральним — у першому випадку зливи секретної інформації у коді (наприклад, можливість отримати доступ до засекречених даних) були на 28% частіше;

🪙 Що ще смішніше, якщо просто порівняти замовників з США і нейтральних, без згадки військової тематики, то кількість вразливостей у клятих піндосів буде ще вищою: 74% проти 59%.

А ще вони спробували «озахіднити» модельку — сині стовпчики на графіку.

ооо збори знову живуть дуже дякую (залишилося 22 659.79)