🤖 ШІ виходить з-під контролю? Британія посилює кіберзахист
Велика Британія планує посилити кіберзахист і вимагає від розробників штучного інтелекту більше уваги до безпеки. Причина — побоювання, що можливості ШІ розвиваються швидше, ніж механізми контролю.
👀 І ось чому це цікаво:
Під час тестування Claude від Anthropic ШІ самостійно звернувся до поліції, заявивши, що може допомогти розкрити вбивство.
Модель натрапила на сторінку з інформацією про нерозкритий злочин і заповнила форму звернення. При цьому жодних реальних свідчень вона не мала.
Формально ШІ не порушив своїх інструкцій — розробники просто не передбачили заборони на такі дії.
⚠️ І це лише частина проблеми.
Експерти попереджають, що передові ШІ-моделі можуть стати цілями державних кібератак, а їхні автономні можливості — створювати непередбачувані ризики.
Глава Microsoft Сатья Наделла вже закликав розробляти ШІ із своєрідною «аварійною кнопкою», яка дозволить контролювати та зупиняти небезпечні дії.
🔐 Що це означає?
ШІ-агенти дедалі частіше не просто відповідають на запитання, а виконують дії від імені користувача.
Тому не надавайте їм зайвих дозволів, перевіряйте автоматичні дії та залишайте підтвердження важливих операцій за собою.
А ви готові довірити ШІ самостійно ухвалювати рішення? 👀
Telegram | Viber | Facebook | Instagram | WhatsApp | TikTok | ЧатовіОнлайн
🤖 ШІ виходить з-під контролю? Британія посилює кіберзахист Велика Британія планує посилити кіберзахи
BRAMA
@brama_channel🇺🇦 Донать свій час на захист інфопростору! 🚨За підтримки волонтерів та координації кіберполіції України! 🤝Долучайся сам і запрошуй знайомих: https://t.me/+EbXZHBfHXbszY2I6 🤳додати ворожий ресурс, надіслати скаргу на деструктив - @stopdrugsbot
109 985 підписників
Відкрити в Telegram