Приховані слова-тригери можуть зробити роботів із ШІ… — dev.ua

@devukraine

dev.ua — українське IT-медіа. Тут пишемо про: життя айті ком'юніті, бізнес, інновації, IT-освіту, GameDev. Youtube: https://bit.ly/3xcDTfs Співпраця: @stasdevua Реклама: @devmediabot Надсилайте новини в бот @devuafeedbackbot

Приховані слова-тригери можуть зробити роботів із ШІ небезпечними для людей: як це працює

Науковці з Університету Бінгемтона продемонстрували, що зловмисники можуть непомітно перепрограмувати роботів на базі великих мовних моделей. Додавши в інструкцію лише одне слово-тригер, вони змусили робота-помічника замість яблука «порізати» макет людської руки.

@devukraine

Приховані слова-тригери можуть зробити роботів із ШІ небезпечними для людей: як це працює Науковці з

dev.ua | IT України