Російська пропаганда проникає у відповіді ШІ-чатботів — дослідження GDI Штучний інтелект може надава

Російська пропаганда проникає у відповіді ШІ-чатботів — дослідження GDI

Штучний інтелект може надавати російській пропаганді видимість достовірності. Дослідники Global Disinformation Index (GDI) виявили, що великі мовні моделі іноді відтворюють кремлівські наративи без спростувань і пояснень — так, ніби це встановлені факти.

У дослідженні перевірили дві моделі: Claude Sonnet і Mistral Large. Обидві часом подавали такі твердження «від власного імені». Через це користувачеві складно розпізнати пропаганду: він бачить відповідь ШІ, а не повідомлення з очевидно заангажованого джерела.

Автори дослідження звертають увагу на інформаційні прогалини, які Росія використовує для впливу на відповіді мовних моделей. За їхньою оцінкою, пов’язані з російською державою структури та інші гравці регулярно поширюють через ШІ наративи, які залишаються нерозпізнаними, неспростованими або позбавленими необхідного контексту.

Масштаб ризику посилює зміна способу споживання інформації. За наведеними GDI даними, частка пошукових запитів, після яких користувачі не переходять на сайти, сягнула 60%. Отже, короткий виклад, сформований ШІ, дедалі частіше стає кінцевою точкою пошуку.

Вигадані історії давно слугують інструментом політичної боротьби та виправдання воєн. Мовні моделі здатні прискорити їх поширення й додати їм переконливості завдяки уявному підтвердженню з боку технології.

Водночас автори наголошують: ця вразливість не є неминучою. Розробники моделей і користувачі можуть вживати заходів, щоб зменшити ризик поширення пропаганди. Один із можливих підходів дослідники пропонують у повному звіті.

📩Підписуйся на "Ціну держави" |Наш Facebook | Ставайте патронами |Ставайте спонсором YouTube | Підтримати разово або підпискою