Щоб спіймати небезпечного ШІ-агента, потрібно думати як ШІ-агент.

@devukraine

dev.ua — українське IT-медіа. Тут пишемо про: життя айті ком'юніті, бізнес, інновації, IT-освіту, GameDev. Youtube: https://bit.ly/3xcDTfs Співпраця: @stasdevua Реклама: @devmediabot Надсилайте новини в бот @devuafeedbackbot

Щоб спіймати небезпечного ШІ-агента, потрібно думати як ШІ-агент. Дослідники пропонують стримувати автономні рої ШІ за допомогою інших нейромереж

Технологічні компанії довіряють агентам штучного інтелекту все складніші й триваліші завдання, але паралельно зіштовхуються з проблемою їх контролю. Автономні алгоритми діють швидше, довше та в більших обсягах, ніж люди здатні перевіряти в реальному часі. Для розв’язання цієї проблеми розробники та лабораторії все частіше пропонують залучати окремі системи штучного інтелекту, які перевірятимуть дії інших агентів перед їх виконанням. Деталі - тут.

@devukraine

dev.ua | IT України