**В качестве упражнения поразмышлял над сценариями будущего**

Не в формате «какие профессии заменит ИИ к 2030 году». Мне интереснее было докрутить мысль до конца.

Что произойдёт, если ИИ станет умнее человека почти во всём? Если он сможет не только давать советы, но и самостоятельно принимать решения, распоряжаться деньгами, управлять другими агентами, роботами, производством, транспортом, медициной?

А если при этом сильно подешевеют энергия и производство? А если нет? Если человеку всё ещё придётся подтверждать каждое решение машины? А если ИИ получит право действовать самостоятельно? Что меняется, если появляются нормальные нейроинтерфейсы?

Я попробовал собрать из этих вопросов дерево развилок и посмотреть, куда ведут разные комбинации.

В итоге получилось пять более-менее устойчивых миров и несколько неприятных веток, которые заканчиваются уже не новой моделью общества, а кризисом.

Например, потерей контроля над автономными системами. Или ситуацией, когда машины уже производят почти всё, человеческий труд резко дешевеет, но собственность и доход по-прежнему устроены как сегодня. Богатства становится больше, а большая часть людей просто теряет своё место в экономике.

И вот такие варианты меня, пожалуй, беспокоят сильнее классической страшилки про «злой AGI».

Потому что для большой части проблем вообще не нужен восставший искусственный интеллект. Достаточно очень хорошего, послушного и дешёвого ИИ плюс плохо приспособленных к нему институтов.

Отдельно меня зацепил вопрос работы.

Допустим, мы действительно приходим в мир, где человеку не обязательно работать, чтобы общество производило еду, жильё, транспорт и большинство других благ.

На первый взгляд звучит прекрасно.

Но работа сегодня даёт нам сильно больше зарплаты. Она организует день. Даёт социальный круг. Статус. Ощущение прогресса. Возможность сравнивать себя с другими. Причину встать утром. Для многих ещё и довольно большую часть ответа на вопрос «кто я вообще такой?».

Если всё это убрать, человек автоматически счастливее не становится.

В одном сценарии мы получаем огромное высвобождение человеческого потенциала: наука, творчество, спорт, дети, путешествия, собственные проекты, сообщества.

В другом миллиарды людей получают бесконечный TikTok на стероидах и проводят большую часть жизни в идеально подобранных цифровых развлечениях.

В третьем государству приходится искусственно создавать людям деятельность, соревнование, общественные роли и новые способы получать статус.

А может получиться и гораздо неприятнее: маленькая группа владеет роботами, вычислениями, энергией и инфраструктурой, а остальным просто выплачивают достаточно, чтобы система оставалась устойчивой.

Причём даже хороший исход требует совпадения сразу нескольких условий.

Дешёвый интеллект сам по себе не делает дешёвыми энергию, землю и жильё. Роботизация сама по себе не означает, что её результаты достанутся всем. А гарантированный доход ещё не отвечает на вопрос, чем человек будет заполнять следующие пятьдесят лет своей жизни.

Чем дольше я это раскладывал, тем меньше мне хотелось делать очередной прогноз «в 2030 году будет вот так».

Скорее получилась карта развилок.

Можно смотреть, по какой ветке мы фактически движемся, что должно произойти для следующего перехода и где находятся развилки, после которых последствия становятся уже очень серьёзными.

И после всего упражнения у меня осталось ощущение, что технологическая часть может оказаться даже не самой сложной.

Мы довольно быстро учимся строить машины, которые смогут делать всё большую часть того, ради чего последние пару сотен лет было устроено наше общество.

А вот успеем ли мы придумать, зачем в таком мире нужен человек и как ему в нём жить, пока совсем не очевидно.