The Economist публікує план, як Конгресу зменшити ризик катастрофи ШІ. Йошуа Бенджіо та Лоуренс Лессіг пропонують 4 конкретні кроки.

Дозволити лабораторіям погоджувати безпечне уповільнення без антимонопольних претензій; заборонити рекурсивне самовдосконалення без сертифікації; закріпити відповідальність і обов'язкове страхування; захистити викривачів.

Експерти часто оцінюють ризик людського вимирання від надпотужного ШІ у 10%. Можна сперечатися з цифрою, але ігнорувати такий хвіст ризику вже дивно.