⚠️ The Economist публікує план, як Конгресу зменшити ризик катастрофи ШІ. Йошуа Бенджіо та Лоуренс Лессіг пропонують 4 конкретні кроки. Дозволити лабораторіям погоджувати безпечне уповільнення без антимонопольних претензій; заборонити рекурсивне самовдосконалення без сертифікації; закріпити відповідальність і обов'язкове страхування; захистити викривачів. Експерти часто оцінюють ризик людського вимирання від надпотужного ШІ у 10%. Можна сперечатися з цифрою, але ігнорувати такий хвіст ризику вже дивно.