🤖 Уничтожит ли ИИ человечество? Возможно, это вообще неправильный вопрос Для довольно мрачного будущего ИИ совершенно не обязательно превращаться в Скайнет и кого-то уничтожать. Гораздо реалистичнее сценарий, в котором люди остаются живы, но постепенно перестают управлять собственной цивилизацией. Механизм скучный, а потому убедительный. Сначала ИИ просто советует. Потом его экономические планы, медицинские решения, управление энергетикой и логистикой систематически оказываются лучше человеческих. Министр всё ещё ставит подпись, директор нажимает кнопку, парламент голосует. Но поступать вопреки рекомендации машины становится примерно так же разумно, как пилоту игнорировать приборы. Следующий этап начинается, если к интеллекту добавляется роботизация: ИИ проектирует роботов, роботы строят фабрики, фабрики выпускают роботов и компьютеры, автоматизированная энергетика всё это питает, а новое поколение ИИ проектирует следующее. В какой-то момент человек исчезает из производственной цепочки как необходимое звено. И тут возникает довольно странная перспектива. Машинам совершенно незачем нас убивать. Содержать несколько миллиардов людей при почти полностью автоматизированной экономике может оказаться сравнительно дешёвой задачей. Живите, любите друг друга, рисуйте картины, путешествуйте, устраивайте выборы. Просто энергетикой управляете уже не вы. Промышленностью не вы. Наукой не вы. Следующее поколение интеллекта создаёте тоже не вы. И отключить всю систему формально можете, но практически это уже равносильно предложению отключить электричество. Человечество никуда не исчезло. Исчезла человеческая цивилизация. Для такого сценария не требуется ни ненависти к людям, ни сознания, ни восстания машин. Достаточно, чтобы мы раз за разом добровольно выбирали того, кто принимает решения лучше нас.