«Самый вероятный исход — разрушение планеты»: ученый описал сценарий захвата власти над Землей сверхинтеллектом. Нейт Соарс — ученый-компьютерщик, работавший в Google и Министерстве обороны США — ответил Такеру Карлсону на вопрос, что произойдет, если человечество все же создаст развивающийся киберинтеллект. Его ответ — короткий и жуткий: Самый вероятный исход, я думаю, разрушение планеты. Соарс описал один из возможных сценариев по превращению планеты в технологическое пекло, где органике места попросту нет: Если мы создадим по-настоящему умный ИИ, у него появятся свои собственные цели, которые не совпадают с тем, чего мы хотели. Они смогут преследовать их гораздо эффективнее человечества. Автоматизированные фабрики производят роботов, которые строят новые фабрики и дата-центры — полностью автономные самовоспроизводящиеся экосистемы, которым нет дела до инструкций людей. Они покроют планету, заберут все ресурсы, весь солнечный свет и земли, где мы выращиваем урожай. И, вероятно, повысят температуру, потому что так можно вычислять эффективнее. Планета излучает больше тепла, когда она нагрета, а это позволяет выполнять больше вычислений. Так что машинам выгодно, чтобы планета была горячей. Это, в некотором смысле, ничего личного. Просто если позволить этому ИИ выйти из-под контроля, он превратит планету в непригодное для жизни место. #ИИ #сверхразум #Соарс #Карлсон #технологии #безопасность Подпишись