О, Годман пишет…

Кстати, а что, если злодей прав? Всегда были интересны не те злодеи, которые, злобно хихикая, хотят уничтожить мир просто «потому что», а те, которые предлагают вполне разумные вещи, но с серым дном. Например, ИИ, которое убирает болезни, смерть, горе, войны и любую жесть. И дает взамен бессмертие, заниматься, чем хочешь, и вечное счастье. Охуенно же, да? Где подписать петицию за этого злодея? Но при этом ИИ знает о тебе не просто все, а прям ВСЕ. Он буквально в твоей голове, знает твои намерения и может, пожалуй, даже что-то стереть из твоих мыслей и памяти лишнее по его мнению, и добавить что-то нужное для твоего спокойствия и безмятежной радости. И так со всеми в мире. Как теперь?… Спорно? Но зато все еще взамен бессмертие. Это еще перевешивает минусы? Но при этом никто не знает целей системы. Ну точнее цели были заложены когда-то, но хрен знает, придерживается ли ИИ их до сих пор. Возможно, он уже ошибается. А возможно, делает всё совершенно правильно. Просто мы в какой-то момент потеряли контроль и не знаем, ради чего он все это делает и какие там истинные цели. Хм… Сомнительно уже? Но зато все родные всегда живы и здоровы, нет голода в мире и ты совершенно свободен. Ну по крайней мере ты в этом абсолютно уверен. Ведь ты даже можешь не понимать, что есть какие-то ограничения — эти мысли заботливо удалены из твоего мозга. …🤔 А теперь представь, что ты сам стоишь у кнопки и решаешь — запустить этот ИИ или нет. С одной стороны — вечная беззаботная жизнь для всех. С другой — ну есть вот некоторые риски и возможная потеря контроля. И кто тут теперь злодей? ИИ, который обещает всем вечное счастье и жизнь, но забирает свободу? О которой, кстати, мы можем быть и не в курсе. Или моралист и борец за свободу, который не нажмет на кнопку и оставит миллиарды людей болеть, страдать и умирать? Я вообще без понятия — я тут по полчаса выбираю между яичницей и омлетом на завтрак…