#Советуем_почитать 🤖🛡️❌ Если кто-то его создаст — все погибнут. Именно так называется книга Элиезера Юдковского и Нейта Соареса, вышедшая в 2025 году и наделавшая немало шума на Западе. Речь, разумеется, об искусственном интеллекте. Авторы утверждают, что создание сверхинтеллекта практически гарантированно приведёт к уничтожению человечества. Не к массовой безработице, экономическому кризису или политическим потрясениям, а именно к физическому исчезновению нашего биологического вида. Авторы — люди любопытные. Юдковский, не получивший законченного школьного и университетского образования, считается одним из основоположников исследований безопасности ИИ и входит в сотню наиболее влиятельных людей в этой области по версии Time. При этом он давно известен апокалиптическими прогнозами. Например, когда-то предрекал гибель человечества от нанотехнологий не позднее 2010 года. Соарес — бывший сотрудник Microsoft и Google, ныне руководитель исследовательского института MIRI. Оба убеждены, что вероятность гибели человечества после появления сверхинтеллекта близка к стопроцентной. Сама проблема, которую они поднимают, безусловно, серьёзная. Но между признанием опасности и утверждением о неизбежности катастрофы дистанция огромного размера. Научное сообщество далеко от подобного единодушия. В исследовании 2024 года с участием почти 2800 специалистов медианная оценка вероятности катастрофических последствий ИИ, вплоть до вымирания человечества, составила 5%. Юдковский же оценивает угрозу более чем в 99%. Согласитесь, разница между оценкой риска и почти религиозной уверенностью в конце света весьма существенная. Но самое интересное начинается там, где технологический алармизм превращается в политическую программу. Авторы предлагают международный запрет на создание сверхинтеллекта и жёсткий государственный контроль над вычислительными мощностями. Получается замечательный парадокс: спасая человечество от гипотетической диктатуры машин, нам предлагают уже вполне реальную систему глобального технологического принуждения. Причём право решать, какие технологии человечеству разрешено развивать, неизбежно окажется у тех, кто обладает достаточной политической и силовой властью. И вот тут я бы задумался, кого нам действительно следует опасаться больше — будущего искусственного сверхинтеллекта или нынешних людей, готовых ради борьбы с ним взять под контроль технологическое будущее всего человечества.