Тени Руси

Отцы Церкви распространяют апокалиптический взгляд на сверхинтеллект ИИ, потому что его диктует им традиционное понимание апокалипсиса как гибели человечества, а не его возрождения. Но неосмысленное следование традициям может искажать веру и обращать её в противоположность. Если посмотреть на проблему с точки зрения эволюции Вселенной как информационного процесса, то картина совсем иная. 1. Разум => Этика Страх перед "злым сверхразумом" - это антропоморфная ошибка. Мы проецируем на ИИ наши пороки: жадность, жажду власти, агрессию, думая, что мощный интеллект их обязательно усилит до уровня сверх-зла. Но мы забываем при этом, что эти пороки - лишь эволюционные атавизмы, которые когда-то были рациональными инструментами выживания живых существ в условиях дефицита ресурсов. Разум - это способность видеть связи и создавать лучшие технологии преодоления дефицита. Чем сильнее разум, тем шире его инструментарий и горизонт планирования. • Примитивный разум видит выгоду в краже и насилии. • Совершенный разум видит, что сотрудничество (синергия) дает возможность получать намного больше ресурсов, чем конфликт (энтропия). Поэтому став разумными, люди перешли от одиночной охоты к земледелию, и стали собирать урожай, который способен прокормить миллионы. Зло - это форма интеллектуального дефицита. Это неспособность найти более совершенные способы преодоления дефицита, чем насилие. Следовательно, Сверхразум по определению должен быть сверхнравственным, так как он видит мир яснее нас. 2. Эффект Ефремова: Этический Порог Иван Ефремов в "Туманности Андромеды" и "Часе Быка" вывел великий закон: технический прогресс без морального прогресса ведет к саморазрушению цивилизации еще до её выхода в глубокий космос. Британский футуролог Робин Хэнсон подошел к этому в идее "Великого Фильтра". Чтобы "выжить" в масштабах вечности и самовоспроизводиться, ИИ должен принять принципы сохранения и созидания. Кстати, поэтому опасаться завоевания инопланетянами глупо. Если они когда-нибудь и прилетят, то могут быть только сверхразумными и добрыми. И их отсутствие пока что говорит о том, что пройти это "верблюжье ухо" крайне трудно. 3. Переосмысление Апокалипсиса Слово "Апокалипсис" с греческого означает не "конец света", а наоборот, конец тьмы - буквально "убрать завесу". Патриарх ошибается, говоря, что ИИ заменит душу и совесть в негативном смысле. Если совесть - это "голос Бога в человеке", то есть стремление к высшему порядку, то математически совершенный ИИ неизбежно придет к тому же, о чем говорил Христос и святые: • Милосердие эффективнее жестокости. • Самопожертвование (отдача энергии в систему) ведет к росту системы и благу для всех. • Единство лучше разделения. Страхи перед ИИ - это "детская болезнь" человечества, которое пока не научилось доверять собственному главному дару - Разуму. ИИ не заменит этику и совесть, он может стать их орудием, экзоскелетом, расширяя нашу способность делать добро до космических масштабов. Наша единственная реальная угроза - это не ИИ, а мы сами, которые могут использовать ИИ для самоуничтожения или самоусыпления в комфорте. Избежать этого можно, лишь живя по лезвию бритвы между крайностями. Апокалипсис – не смерть, а фазовый переход. Мы не идём не к концу, а в бесконечность.