Александр Сайгин

Ватикан опубликовал энциклику Magnifica Humanitas («Величие человечности») - первый крупный документ Папы Римского Льва XIV. Текст посвящён искусственному интеллекту, цифровым технологиям и их влиянию на общество. В энциклике рассматриваются вопросы автоматизации труда, цифрового контроля, алгоритмических манипуляций, военного применения ИИ, трансгуманизма и концентрации технологической власти. Документ также содержит призыв к международному регулированию ИИ и защите человеческого достоинства в цифровую эпоху. Текст под копирайтом. Основные тезисы энциклики: ⚫️ Искусственный интеллект описывается как мощный инструмент, способный одновременно приносить пользу и создавать новые формы подчинения человека. Папа пишет, что технологии не являются нейтральными и всегда отражают интересы и ценности тех, кто их создаёт и контролирует. ⚫️ Центральная тема документа - человеческое достоинство. В энциклике подчёркивается, что человек не должен превращаться в объект вычисления, статистики или алгоритмического управления. ⚫️ Папа предупреждает об опасности концентрации цифровой власти в руках небольшого числа корпораций и государств. В тексте говорится о риске появления новых форм зависимости и неравенства. ⚫️ Большой раздел посвящён труду: - автоматизации; - алгоритмическому управлению работниками; - вытеснению профессий; - цифровому контролю на рабочем месте. Энциклика критикует ситуацию, в которой эффективность ставится выше человеческой личности и социальных прав. ⚫️ В документе говорится, что технологии могут усиливать эксплуатацию бедных стран и уязвимых групп населения, особенно через низкооплачиваемую цифровую работу, необходимую для обучения ИИ-систем. ⚫️ Папа отдельно обсуждает информационную среду: - манипуляцию вниманием; - распространение ложной информации; - deepfake; - алгоритмическое формирование общественного мнения. В тексте подчёркивается, что демократия требует возможности различать правду и ложь. ⚫️ Энциклика затрагивает тему детей и образования. Папа предупреждает о риске замены человеческих отношений цифровыми системами и о зависимости молодых людей от алгоритмических платформ. ⚫️ В военной части документа критикуются автономные системы вооружений и передача машинам решений, связанных с жизнью и смертью. Папа пишет, что ответственность за применение силы должна оставаться за человеком. ⚫️ Отдельно упоминаются экологические последствия цифровой инфраструктуры: - рост энергопотребления; - расширение дата-центров; - добыча ресурсов для вычислительных систем. ⚫️ Энциклика критикует идеи трансгуманизма и представления о человеке как о существе, которое должно быть «улучшено» или заменено технологиями. ⚫️ При этом документ не отвергает ИИ полностью. Папа пишет, что технологии могут использоваться для медицины, науки, образования и помощи бедным, если они служат человеку, а не подчиняют его. ⚫️ В финале энциклики содержится призыв к международному сотрудничеству и созданию глобальных механизмов регулирования технологий, чтобы цифровое развитие не определялось исключительно рынком или военной конкуренцией.