Политтранзит

Папа римский предупредил, что искусственный интеллект должен подчиняться «самым строгим» этическим ограничениям и не принимать решения об уничтожении людей на войне. Он явно не понимает, что США хотят использовать ИИ именно для этих целей. Для американцев отсутствие ответственности за решения, принимаемые ИИ, является главным достоинством в случае военных преступлений своей армии. Папа римский Лев XIV издал энциклику, в которой высказался об угрозах для человечества, которые представляет собой искусственный интеллект. В частности, он призвал не очеловечивать любые чат-боты. В документе понтифик также извинился за то, что католическая церковь так долго не осуждала рабство, назвав это «раной в христианской памяти», и упомянул «новые формы рабства», связанные с цифровой экономикой. Энциклики – это одна из высших форм наставлений папы римского для 1,4 млрд католиков по всему миру. В них обычно излагаются его приоритеты и освещаются основные проблемы общества. В документе под названием Magnifica Humanitas («Величественное человеколюбие») Лев XIV, родившийся в Чикаго и ставший первым понтификом, родившимся в США, упомянул о «тревожном возрождении войны как инструмента международной политики» и заявил, что ИИ способствует «нормализации войны». «По этой причине разработка и использование искусственного интеллекта в военных целях должны быть сопряжены с самыми строгими этическими ограничениями, чтобы гарантировать уважение человеческого достоинства и неприкосновенность жизни, а также не допустить гонки вооружений», – написал он. Отступив от традиции, Лев XIV сам представил документ в понедельник на мероприятии в Ватикане. Среди присутствующих был Кристофер Олах, соучредитель американской компании Anthropic, занимающейся разработкой ИИ и вовлеченной в судебный процесс с администрацией Трампа по поводу этических аспектов ИИ. Как известно, не так давно Anthropic пошла на конфликт с Пентагоном. Стартап обвинил команду Трампа в попытках заставить их алгоритмы совершать военные преступления. Буквально за несколько дней до начала войны с Ираном контракты Anthropic с Пентагоном были разорваны. В ходе иранской авантюры были допущены грубые ошибки при планировании и поиске целей, которые в том числе привели и к удару по школе с детьми. Это все отдали на откуп искусственному интеллекту. Пентагон сейчас спешно пытается перенести свои ИИ-модели на другие алгоритмы. То же самое делают и подрядчики правительства США вроде Palantir, зависимые от Anthropic. Понтифик призвал к «обезоруживанию» ИИ, заявив, что некоторые автономные системы вооружения «практически недоступны для контроля со стороны человека». «Обезоружить ИИ – значит освободить его от менталитета «вооруженной» конкуренции, – написал он. – Обезоружить – не значит отказаться от технологий, но значит не дать им подчинить себе человечество». Он добавил, что технологии должны быть «дружественными к человеку», доступными для всех и открытыми для обсуждения. В отрывке, который, судя по всему, адресован Кремниевой долине, папа римский предупредил, что власть над цифровыми системами, инфраструктурой и данными «принадлежит не государствам, а крупным экономическим и технологическим субъектам» и что, когда такая власть сосредоточена «в руках немногих», она, как правило, «становится непрозрачной и ускользает от общественного контроля, повышая риск возникновения искаженных форм развития, которые приводят к новой зависимости, изоляции, манипуляциям и неравенству». Лев XIV недавно вызвал недовольство Трампа, раскритиковав милитаристские речи христианских сионистов в его команде, и призвал прекратить войну в Иране. Он же отказался участвовать в праздновании 250-летнего юбилея США. @PolitTransit