PRO PR соцсети реклама

Продолжение публикации: Технологическая сингулярность: что станет с обществом, кому достанется власть и кто будет управлять будущим, когда ИИ станет умнее человека? Если ИИ сможет выполнять значительную часть интеллектуальной работы, изменится и положение человека на рынке труда. Автоматизация может затронуть программистов, юристов, аналитиков, бухгалтеров, а также работников образования, медицины, госуправления, проектирования, журналистики и многих других специальностей Не обязательно исчезнут сами профессии. Скорее могут измениться их содержание, востребованные навыки, численность работников и способы организации труда. Для социального архитектора возникает вопрос: как будет устроено общество, в котором привычная связь между образованием, профессией, доходом и социальным положением начнёт ослабевать? Если экономические преимущества ИИ достанутся преимущественно владельцам технологий, а значительная часть населения столкнётся со снижением доходов и возможностей профессионального развития, это может усилить социальное неравенство. Но возможен и другой сценарий: увеличение производительности позволит повысить качество жизни, сократить тяжёлый труд и сделать многие услуги доступнее. Какой из сценариев реализуется, зависит не только от возможностей ИИ, но и от общественных институтов, экономической политики и распределения результатов технологического развития. Если ИИ сможет выполнять значительную часть работы человека, возникнет вопрос: кому будут принадлежать результаты этого труда? Владельцам моделей, компаниям, которые их используют, или обществу, за счёт знаний и данных которого эти системы создавались? От ответа может зависеть не только распределение доходов, но и сама структура собственности в будущем обществе. Кто будет контролировать интеллектуальную инфраструктуру? Сегодня власть государства опирается на законы, финансовые ресурсы, административные институты и возможность принимать обязательные решения. Но всё большее значение приобретают данные, вычислительные мощности, информационные платформы и интеллектуальные системы. Если наиболее мощные модели будут находиться под контролем ограниченного числа корпораций или государств, возникнет дополнительный источник политического и экономического влияния. Компания, обладающая технологиями анализа огромных массивов данных, моделирования экономических процессов и автоматизации сложных решений, получает возможности, недоступные большинству других участников общественной жизни. Особенно чувствительными могут оказаться сферы национальной безопасности, энергетики, связи, финансовой инфраструктуры и государственного управления. Государства заинтересованы в контроле над критически важными технологиями, но сами всё сильнее зависят от компаний, которые эти технологии разрабатывают. Возникает противоречие: власть должна регулировать корпорации, располагающие мощными интеллектуальными системами, и одновременно вынуждена пользоваться их разработками. При этом интересы государства, бизнеса и общества далеко не всегда совпадают. Развитие ИИ может усилить позиции новой технологической элиты. Владельцы наиболее мощных моделей, вычислительных ресурсов и инфраструктуры ИИ получат дополнительные возможности воздействовать на экономику и государственные решения. При этом их влияние не обязательно будет связано с выборными должностями или непосредственным участием в политике. Влияние могут получить и те, кто будет контролировать доступ к ИИ. Даже если сами модели станут относительно доступными, платформы, через которые миллионы людей работают, получают информацию и пользуются государственными услугами, смогут определять правила такого взаимодействия. Между человеком и государством может появиться ещё один влиятельный посредник — владелец интеллектуальной платформы. Важен и вопрос о том, кто сможет ограничить работу ИИ или полностью отключить систему, от которой зависят государственные учреждения, предприятия и миллионы граждан. Если такая возможность останется исключительно у владельца технологии, он получит дополнительный рычаг влияния на всех, кто ею пользуется. А если право отключения перейдёт государству, возникнет другой вопрос: кто и на каких основаниях сможет им воспользоваться? Тот, кто контролирует интеллектуальную инфраструктуру, потенциально получает влияние не только на производство информации, но и на подготовку решений. Однако технологическая мощность не равнозначна политической легитимности. Даже наиболее развитая система не получает автоматически права определять общественные цели. ✅ Может ли ИИ управлять обществом лучше человека? Представим, что государство использует высокоразвитую интеллектуальную систему для подготовки экономических и социальных решений. Она способна анализировать огромные объёмы статистики, моделировать последствия налоговых изменений, рассчитывать нагрузку на медицинские учреждения, прогнозировать транспортные потоки и оценивать эффективность бюджетных расходов. В некоторых задачах подобная система может оказаться значительно точнее человеческих экспертов. Но что произойдёт, если она предложит закрыть часть социальных учреждений ради экономии бюджета? Или перераспределить финансирование между регионами, поскольку математическая модель показывает более высокую общую эффективность? Система может рассчитать экономические последствия, но должна ли она самостоятельно решать, какие социальные издержки допустимы? Решение, выгодное большинству, может оказаться крайне тяжёлым для меньшинства. Решение, повышающее экономическую эффективность, может противоречить принципам равенства или социальной защиты. ИИ способен помогать оценивать подобные противоречия, но не устраняет необходимость политического выбора. Управление обществом — не только поиск математически оптимального решения. Это ещё и вопрос о том, кто имеет право принимать решения и отвечать за их последствия. ИИ необязательно официально передавать власть. Достаточно, чтобы люди постепенно привыкли принимать его рекомендации без самостоятельной проверки. Формально решения по-прежнему будут подписывать чиновники, руководители и политики, но фактически всё большую роль в их подготовке получат алгоритмы. И тогда возникает вопрос: кто действительно принимает решение — человек или система, выводы которой он перестал проверять? В исследованиях автоматизации известна проблема automation bias — склонность человека чрезмерно доверять рекомендациям автоматизированных систем, даже когда они ошибаются. Кто определяет цели системы? Кто проверяет её работу? Может ли гражданин оспорить автоматизированное решение? Кто несёт ответственность за ошибку? Эти вопросы уже возникают при использовании ИИ в социальном обеспечении, кадровом отборе, образовании и государственном управлении. Для их постановки не требуется ждать технологической сингулярности. ✅ ИИ и будущее либерализма и демократии Демократические институты предполагают участие граждан в определении общественных целей и возможность контролировать тех, кто принимает политические решения. Но развитие интеллектуальных систем может создать новое неравенство — между теми, кто располагает мощными инструментами анализа и управления, и теми, кто не имеет к ним доступа. Если ИИ будет разрабатывать решения, сложность которых окажется недоступной большинству граждан, возникнет проблема демократического контроля. Как обществу оценивать правильность решений, если даже специалисты не всегда способны объяснить, каким образом система пришла к своим выводам? Одной формальной возможности голосовать за политиков может оказаться недостаточно для полноценного контроля над используемыми ими интеллектуальными инструментами. Возникает и проблема независимого контроля. Если государство использует ИИ для подготовки решений, кто сможет проверить работу этой системы — парламент, суд, независимые эксперты или только разработчики? И насколько такой контроль возможен, если устройство модели закрыто даже для большинства государственных служащих? Продолжение публикации ниже ПОДПИСАТЬСЯ ✅ Telegram-канал Deepvisionary