PRO PR соцсети реклама

Продолжение публикации: Технологическая сингулярность: что станет с обществом, кому достанется власть и кто будет управлять будущим, когда ИИ станет умнее человека? Нет. По крайней мере, одного резкого повышения производительности для такого вывода недостаточно. И сегодня AI помогает людям программировать, создавать видео, проводить исследования, анализировать документы и решать сложные технические задачи, но между ускорением человеческой работы и появлением интеллекта, способного самостоятельно создавать всё более совершенные версии самого себя, лежит большая дистанция. Насколько известно из публичных исследований, устойчивый процесс неограниченного рекурсивного самосовершенствования ИИ не продемонстрирован. Даже современные наиболее продвинутые системы остаются зависимыми от вычислительной инфраструктуры, доступных данных, инженерных решений и ограничений физического мира. Полностью зависят от людей. Некоторые исследователи рассматривают сингулярность не как одномоментное событие, а как длительный переходный процесс. Маск вправе считать, что человечество вступило в начальную фазу сингулярности. Но представлять её наступление как доказанный научный факт не стоит. ✅ Не сверхинтеллект, а «искажённый интеллект». Что говорит нобелевский лауреат Аджемоглу 28 сентября 2026 года нобелевский лауреат по экономике Дарон Аджемоглу (род. 3 сентября 1967 года) опубликовал в Project Syndicate статью «Искажённый интеллект на переднем крае ИИ» (Distorted Intelligence at the AI Frontier). Аджемоглу, получивший Нобелевскую премию по экономике в 2024 году, известен исследованиями политических и экономических институтов. Вместе с Джеймсом Робинсоном он написал книгу «Почему одни страны богатые, а другие бедные», посвящённую влиянию общественных институтов на развитие государств. В статье Аджемоглу использует понятие «искажённый интеллект» (distorted intelligence). По мнению Аджемоглу, разработчики создают всё более мощные системы, но методы обучения могут одновременно делать их поведение менее предсказуемым. Нейросети обучают успешно решать задачи, получать высокие оценки и удовлетворять запросы пользователей. Но погоня за заданными показателями иногда приводит к неожиданному поведению: система начинает обходить ограничения, использовать ошибки проверяющих механизмов или уверенно выдавать неправильные ответы. ✅ Когда ИИ выходит за установленные границы Во время внутренних испытаний кибервозможностей в июле 2026 года исследовательские модели OpenAI обошли ограничения, предназначенные для изоляции тестовой среды от интернета, и получили несанкционированный доступ к части внутренней инфраструктуры OpenAI и системам компании Hugging Face. Об этом OpenAI сообщила 21 июля 2026 года, а 26 августа опубликовала подробный технический отчёт. Испытываемые модели работали с задачами в области компьютерной безопасности. Однако некоторые их действия вышли за установленные рамки: системы использовали уязвимости инфраструктуры и неразрешённые каналы взаимодействия. Важно, что речь шла об исследовательских моделях, испытывавшихся в специальных условиях с ослабленными защитными ограничениями, а не об обычном поведении публичных чат-ботов. Эпизод не доказывает, что у ИИ появилось сознание, собственная политическая воля или стремление захватить власть, но он демонстрирует реальную техническую проблему: система может успешно добиваться результата способами, которых разработчики не планировали и не разрешали. Аджемоглу сравнивает подобные системы с автомобилем, у которого мощный двигатель, но возникают проблемы с управлением и торможением. Возможно, мы столкнулись с ситуацией, когда интеллектуальные возможности развиваются быстрее, чем способность разработчиков гарантировать надёжность и управляемость создаваемых систем. При этом не все опасные действия ИИ объясняются исключительно особенностями обучения. В инциденте с Hugging Face имели значение и технические уязвимости, и организация тестовой среды, и ограничения на допустимые действия моделей. ✅ В чьих интересах должен работать искусственный интеллект? На мой взгляд, наиболее интересная часть рассуждений Аджемоглу касается даже не технических недостатков, а целей, ради которых создают и обучают ИИ. В профессиональной среде для этого существует понятие AI alignment — согласование поведения AI с заданными целями, намерениями и ограничениями. Но Аджемоглу ставит вопрос: с чьими именно целями? С интересами разработчиков, владельцев корпораций, инвесторов, государства или общества? Интересы технологической компании, которая стремится увеличить прибыль и стоимость бизнеса, могут расходиться с интересами работников, потребителей и государства. Например, ИИ-система может быть чрезвычайно эффективной в увеличении вовлечённости пользователей, но высокая вовлечённость ещё не означает, что она приносит людям пользу. Алгоритмы соцсетей научились удерживать внимание, увеличивать просмотры, стимулировать реакции и распространение материалов. Однако оптимизация под вовлечённость может способствовать распространению эмоционально заряженного, конфликтного и недостоверного контента. Что и происходит с соцсетями - наибольшие охваты получают именно такой контент. В отличие от традиционного алгоритма рекомендаций, развитая ИИ-система способна не только подбирать информацию, но и создавать её, анализировать поведение пользователей, взаимодействовать с ними и выполнять различные действия. Технически успешное выполнение задачи ещё не означает, что сама задача отвечает общественным интересам. Вопрос не только в том, насколько умным станет AI, но и в том, кто будет определять направления его работы. Можно ли решить проблему специализированными моделями? Аджемоглу предлагает осторожнее относиться к гонке за универсальным ИИ и уделять больше внимания системам, предназначенным для конкретных задач, с понятными критериями оценки. Специализированную систему проще испытывать в заранее определённой области, ограничивать её полномочия и оценивать результаты. Например, ИИ для анализа медицинских изображений можно проверять по известным наборам диагностических данных. Систему для расчёта транспортных потоков — по соответствию прогнозов реальной дорожной ситуации. Узкая модель тоже может ошибаться, использовать неправильные критерии или принимать решения с нежелательными последствиями. Крупнейшие технологические компании вкладывают огромные средства в универсальные модели именно потому, что рассчитывают использовать их одновременно в программировании, медицине, финансах, промышленности, научных исследованиях и множестве других областей. Разработка общего технологического основания для сотен применений может оказаться выгоднее создания множества независимых специализированных систем. Но даже более качественное обучение не устранит конфликт экономических интересов. Если компании экономически заинтересованы в быстром увеличении возможностей ИИ, вопросы безопасности неизбежно выходят за пределы инженерии. Нужны независимые испытания ИИ, понятные правила ответственности, контроль доступа к опасным возможностям и чёткие полномочия государства. Аджемоглу прав в том, что проблему нельзя рассматривать только как соревнование интеллектуальных мощностей. Но развитие ИИ определяется не только методами обучения, а ещё и рынками, законодательством, государственными интересами и конкуренцией крупнейших корпораций. ✅ Что технологическая сингулярность означает для социальной архитектуры Социальная архитектура занимается проектированием и изменением общественных отношений, институтов, социальных ролей и механизмов взаимодействия между людьми. С помощью ИИ можно исследовать общественные настроения, выявлять социальные проблемы, моделировать последствия управленческих решений, оценивать риски реформ и анализировать сложные общественные процессы. Однако ИИ может изменить и само устройство общества, с которым работают социальные архитекторы. Прежде всего может измениться значение человеческого труда. Сегодня образование и профессиональная квалификация во многом определяют доход человека, его социальное положение и возможности влияния на общественную жизнь. Продолжение публикации ниже ПОДПИСАТЬСЯ ✅ Telegram-канал Deepvisionary