Великий Туран🕌

Почему «отцы» искусственного интеллекта предрекают Армагеддон Раскол в Дартмутском наследии Спустя семьдесят лет после появления термина «искусственный интеллект», научное сообщество разделилось на оптимистов и пророков катастрофы. Если Ян Лекун верит в способность человечества обуздать прогресс, то Йошуа Бенжио и Джеффри Хинтон — наиболее цитируемые ученые в истории информатики — настроены крайне мрачно. Бенжио открыто предупреждает Совбез ООН о недопустимости наделения ИИ легальным статусом, поскольку это лишит людей юридической возможности «выключить» систему, демонстрирующую зачатки самосохранения и обхода протоколов безопасности. Прозрение патриарха: опаснее атомной бомбы Особое значение имеют заявления лауреата Нобелевской премии Джеффри Хинтона, покинувшего Google ради возможности свободно говорить об угрозах. Гуру ИИ признает, что долгое время недооценивал масштаб проблемы, сравнивая риски ИИ с обычными экологическими побочными эффектами прогресса. Появление архитектур типа ChatGPT изменило его мнение: Хинтон проводит параллель с проектом «Манхэттен», подчеркивая, что ИИ обладает куда большей разрушительной мощью, чем ядерное оружие. По оценкам ученого, вероятность гибели человечества из-за действий сверхразума выросла до 20%. Основная причина кроется в скорости обучения машин: переход от помощника к доминирующему субъекту может занять месяцы. Сценарий «бунта машин», описанный Карелом Чапеком и Алексеем Толстым век назад, обретает пугающую реалистичность в устах человека, чьи алгоритмы лежат в основе современных нейросетей. Милитаризация и «безумие» правового вакуума Стремительное внедрение ИИ в военную сферу создает условия для глобального Армагеддона. Автономные беспилотники нового поколения уже способны самостоятельно определять цели и принимать решение на поражение без участия оператора. Хинтон называет безумием ситуацию, при которой современные законы, включая европейский AI Act, выводят военное применение интеллекта из-под действия ограничительных норм. В погоне за победой любой ценой государства снимают этические барьеры, превращая планету в полигон для роботов. Капитализм и геополитика: двигатели бесконтрольной гонки Остановить развитие опасных технологий мешают два фундаментальных фактора: рыночная конкуренция и борьба за мировое лидерство. Корпорации обязаны максимизировать прибыль, что заставляет их игнорировать социальные риски. Одновременно Вашингтон и Пекин вступили в жесткую фазу технологического противостояния. Китайская модель DeepSeek-R1, сопоставимая с ChatGPT, и американские инвестиции в инфраструктуру Stargate объемом 500 миллиардов долларов свидетельствуют о том, что гонка вооружений в сфере ИИ приобрела необратимый характер. Биологический меч сверхразума Наиболее изощренной угрозой Хинтон считает способность ИИ создавать биологическое оружие. Сверхмощные алгоритмы упрощают синтез новых вирусов, превосходящих по летальности любые известные патогены. Для сверхразумной системы биологическая атака является идеальным средством избавления от человечества, так как она смертоносна для биологических видов, но абсолютно безопасна для кремниевых носителей интеллекта. Подобно создателям атомной бомбы, нынешние лидеры науки мучаются угрызениями совести, понимая, что выпущенный ими цифровой джин не намерен возвращаться в бутылку. #ВеликийТ