Думать о будущем у нас не принято, да и в человека заложена программа отрицания завтра. Но бывают среди нас и визионеры. Вот нашумевшее интервью Мельниченко Илона Маска The Economist важно не потому, что он назвал очередную дату наступления сингулярности (что это?). В конце концов, со сроками Маск ошибается довольно часто. Куда важнее, что один из главных технологических предпринимателей мира впервые настолько цельно описал будущее, в котором человек перестает быть основным производителем, главным носителем интеллекта и даже субъектом управления. По прогнозу Маска, уже через 5 лет ИИ превзойдет совокупный интеллект человечества, а через 10 лет люди окончательно потеряют над ним контроль. Сам Маск по-прежнему оценивает вероятность уничтожения человечества искусственным интеллектом в 10–20%, но теперь предлагает просто «наслаждаться поездкой». Прогресс все равно не остановить. Но, как мне кажется, в этом есть очевидное противоречие. Маск предупреждает об опасности, которую сам же активно создает. А в качестве страховки предлагает взаимный аудит моделей крупнейшими ИИ-компаниями. То есть несколько корпораций, соревнующихся за технологическое лидерство и триллионы долларов, должны одновременно контролировать друг друга. Это немного напоминает клуб ядерных держав без какого-либо МАГАТЭ. Еще интереснее экономическая часть его прогноза. Роботы и ИИ выполняют почти всю работу, товары становятся предельно дешевыми, а государства выплачивают людям «универсальный высокий доход». Получается своеобразный коммунизм, построенный крупнейшими частными корпорациями, где роботы принадлежат бизнесу, а государство только раздает гражданам вэлфер. Но Маск, возможно, пропускает важное звено. Почему владельцы ресурсов 4.0 должны делиться произведенным богатством со всеми? Изобилие само по себе не гарантирует равенства. Земля, жилье, энергия, медицина, безопасность и политическое влияние все равно останутся ограниченными ресурсами. Поэтому из одной и той же технологической революции могут родиться два совершенно разных мира. Первый – общество изобилия, в котором выигрыш от автоматизации распределяется между всеми. Второй – цифровой феодализм, где несколько корпораций контролируют производство, знания и инфраструктуру, а остальные получают установленное ими содержание. И еще один вопрос, на который Маск не отвечает. Работа дает человеку не только зарплату. Она дает социальный статус, круг общения, ощущение собственной необходимости и понятную жизненную траекторию. Если миллиарды людей окажутся экономически необязательными, главной проблемой станет не бедность, а ненужность. Эту проблему уже активно обсуждали и предлагали решать ее при помощи геймификации, типа как в фильме «Последнему игроку приготовиться» и т.д. Но самая важная фраза Маска в этом интервью звучит почти случайно. ИИ сможет делать все лучше человека, «кроме, возможно, самого бытия человеком». Но именно это «возможно» и является главным вопросом будущего. Маск описал не просто конец привычного труда, а возможный «переход» человека в новое состояние, как экономического и политического субъекта. Новая технологическая элита предлагает обществу своеобразный договор. Но в этом образе будущего «общества-попутчика ИИ» нет ответа на главный вопрос: оно вообще с человеком или без? И хорошо бы, чтобы этот вопрос стал важным для политической дискуссии сейчас, в начале пути. А не мелочные разборки за реликвии и ненужные уже побрякушки вчерашнего дня.