☝️☝️☝️ Машина, которая не знает, что вы знаете, что не знаете что вы знаете На лекции «НОВОЙ ЭРЫ» в РЭУ имени Плеханова говорили об искусственном интеллекте. Да-да, не первый раз, но если о нем не говорить, он не спрячется под кроватью. Совершенно не хочется и спорить с позицией Александра Томаса. Пользоваться ИИ действительно надо учиться, особенно судя по количеству нейрослопа в ленте коротких видео. Уверяем вас, до всеобщей технологической грамотности нам ещё несколько промптов и девять тысяч световых лет. Но сами тезисы скорее позитивные. Обсуждали будущее (в общем-то недалекое), в котором у каждого из нас появится электронный секретарь, знающий наши привычки, интересы, вкусы и предпочтения. Идеальный помощник или ИИ-агент, способный предугадывать желания своего хозяина. Есть, правда, одна антропологическая неувязочка. Человек, к сожалению инженеров, представляет собой изделие незавершённое. Сегодня он любит Достоевского, завтра открывает для себя Ницше, послезавтра обнаруживает, что последние десять лет вообще неправильно понимал обоих. А затем Булгаков становится его литературным кумиром. Иными словами, наши предпочтения не только причина наших поступков, но и их результат. Мы уже познакомились с алгоритмами TikTok и других социальных сетей. Сложными, непрозрачными, непрерывно изучающими наше поведение. Посмотрели одно видео, задержались на втором и вот уже система составляет довольно убедительный портрет наших интересов. А затем предлагает нам всё новые возможности подтвердить правильность этого портрета, закручивая в спираль эхо-камеры. Но что произойдёт, когда подобная логика поселится не в ленте развлечений, а в нашем персональном интеллектуальном помощнике? Узнаем ли мы когда-нибудь о причудливой истории Парагвайской войны? О том, как размножаются улитки? Наткнёмся ли на забытого философа, совершенно нелепую научную гипотезу или дурно написанный трактат, в котором неожиданно обнаружится одна замечательная мысль? Зачем показывать нам всё это, если машина прекрасно знает, что мы предпочитаем совершенно другое? Здесь можно возразить, что умный помощник избавит нас от информационного мусора, сомнительных утверждений и фактических ошибок. Предположим даже, что проблема галлюцинаций решена, все сомнительные утверждения проверяются семью перекрестными ссылками на авторитетные журналы. Всё проверено, подтверждено, одобрено и даже правильным образом зацензурировано, чтобы дети, не дай бог, не узнали про что пишут на заборах. ⁉️Мир наконец-то стал интеллектуально безопасным Но ведь человеческое познание состоит не только из накопления правильных ответов. Оно предполагает выдвижение гипотез, сомнение, заблуждение, столкновение с тем, что не укладывается в привычную картину мира. Более того, новые идеи по определению ещё не располагают всей той доказательной базой, которой располагают старые. Иначе они не были бы новыми. Соответственно, как часто их будет предлагать ИИ, будь даже он отточен с точностью камертона быть кем-то средним между Кантом и Эйнштейном? Разумеется, ошибочная мысль не становится ценной только потому, что она ошибочна. Но возможность ошибиться необходимая цена самостоятельного мышления. В конце концов, если машина будет всегда сообщать нам только то, что мы хотим знать, как мы вообще узнаем о существовании того, чего ещё не знаем, и что хотим узнать?