Заметки инженера - исследователя

Отупление не самое страшное. Утром я прочитал мысль о том, что ИИ сделает нас тупее. Может и так. Но меня тревожит другое. Во-первых, мы можем стать не столько глупее, а более одинаковыми. Каждый индивидуально станет чуть сильнее, напишет текст получше, подберёт аргумент. Но для цивилизации важна не средняя сила, а разброс. Разнообразие взглядов, подходов, даже странностей. Если ИИ выравнивает нас под один шаблон, это может быть куда опаснее, чем потеря нескольких баллов IQ. Во-вторых. Критическое мышление целых наций умели отключать задолго до ИИ. Радио в нацистской Германии, телевидение, массовая пропаганда отлично справлялись с этим задолго до нейросетей. ИИ не создаёт проблему из ничего. Он просто очень удобно ложится на старую человеческую слабость — желание обменять сложность на комфорт, сомнение на уверенный готовый ответ. Мы давно научились жить не там, где растёт самореализация, а там, где бесконечно расширяется потребление. Пирамида Маслоу это не новый экскалатор, а старый лифт, который застрял на этаже «материальное потребление». Кадавр, «модель человека, неудовлетворённого желудочно» из повести братьев Стругацких «Понедельник начинается в субботу»сегодня поглощает уже не только еду, но и контент, внимание, рекомендации и готовые мысли. Последнее. Ну хорошо, допустим, мы действительно станем глупее. Но это не самое страшное. Страшно, если большинство станет одновременно глупыми и жадными. Глупость не позволяет увидеть последствия. Жадность не позволяет остановиться. А ИИ способен многократно усилить и то, и другое. Поэтому разговор об «отуплении» кажется мне слишком поверхностным. Вопрос не в том, станем ли мы тупее. Вопрос в том, останемся ли мы разными, самостоятельными и способными сказать себе «хватит». Кадавру можно выдать самый мощный искусственный интеллект. От этого он не станет человеком, он станет лишь более эффективным кадавром. И вот тогда действительно кирдык.