Цифра и традиция // Валерий Сидоренко

🤔 Как роботизация работает в обе стороны В последние месяцы активнее начали обсуждать «обратную ИИ-фикацию»: когда люди, часто применяющие нейросети, сами начинают имитировать слог и манеру чат-ботов. В этой теме всё не так просто, поэтому хочу добавить к дискуссии пару мыслей. В августе в журнале AI & Society вышло свежее исследование этого феномена от трех университетов. Ученые пишут: чат-бот не понимает метафоры и нестандартные просьбы, поэтому человек вынужден упрощать формулировки промпта, чтобы быстрее получить ответ. Чем чаще происходит упрощение, тем глубже закрепляется привычка к нему у пользователей – как у собачек Павлова. Общим местом за последние годы стал стереотип, что у нейронок есть «любимые слова» вроде delve («углубиться») и meticulous («скрупулезный»). Институт Макса Планка разобрал больше 740 тысяч часов YouTube-лекций и подкастов и выяснил, что даже в живой, неотрепетированной речи заметно выросло их употребление. Но последние модели нейронок уже перестали делать акцент на каких-то конкретных словах (теперь они переходят на вероятностное распределение синонимов, о чем как-нибудь расскажу отдельно). Кстати, это работает и между разными национальностями: в Университете Корнелла дали ИИ-автодополнение американцам и индийцам, и тексты обеих групп стали похожи друг на друга, причем за счет индийского стиля. Вот вам и еще один инструмент «мягкой силы» и культурного доминирования. 🔻Скажу, возможно, непопулярную вещь: в самой этой шаблонности я не вижу никакой трагедии. Чем структурнее люди формулируют мысли, тем проще им договариваться между собой. Я давно говорю: когда у задачи есть четкое ТЗ и понятный результат, работа идет эффективнее и без недопониманий. Всё великое построено на правилах и шаблонах – от бухучета до освоения космоса. Иконопись веками живет в строгом каноне, и живой от этого быть не перестает. Вопрос, на мой взгляд, в другом: чей это шаблон и кем он навязан? Исследование Корнелла . показало: даже индийцам ИИ чаще подсказывает пиццу как любимое блюдо и Рождество как любимый праздник. Это показывает, что «усредненная» речь нейронки – совсем не усредненная, а заточенная под конкретные западные образцы. Если люди (особенно дети) будут подстраиваться под чужие модели, их отформатируют по чужим лекалам. И второе: шаблон хорош в форме, но не в мышлении. В антиутопию уходить не хочу, но вспомните Замятина: в «Мы» люди живут по Часовой Скрижали не потому, что сами выбрали порядок, а потому что за них решили. Критическое мышление полезно и в жизни, а в работе с ИИ – вдвойне: без естественного интеллекта искусственный не поможет. 🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻 Цифра и Традиция ✍️🍌🍌🍌