FSCP

Всё чаще в мыслях и разговорах возвращаюсь к пределам полезности ИИ. Ещё недавно рассуждения о том, что ИИ лишает нас человечности, казались мне антитехнологическим консерватизмом, с которым даже сложно было спорить — настолько, казалось, на разных мировоззренческих позициях мы стоим. Теперь и в себе замечаю похожие нотки. Изначальное полное очарование ИИ сменилось более нюансированным отношением. Причин я для себя вижу три, и первые две вполне обыденные. 1. Безграничное "докручивание" продукта или идеи. Польза каждой следующей итерации падает, а сам шаг кажется бесплатным. Остановиться можно только усилием воли. Или точным определением конечного результата, "definition of done". Но это скорее про кодинг, чем про юридические задачи, где многое зависит от оценки рисков (классическое юристское "it depends"). Плюс, модели зачастую отдаёшь задачи, в которых сам не очень разбираешься, поэтому не всегда есть возможность адекватно "на берегу" оценить эти риски и параметры их предотвращения. 2. Ожидание ответа модели. Непонятно, сколько ещё ждать и стоит ли переключиться на другую задачу. В итоге ощущение большей эмоциональной высосанности, чем если бы просто сфокусированно работал над задачей. Хотя при быстрых ответах модели можно и вполне войти в состояние "потока". 3. И в более экзистенциальную степь — мысли о том, что ты сам представляешь из себя без ИИ. Понимаю, что у разработчиков это уже мейнстрим коллективного сознания. На Hacker News подобное активно обсуждали ещё в феврале. Думаю, что волна будет постепенно докатываться и до представителей прочих профессий интеллектуального труда. Тут вспомнился Иван Иллич с его изящным ходом: пройдя определённый предел, дойдя до "радикальной монополии", инструмент уничтожает среду, в которой можно обойтись без него. Например, школа монополизирует учёбу, и тот, кто учился вне её, на семейном обучении, официально может считаться "необразованным". С ИИ схожее уже видно на уровне среды — конкурировать без него с активными адептами становится всё сложнее. И отдельно, интересно перенести тот же ход на личную практику, попробовать замечать, когда помощник превращается в узурпатора. Но, судя по себе, это довольно непросто. Раз так, интересно подумать, может ли в этом помочь сам инструмент. Может ли производитель модели или ИИ-продукта сознательно ограничивать зависимость от него? Для пользовательских продуктов это маловероятно без внешнего регулирования, так как падает retention, ключевая метрика удержания клиентов. А вот внутри компании метрика "зависимости" как раз была бы полезна — по крайней мере там, где ошибка дорого стоит. Здесь человеческая автономия совпадает с интересом бизнеса в максимальном качестве решений (само собой, при адекватных затратах на них 😎). Копаясь в информации на этот счёт, обнаружил, что в авиации это уже так и устроено. Об эрозии навыков пилотов из-за автоматики там говорят больше десяти лет, и требования или рекомендации по ручному пилотажу вводят регуляторы и авиакомпании (а не производители самолётов, продолжая аналогию выше). Американский FAA, например, советует авиакомпаниям давать пилотам летать вручную — и на тренировках, и в рейсах, именно чтобы не деградировали навыки. Возвращаясь к корпоративной среде, интересно подумать, какими метриками мерить такую зависимость, которая влияет именно на качество решений. Основное, наверное, — насколько человек замечает ошибки модели, в том числе заложенные в выдачу специально. Ну и, вероятно, повышать осознанность самого процесса. Как писал выше, в юридических задачах классический definition of done ставит {...продолжить в источнике} _______ Источник | #pravo256 @F_S_C_P ------- Поддержи канал подпиской -------