Приключения социолога и единороги

Последние несколько дней хайп вокруг Jev в Threads и X (запрещены в РФ) и на Reddit поражает! Расскажу максимально просто, что это такое и почему говорить о замене LLM пока рано. Представьте нейросеть, которой не поручают отвечать на вопросы. Ей поручают выбирать между заранее заданными вариантами. Например, перед ботом запрос: «разбери код на скриншоте». Jev не пишет ответ и не рассматривает картинку вместо нас. Он получает описание задачи и список подходящих моделей, а возвращает выбор: кому этот запрос отдать. Такой очень умный if, который умеет читать человеческий язык. И вот это на самом деле интереснее очередного чат-бота или агентной системы. Ровно год назад я написал маршрутизатор, который анализировал запрос пользователя по различным признакам и на основе семантического анализа решал, к какой модели его отправить. А если семантика не справлялась, запускалась маленькая LLMка и принимала решение сама. Маршрутизатор постоянно обновлялся, с помощью методов машинного обучения адаптировался к разным типам запросов, опирался на обратную связь — и в итоге разросся до 2500 строк кода. Сегодня же я перевел бот на Jev — и вся система сократилась до 300 строк, а работает гораздо увереннее и качественнее. Бот сначала сам отсекает модели, которые пользователю недоступны или не умеют работать с изображениями. Если задача сложная, Jev выбирает из оставшихся; если простая — срабатывает обычное правило. Если Jev ошибся или API недоступен, бот тоже возвращается к правилу. Никакого «нейросеть решила, значит можно» — права доступа остаются в коде. Пожалуй, для меня все вышеописанное и есть главная перспектива: не просить большую модель принимать каждое маленькое решение. Jev становится эффективным валидатором решений, принятых LLM, или, наоборот, отправляет в LLM только то, что действительно необходимо. Так можно сортировать письма, отбирать материалы для исследования, направлять запросы разным инструментам.