Никита Одинцов

Гонка локальных моделей в мире не прекращается: что ни неделя, то новый релиз, новые графики, очередная «аблитерированная», «нецензурированная» или, наоборот, «безопасная» версия. Можно бесконечно за этим гнаться. Но по своему опыту я понял одно главное правило- сначала стоит честно ответить себе на один вопрос: зачем тебе вообще локальная LLM? У меня всё сводится к двум вещам. Насколько модель обучаема и насколько точно она потом делает то, чему ты её научил. «Безотказность» - это медаль с двумя сторонами. С одной стороны, модель не упирается и не читает нотаций. С другой, если она не держит рамки, то и тебя слушаться не будет. А в бизнесе модель, которую нельзя научить делать по-твоему, - это не свобода, а источник проблем. Хайп про «модель без отказов» обычно об этом молчит. Поэтому, прежде чем качать очередные 300 ГБ, разберись в четырёх вещах: • сколько у тебя железа; • сколько у тебя задач; • какие это задачи; • какой архив данных нужен, чтобы модель им училась. Дальше выбираешь модель под эти ответы, учишь её и развиваешь. Самая хайповая модель недели тут ни при чём. Ну по-крайней мере я так думаю сегодня.