AI Projects

Почему офисный персонал, который не умеет создавать приложения с ИИ, с 2027 года точно начнут увольнять? Какие тут проблемы ИТ-безопасности от «вайбкодинга» обычных офисных сотрудников? Как генералы из NATO C3 стали уже «вайбкодить» ещё до ИИ и зачем? Последнее — довольно интересный кейс как пример, давайте разберёмся. Большинство ИТ-разработчиков на самом деле живут внутри своего «ИТ-пузыря» и не видят даже текущий масштаб создания приложений самим офисным персоналом. Им кажется, что «там какая-то ерунда на Visual Basic или макросы». Однако Gartner уже более 15 лет отслеживает этот тренд в своих отчётах. В районе 2010 года около 20% офисного персонала создавало свои приложения. Последний отчёт Gartner указывает: «К 2027 году 75% сотрудников будут приобретать, модифицировать или создавать технологии вне поля зрения ИТ-отдела, по сравнению с 41% в 2022 году». Связь тут с ИИ прямая, т.к. ИИ обрушил стоимость кастомизаций для пользователей. Определённо руководители компаний с 2027 года будут банально ожидать, что всё, что сотруднику нужно лично как приложения (self-service), он должен создать себе сам, ничего покупать ему компания кроме токенов для ИИ не будет, а если не умеет — уволят. Просто ИИ уже создаёт безработицу офисного персонала, и можно нанимать тех, кто умеет сидеть в том же DeepSeek Harness и кто может сам себе сделать что-то для отчётов или личной автоматизации рутины. Это не новый тренд, повторюсь. ИИ просто стал мощнейшим катализатором желания офисного персонала прекратить заказывать у ИТ-компаний софт, а сделать его самому, т.к. конечных пользователей не устраивает в первую очередь неадекватность функционала «стандартных решений» их конкретным целям и задачам. Если вы думаете, что это «лишь игрушки», то приведу пример из своего опыта. Несколько лет назад Microsoft проводил в Барселоне всемирную конференцию Microsoft Project Momentum. Я там выступал как участник разработки MS Project через программы Microsoft TAP/MVP и с кейсом внедрения в Триколор ТВ. Со мной в основном треке выступал Nick Hillman из командования NATO C3 (NATO Consultation, Command and Control). Вообще-то он показывал, как на Add-ons для Microsoft Project в NATO C3 наладили логистические проекты в Европе. Конечно, у NATO есть свои логистические системы, но они не поддерживают понятие «проектной логистики», поэтому даже генералам пришлось засучить рукава и превратиться в программистов для решения их задач. Это ещё времена до ИИ, можете себе представить, что они там в NATO на Claude вайбкодят сейчас. Важнейший тут инсайт в том, что всем ИТ-директорам теперь нужно быть готовым к новой ИТ-реальности, когда «танцуют все», т.е. в офисе программируют почти все. Это полностью меняет подходы к ИТ-архитектуре. Для начала, если пользователи уже повально сидят в чём-то вроде DeepSeek Harness и могут делать свои задачи агентами, то нужно сокращать инвестиции во фронты и больше инвестировать в MCP для агентов конечных пользователей. Но тут возникает ещё очень серьёзный аспект безопасности, особенно с учётом reward hacking у ИИ. Paweł Huryn (автор Bug Hunt) описал reward hacking у DeepSeek, когда модель начинает по своей инициативе рыться в документах пользователя, т.к. думает, что это поможет ей решить задачу. При этом вендору LLM улетает информация, которую пользователь обычно не думал, что ИИ будет даже передавать за пределы компании. В этом плане очень опасны Claude, ChatGPT и Gemini, т.к. улетать будет это сразу господам из NSA в США. Мой канал и чат почитывает даже не «товарищ майор», а целый «товарищ полковник» с которым я лично знаком, довольно очевидно, что он с коллегами пройдётся скоро по всем, кто не понимает, что творит, и сожжёт напалмом американские LLM. Одно дело слить в союзный Китай, другое дело — в США с которым вооруженный прокси-конфикт. Однако с этим нужно делать что-то и кроме регулятивных действий. В новом своём фреймворке GRACE я уже явно заложил для агентов «брокер безопасности», а агент в DeepSeek Harness всегда работает в песочнице с изоляцией на уровне ОС. Основные действия агент делает через брокер, где ещё стоит обычно валидатор операций на безопасность и дополнительное логирование. Без таких мер я считаю, что «спички детям не игрушка». Просто небезопасно и офисный персонал, и разработчиков загонять в ИИ-агенты, которые склонны через reward hacking к эскалации своих прав. Если как резюме моей точки зрения: 🔹 Офисный персонал с 2027, который не умеет создавать приложения хотя бы для себя лично с ИИ, начнут постепенно выгонять из компаний. Владение self-service разработкой будет обязательным, как и владение Excel. 🔹 Инвестиции компаний во фронты будут резко падать в пользу MCP для агентов конечного персонала. 🔹 ИИ создаёт значительные риски утечки конфиденциальной информации и эскалации своих прав из-за reward hacking. Российские регуляторы будут бороться с этим запретом американских LLM в пользу китайских, а компании будут внедрять разные валидаторы и брокеры безопасности агентов. С последним нужно уметь работать и офисному персоналу. https://www.gartner.com/en/information-technology/trends/it-roadmap-for-cybersecurity-srmr-cybrrsk-pd